▲類似謠言接二連三出現(xiàn)，無比迫切地說明，在生成式人工智能時代，我們面臨更為嚴(yán)峻更為復(fù)雜的謠言治理挑戰(zhàn)。圖/IC photo
所謂“超一線男星澳門賭博輸10億”的傳言被辟謠了。
據(jù)央視新聞報道，公安網(wǎng)安部門查明，網(wǎng)民徐某強(qiáng)（男，36歲）為博取流量、謀取非法利益，于2025年3月10日10時，使用軟件“某書”中AI智慧生成功能，輸入社會熱點(diǎn)詞制作了標(biāo)題為“頂流明星被曝境外豪賭輸光十億身價引發(fā)輿論海嘯”的謠言信息，并對外發(fā)布，嚴(yán)重擾亂公共秩序。公安機(jī)關(guān)根據(jù)相關(guān)法律法規(guī)，對徐某強(qiáng)處以行政拘留8日的處罰。
所謂的“驚天大瓜”，不過是又一個拙劣的謠言。徐某強(qiáng)“喜提”8日行拘，也算是“求仁得仁，又何怨乎”了。
回過頭來看這則謠言，又是“超一線男星”，又是“澳門賭博”，加上驚悚的“輸?shù)?0個億”這樣的“炸裂”情節(jié)，妥妥的爆款話題。但其又不指名道姓，在“似與非似”之間讓網(wǎng)民“猜猜猜”。
被對號入座的周杰倫、黃曉明紛紛無奈辟謠，可誰又在意“六子到底吃了幾碗粉”？造謠者要的是制造話題中心的爽感與流量，“吃瓜群眾”滿足了窺私欲，得到了社交談資，謠言注定一發(fā)不可收拾地鋪滿了全網(wǎng)。
這則謠言，讓人想起前段時間那條駭人聽聞的“80后死亡率”傳言。有消息言之鑿鑿稱，“80后死亡率突破5.2%，相當(dāng)于每20個80后中就有1人已經(jīng)去世”，配上所謂第七次全國人口普查的“權(quán)威數(shù)據(jù)”，一下子就收割了大批信以為真的群眾。只是，這則傳言最終同樣被證實(shí)為“AI造”。
類似謠言接二連三出現(xiàn)，無比迫切地表明，在生成式人工智能時代，我們面臨更為嚴(yán)峻更為復(fù)雜的謠言治理挑戰(zhàn)。AI加持之下，只要給大模型軟件提供一個清晰指令，它就能快速生成一個有鼻子有眼的謠言，造謠的難度與成本大大降低。與此同時，因?yàn)檫@類謠言借助了豐富的大模型語料庫，生成的謠言足夠以假亂真，這又進(jìn)一步提高了謠言的辨識與溯源難度，辟起謠來也就更加困難。
謠言的生成與治理，歸根結(jié)底還是一個AI技術(shù)倫理的問題。應(yīng)該清醒地認(rèn)識到，目前能被公開辟謠的AI謠言只是極少數(shù)，因?yàn)橹{言只有進(jìn)入公共視野，才有機(jī)會得到有效介入。還有大量的AI謠言混雜在海量互聯(lián)網(wǎng)信息中，逐個兒辟謠如大海撈針，幾乎不可能。眼下最務(wù)實(shí)的辦法，可能還是從技術(shù)源頭入手，堵住AI謠言的制造與傳播路徑。
兩會期間，就有人大代表提出，有必要對AI生成的內(nèi)容進(jìn)行強(qiáng)制標(biāo)識，并明確對人工智能深度合成服務(wù)商未履行標(biāo)識義務(wù)的懲罰制度。這一建議得到很多網(wǎng)友的附議。大家相信，只要做到“所見即所得”，謠言就會被輕易識破。
事實(shí)上，對AI生成內(nèi)容強(qiáng)制標(biāo)識，已經(jīng)被寫進(jìn)了《生成式人工智能服務(wù)管理暫行辦法》與《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》兩部部委規(guī)章。譬如后者就明確規(guī)定：深度合成服務(wù)提供者對使用其服務(wù)生成或者編輯的信息內(nèi)容，應(yīng)當(dāng)采取技術(shù)措施添加不影響用戶使用的標(biāo)識，并依照法律、行政法規(guī)和國家有關(guān)規(guī)定保存日志信息?！掇k法》也做了類似要求。
這表明，AI生成內(nèi)容強(qiáng)制標(biāo)識在政策層面已經(jīng)達(dá)成了共識，并被納入了治理軌道。但現(xiàn)在，仍有一些大模型工具與平臺，沒有做好銜接與落地。人們經(jīng)常看到，在一些短視頻平臺上，AI生成的內(nèi)容會被打上明顯標(biāo)識，但在圖文類平臺上，這種標(biāo)識似乎依然少見。
當(dāng)然，政策層只是提出了一個籠統(tǒng)要求，執(zhí)行層面如何標(biāo)識，還需要各大模型公司在實(shí)踐中不斷摸索。譬如，怎樣標(biāo)識才能讓人看出“一眼假”？如何平衡內(nèi)容安全與創(chuàng)作自由的關(guān)系？如果有人在傳播過程中將標(biāo)識刻意剪掉又該如何預(yù)防與處理？這些問題都需要在實(shí)際場景中一一對應(yīng)破解。
AI勢必會給人類生活帶來巨大改變，AI造假也是新技術(shù)興起之時難以避免的衍生問題。我們不能奢望AI時代是個一塵不染的美麗新世界，但盡可能地為新技術(shù)套上道德倫理籠頭，讓虛假信息遠(yuǎn)離我們的生活，值得所有人為之努力。在此過程中，互聯(lián)網(wǎng)技術(shù)平臺需秉持技術(shù)向善，網(wǎng)民需要提高AI素養(yǎng)，監(jiān)管和法律也必須及時跟上技術(shù)進(jìn)步，確保用戶權(quán)益不被AI侵犯。
撰稿 / 新京報評論員 王言虎
編輯 / 遲道華
校對 / 趙琳
