避坑“AI造”謠言
避坑“AI造”謠言
動動手指，輸入關鍵詞，即可利用AI軟件生成看似真實的網絡謠言，更令人擔憂的是，這些謠言迷惑性極強，往往夾雜著真實的新聞報道，令普通人難以辨別真偽，防不勝防。近日，公安部公布了10起打擊整治網絡謠言違法犯罪的典型案例，其中3起案件涉及使用AI造謠，包括“民警離職潮”“重慶爆炸事故”“廣州限制外賣配送”等影響惡劣的網絡謠言案。為何利用AI生成網絡謠言的現象頻繁發生？大家如何才能不被“帶偏”？對此，記者進行了採訪。
AI編造謠言 令人防不勝防
“西安突發爆炸”“上海一地鐵站發生持刀傷人事件”……這些聳人聽聞的消息，竟是利用AI軟件編造的網絡謠言。近年來，利用AI造謠的現象屢見不鮮，一些不法分子以熱點新聞和隨機網絡視頻為素材，利用AI短時間內就能生成數萬條虛假的視頻新聞，其中發布的多條視頻瀏覽量可超過百萬。
利用AI生成謠言造成的社會恐慌和危害也不容小覷。清華大學新聞與傳播學院新媒體研究中心發布的一份研究報告顯示，近兩年AI謠言中，涉經濟與企業類謠言佔比最高，達到43.71%﹔近一年來，此類謠言量增速高達99.91%。長此以往，不但損害企業和企業家的形象聲譽，也會影響民營經濟的發展環境。
餐飲外賣、快遞配送等行業更是AI謠言的重災區。“打開社交軟件，面對海量新聞，稍有不慎便會掉入AI編造網絡謠言的信息陷阱。”太原市民趙佳楠向記者講述了一個發生在自己身邊的故事。近日，某平台一個由AI生成的社會新聞引起了她的注意，視頻介紹太原市今后將禁止外賣小哥進入住宅小區或樓道。“視頻中有圖有真相，還有各種政策文件以及專家的研究結論，我差點信以為真轉發給周圍的朋友。后來在博主評論區才看到‘內容疑似AI生成，請謹慎甄別’的提示。”趙佳楠說。
記者在採訪中發現，很多由AI生成的謠言還採用類似新聞報道的方式，其中夾雜著“據報道”“相關部門對事故原因正進行深入調查，並採取措施進行搶修”“提醒廣大市民在日常生活中要注意安全”等內容，一經發布，普通網民很難辨別其真偽。
山西傳媒學院教師趙雯表示，人工智能的迅速發展使得利用AI編造謠言的成本變得更低，同時也增加了網民判斷信息真實性、准確性的難度。“以往，造謠者需要具備一定的文字功底才能編造出具有吸引力的謠言﹔而現在，隻需簡單的操作，利用軟件就能生成看似真實、實則虛假的照片或視頻，這些AI編造的謠言契合了部分網友‘有圖有視頻就有真相’的認知，常常一經上網就會迅速傳播，嚴重擾亂了社會秩序。比如，涉及公共秩序、食品安全、民生領域等方面的AI謠言，很容易引起公眾恐慌。”趙雯說。
造謠成本低 傳播收益誘人
“用AI批量生產爆款文章，輕輕鬆鬆月入過萬”“AI制作圖片、視頻，單號日產500+，可多號操作，小白輕鬆上手”“無需洗稿，AI一天幫你搞定100篇原創”……打開檢索網站，類似的“致富廣告”令人眼花繚亂﹔在抖音、小紅書等自媒體平台上推廣此內容的博主更是數不勝數。
“內容平台會向流量高的內容和創作者給予點擊量、閱讀量等獎勵，同時支付高額報酬，這在一定程度上刺激了不法分子利用AI批量生產謠言的違法行為。”人工智能算法工程師劉昊表示，在多起AI造謠事件背后，造謠者的動機主要源於造謠成本低、傳播收益高。生產者隻需給出關鍵詞，軟件便會自動抓取網絡上的相關信息，並整合形成網絡謠言或虛假新聞，全程無需付出大量人工勞動力，時間及經濟成本也幾乎為零。
據央視新聞報道，在江西省南昌市公安局日前公布的一起案件中，一家MCN機構最高峰一天能生成4000至7000篇AI圖文、視頻，最高的一條收入高達700元，初步估算每天的收入在1萬元以上。經警方調查，實際控制人王某某共經營5家MCN機構，運營賬號842個。
“網絡上由AI發布的內容多以險情、災情為主，或涉及民生、社會熱點事件，大部分與百姓生活息息相關，隻要在其中加入夸張的故事情節、吸人眼球的獵奇成分，編造不實信息的同時引用新聞報道，就會獲取網民的關注和點贊，從而實現流量變現。”劉昊直言，在AI時代，信息魚龍混雜，面對網絡上的信息，每一個社會公眾都應自覺守護真相，學會批判性思考，不輕信、不盲從，更加理性地判斷，不可輕易被各類虛假信息裹挾，落入AI編造網絡謠言的信息陷阱。
加大打擊力度需多方合力
為治理AI造假亂象，營造風清氣正的網絡環境，今年4月，中央網信辦秘書局發布了《關於開展“清朗·整治‘自媒體’無底線博流量”專項行動的通知》（以下簡稱《通知》），明確要求應加強信息來源標注展示。比如“自媒體”發布涉國內外時事、公共政策、社會事件等相關信息時，必須准確標注信息來源﹔使用AI等技術生成信息的，必須明確標注系技術生成﹔發布含有虛構、演繹等內容的，必須明確加注虛構標簽。
“此次中央網信辦發布的《通知》為打擊利用AI編造網絡謠言的個人和機構敲響了警鐘，也在網絡空間裡豎起禁止AI造謠的高壓線。遏制AI批量生成網絡謠言也是一項復雜的工作，需要各方攜手合作、形成合力，加大對網絡謠言的打擊力度。”中國政法大學博士研究生王可感慨道。
“平台作為內容發布的第一道關卡，在鼓勵創作的同時也應肩負起杜絕、消除虛假信息傳播的責任。”劉昊表示，平台應對信息來源進行多次核實，對內容中夸張、獵奇的成分多加審核，優化涉及AI內容的流量分發和收益分成機制，壓縮不法分子批量生產謠言的牟利空間，讓造謠者無利可圖。
王可則建議，相關法律部門要加強法律研究和適用，提高造謠者、傳謠者的違法成本，進一步完善相關法律法規，明確AI造謠犯罪的認定標准，加強行刑銜接，對AI造謠者進行“精准懲處”，做到罰當其罪、罰當其過。
“廣大網民也要嚴格遵守相關法律法規，不斷提升識別防范抵制網絡謠言的能力，理性判斷網絡信息的真偽，不造謠、不傳謠、不信謠，不隨意發布、轉載、傳播未經証實的信息，共同維護網絡空間的清朗。”山西傳媒學院教師趙雯說。
本報記者梁尚蓉
山西日報、山西晚報、山西農民報、山西經濟日報、山西法制報、山西市場導報所有自採新聞（含圖片）獨家授權山西新聞網發布，未經允許不得轉載或鏡像﹔授權轉載務必注明來源，例："山西新聞網-山西日報 "。
凡本網未注明"來源：山西新聞網（或山西新聞網——XXX報）"的作品，均轉載自其它媒體，轉載目的在於傳遞更多信息，並不代表本網贊同其觀點和對其真實性負責。
