动动手指，输入关键词，即可利用AI软件生成看似真实的网络谣言，更令人担忧的是，这些谣言迷惑性极强，往往夹杂着真实的新闻报道，令普通人难以辨别真伪，防不胜防。近日，公安部公布了10起打击整治网络谣言违法犯罪的典型案例，其中3起案件涉及使用AI造谣，包括“民警离职潮”“重庆爆炸事故”“广州限制外卖配送”等影响恶劣的网络谣言案。为何利用AI生成网络谣言的现象频繁发生？大家如何才能不被“带偏”？对此，记者进行了采访。

AI编造谣言 令人防不胜防

　　“西安突发爆炸”“上海一地铁站发生持刀伤人事件”……这些耸人听闻的消息，竟是利用AI软件编造的网络谣言。近年来，利用AI造谣的现象屡见不鲜，一些不法分子以热点新闻和随机网络视频为素材，利用AI短时间内就能生成数万条虚假的视频新闻，其中发布的多条视频浏览量可超过百万。
　　利用AI生成谣言造成的社会恐慌和危害也不容小觑。清华大学新闻与传播学院新媒体研究中心发布的一份研究报告显示，近两年AI谣言中，涉经济与企业类谣言占比最高，达到43.71%；近一年来，此类谣言量增速高达99.91%。长此以往，不但损害企业和企业家的形象声誉，也会影响民营经济的发展环境。
　　餐饮外卖、快递配送等行业更是AI谣言的重灾区。“打开社交软件，面对海量新闻，稍有不慎便会掉入AI编造网络谣言的信息陷阱。”太原市民赵佳楠向记者讲述了一个发生在自己身边的故事。近日，某平台一个由AI生成的社会新闻引起了她的注意，视频介绍太原市今后将禁止外卖小哥进入住宅小区或楼道。“视频中有图有真相，还有各种政策文件以及专家的研究结论，我差点信以为真转发给周围的朋友。后来在博主评论区才看到‘内容疑似AI生成，请谨慎甄别’的提示。”赵佳楠说。
　　记者在采访中发现，很多由AI生成的谣言还采用类似新闻报道的方式，其中夹杂着“据报道”“相关部门对事故原因正进行深入调查，并采取措施进行抢修”“提醒广大市民在日常生活中要注意安全”等内容，一经发布，普通网民很难辨别其真伪。
　　山西传媒学院教师赵雯表示，人工智能的迅速发展使得利用AI编造谣言的成本变得更低，同时也增加了网民判断信息真实性、准确性的难度。“以往，造谣者需要具备一定的文字功底才能编造出具有吸引力的谣言；而现在，只需简单的操作，利用软件就能生成看似真实、实则虚假的照片或视频，这些AI编造的谣言契合了部分网友‘有图有视频就有真相’的认知，常常一经上网就会迅速传播，严重扰乱了社会秩序。比如，涉及公共秩序、食品安全、民生领域等方面的AI谣言，很容易引起公众恐慌。”赵雯说。

造谣成本低 传播收益诱人

　　“用AI批量生产爆款文章，轻轻松松月入过万”“AI制作图片、视频，单号日产500+，可多号操作，小白轻松上手”“无需洗稿，AI一天帮你搞定100篇原创”……打开检索网站，类似的“致富广告”令人眼花缭乱；在抖音、小红书等自媒体平台上推广此内容的博主更是数不胜数。
　　“内容平台会向流量高的内容和创作者给予点击量、阅读量等奖励，同时支付高额报酬，这在一定程度上刺激了不法分子利用AI批量生产谣言的违法行为。”人工智能算法工程师刘昊表示，在多起AI造谣事件背后，造谣者的动机主要源于造谣成本低、传播收益高。生产者只需给出关键词，软件便会自动抓取网络上的相关信息，并整合形成网络谣言或虚假新闻，全程无需付出大量人工劳动力，时间及经济成本也几乎为零。
　　据央视新闻报道，在江西省南昌市公安局日前公布的一起案件中，一家MCN机构最高峰一天能生成4000至7000篇AI图文、视频，最高的一条收入高达700元，初步估算每天的收入在1万元以上。经警方调查，实际控制人王某某共经营5家MCN机构，运营账号842个。
　　“网络上由AI发布的内容多以险情、灾情为主，或涉及民生、社会热点事件，大部分与百姓生活息息相关，只要在其中加入夸张的故事情节、吸人眼球的猎奇成分，编造不实信息的同时引用新闻报道，就会获取网民的关注和点赞，从而实现流量变现。”刘昊直言，在AI时代，信息鱼龙混杂，面对网络上的信息，每一个社会公众都应自觉守护真相，学会批判性思考，不轻信、不盲从，更加理性地判断，不可轻易被各类虚假信息裹挟，落入AI编造网络谣言的信息陷阱。

加大打击力度需多方合力

　　为治理AI造假乱象，营造风清气正的网络环境，今年4月，中央网信办秘书局发布了《关于开展“清朗·整治‘自媒体’无底线博流量”专项行动的通知》（以下简称《通知》），明确要求应加强信息来源标注展示。比如“自媒体”发布涉国内外时事、公共政策、社会事件等相关信息时，必须准确标注信息来源；使用AI等技术生成信息的，必须明确标注系技术生成；发布含有虚构、演绎等内容的，必须明确加注虚构标签。
　　“此次中央网信办发布的《通知》为打击利用AI编造网络谣言的个人和机构敲响了警钟，也在网络空间里竖起禁止AI造谣的高压线。遏制AI批量生成网络谣言也是一项复杂的工作，需要各方携手合作、形成合力，加大对网络谣言的打击力度。”中国政法大学博士研究生王可感慨道。
　　“平台作为内容发布的第一道关卡，在鼓励创作的同时也应肩负起杜绝、消除虚假信息传播的责任。”刘昊表示，平台应对信息来源进行多次核实，对内容中夸张、猎奇的成分多加审核，优化涉及AI内容的流量分发和收益分成机制，压缩不法分子批量生产谣言的牟利空间，让造谣者无利可图。
　　王可则建议，相关法律部门要加强法律研究和适用，提高造谣者、传谣者的违法成本，进一步完善相关法律法规，明确AI造谣犯罪的认定标准，加强行刑衔接，对AI造谣者进行“精准惩处”，做到罚当其罪、罚当其过。
　　“广大网民也要严格遵守相关法律法规，不断提升识别防范抵制网络谣言的能力，理性判断网络信息的真伪，不造谣、不传谣、不信谣，不随意发布、转载、传播未经证实的信息，共同维护网络空间的清朗。”山西传媒学院教师赵雯说。

本报记者梁尚蓉