清扫AI时代的网络谣言

郑州市公安局的警务人员进入居民区，进行网络谣言的打击与治理宣传，李东旭提供照片。

九月份十五号到二十一号期间，2025年全国范围内举行了网络安全宣传周活动，这项活动规模很大，内容丰富，其中特别强调要主动拒绝网络上的虚假信息。

运输工人在经过河南省时丢了备用轮胎，郑州某个网络预约车辆驾驶员对乘客出言不逊，许昌清潩河区域发现了两条大型鳄鱼……最近，本省公开了若干网络虚假信息典型案例，这些列入内容刻意制造噱头吸引注意，不符合社会主流价值理念，十分严重地干扰了网络环境以及社会环境的正常状态。

当前短视频平台快速扩张，人工智能技术普及，网络谣言随之发生新转变。近期，记者前往公安、网信机构并咨询相关学者，详细研究网络谣言的新表现、新动向及处置方法，旨在让虚假信息被有识之士识破，一同营造健康网络环境。

现状谣言多发花样翻新

今年三月，一个关于顶流明星在澳门输掉十亿的虚假消息在网路上散播，引起了网友们的热烈讨论和种种臆测，这个话题很快登上了各大社交平台的热门榜单，对社会秩序造成了严重干扰。传播该谣言的网民徐某强，最终受到了八天行政拘留的惩罚。

当前移动通信普及，经由社交网站与短视频构建的新式信息渠道，虚假信息扩散速率迅猛增加。统计资料表明，某些经过周密设计的网络虚假言论爱游戏ayx官网登录入口，其影响范围往往达到千万量级，个别情况甚至超越亿级规模。据省委网信办互联网违法和不良信息受理机构负责人陈述，一条刻意编造的借势炒作虚假信息，可能在发布后半小时内跃居平台焦点排行、热门榜单，从而引发全国性关注。

网络谣言造成的社会后果，关键不在于其散布范围有多广，而在于其信息的危害性极大。部分关于公共安全、严重天灾、食品卫生、社会秩序以及国家方针政策的虚假信息，由于直接关系到民众生命财产安全和社稷安宁，非常容易造成民众惊慌失措，从而形成信息扩散与恐慌加剧相互促进的恶性循环。郑州市金水公安分局的民警杨靖这样认为。

消息人士从省互联网信息办公室网络举报中心获悉，目前，涉及本省的网络不实信息主要集中体现在农业、农村、农民问题，以及学校教育相关方面，还有涉及公共安全事件和自然现象异常等情况。

如今年夏天，关于洪涝灾害的谣言在我省一度集中传播——

夏邑县有位网民在短视频网站上上传了名为《这就是我们大夏邑》的视频，声称该县遭遇了水灾。经过查证，视频中的事发地点并非夏邑，其中一些画面实际上是去年其他省份暴雨时的情景。

网络用户“瞄一瞄”在某个社交平台不断上传视频，声称“河南许昌湛北，种植的烟草已经收成不佳，接下来还能种植什么作物”“今天已经连续淹没第八天，红薯还能生长吗”，视频画面显示许多农田遭遇水淹。经过查证，发现是发布者将往年的视频资料重新编辑，假扮成近期发生的事情发布出去。

无中生有、翻陈旧事件、暗箱操作，散布虚假信息的人总在变换策略制造谎言，致使网络空间受到极大破坏。对于这种持续更新的造谣活动，法律方面将怎样进行惩戒？河南警察学院侦查专业的王彬教授说明，对造谣者的惩治主要由网络信息、公安以及通信管理机构负责执行。

网络信息管理机构有权要求网络服务提供商切实履行其监管职责，针对编造和传播虚假信息的账号主体，可以采取清除违规内容、减少流量、禁止发言、永久禁止登录等手段；如果网络服务提供商未能履行内容审查责任，致使虚假信息广泛传播，可以责令其在规定期限内进行改正，或者依据《中华人民共和国网络安全法》等相关法律条文对网络服务提供商实施行政惩罚。

公安部门通常处置有违法乱纪嫌疑的个人或团体，主要参照《中华人民共和国治安管理处罚法》第二十九条中“有意传播虚假信息，上报紧急状况、传染病情、自然灾害、安全警讯，或采取其他方式恶意破坏社会安宁的”那项规定，实施必要的行政处罚措施；若行为恶劣，则会启动刑事程序进行追责。

监管部门根据《互联网信息服务管理办法》及相关法规,对未履行监管责任的网络内容供应商,会实施勒令停止运营、勒令关闭站点等行政处分措施。

武陟县公安局的警察们组织了针对网络谣言的宣传活动，进入学校进行讲解，这是樊浩然拍摄的。

背后利益驱动诱因交织

我深感懊悔，由于急于增加关注者而随意发送内容，确实非常不妥……今年四月，郏县网民张某在清楚内容是虚构的情况下，在某个短剧平台上传了一段“某网络名人主播在湖北某处失踪”的影片，被公安部门拘捕之后，张某非常懊恼地表示。

虚假信息明明已被识破，却为何还在传播？主要原因是经济诱惑在背后推动。一些短视频平台推出了激励机制，只要发布的内容能达到流量指标，用户就能拿到现金报酬。此外还能聚集粉丝，为自媒体账号吸引广告商投资，并为今后的直播销售商品打下基础。负责调查此案的郏县公安局民警仝世龙这样解释。

因经济效益诱惑，涉及网络虚假信息的非法灰色产业开始蔓延，其中最明显的是“网络水军”。这些“网络水军”以获取收益为动机，频繁出现在众多网络社交平台，一旦受聘，便针对特定事项散布不实言论，制造虚假关注度，对网络环境造成重大破坏。王彬指出。

根据相关统计，从事网络水军业务的组织主要包括商业推广机构、网络服务团队，并且还存在一些长期接单的犯罪集团。根据涉案人员吴某的陈述，有人利用大量虚假账号，持续制造并传播不实信息，人为制造关注焦点，同时操控评论来压制不同意见，甚至冒充当事人或了解情况的人为这些谣言提供掩护，有些团伙还会联合网络上的营销账号，通过多个渠道同时扩大影响。

发起方多为希望攻击竞争者或寻求关注者，中间环节由机构负责传递并促成虚假信息交易，末端是操作人员，他们借助设备大量模拟用户行为，另有技术支持者提供账号批量创建和流量模拟服务，从而构成一个从提出要求到完成任务的完整流程。这些行为有违法嫌疑，如果网络社交平台对水军放任不管，要共同承担责任。”省公安厅网络信息安全保卫总队一位负责人表示。

除了经济动因，还有诸多因素为网络谣言推波助澜。

郑州市公安局民警张效仆指出，在特殊公共事件发生时，官方信息公布前，人们因对未知的担忧会自发寻找并接受任何能说明当前状况的资讯，某些造谣者正好利用了这种心态。许多网络用户习惯传播能吸引眼球的恐怖或猎奇内容，并不在乎其是否属实，一旦看到“劲爆”信息就立刻扩散，无意间充当了谣言的传播者。

处理庞大数据时，监管机构感到非常棘手，因为要找出问题、确认性质、收集证据、追查源头都十分困难。处罚和刑事立案都有明确标准，这就让一些危害大小不同但不够成犯罪的谣言难以得到有效控制。另外，网络平台为了留住用户，系统会优先展示容易让网民情绪激动的信息，这些信息里经常含有虚假消息，从而迅速扩大谣言的流传范围。这是郸城县公安局民警王爱民所表达的看法。

趋势AI入局真伪难辨

启动某个智能创作应用，键入几个时下流行的词汇，要求它创作一则地方性突发事件报道，不到半分钟，一条看似真实的虚假消息就制作完成了。内容配有图片，并且附有细节说明和影像资料，让人很难分辨真伪。在交流过程中，郑州市金水区公安部门的工作人员周圣菲向媒体人员展示了一次人工智能制造谣言的操作步骤。

当前，由GPT、DeepSeek等生成式人工智能技术制造的消息，正逐渐成为网络虚假信息传播的新方式。今年，我省已处理了若干起涉及此类技术编造的虚假信息案例，例如“清丰县第二初级中学发生火灾”以及“平顶山叶县一名8岁男童遭醉酒男子用塑料椅击打头部”等事件。

省委网信办互联网违法和不良信息举报中心负责人表示，网络谣言已经进入智能化“深度伪造”的新时期，技术手段更加复杂。AI只需简单要求就能炮制虚假信息，能够大量制造，使得伪造变得极为容易；其制造的内容极为逼真，甚至借助换脸手段可以完成深度伪造；犯罪分子还能利用算法，针对特定群体专门制作谣言，通过小范围或秘密途径精确传播爱游戏app官方入口最新版本，加大了识别和追查的难度。

值得留意的是，AI谣言的形成并非完全由主观恶意造成，也可能源于“AI运算偏差”，这指的是由于AI训练资料不够充分，在应对问题时会出现偏颇，其生成内容虽然表面上看起来有道理，但实际上是错误的，甚至与常理相悖。

今年初，网上出现所谓“80后死亡率超5.2”的说法，声称数据源自第七次人口普查，却被一些人当作正式消息传播。然而真实情况是，这次人口普查是在2020年结束的，根本无法预知2024年的死亡情况；另外，专业统计中的死亡率一般用千分之几来计量，而不是百分之几。相关领域学者分析，该流言或由人工智能系统对专门知识理解偏差及逻辑运算失误所致。此事警示我们，在传播由机器创造的信息时，需格外小心，严格把关。王彬强调。

识别极具欺骗性的AI虚假信息，可以采取有效方法，杨靖提供实用技巧，这类内容经常带有明显的不合理之处，例如文字条理不清，图像中人物的手指出现异常扭曲，视频里人物的面部表情显得不自然，或者动作存在停顿现象。需要更加注意“完美”的信息，他特别指出，如果信息完全迎合普遍的情绪反应，并且没有任何质疑的迹象，同时来源不明，那么应该怀疑这是AI制作出来的虚假消息。

应对共治聚力守护清朗

有人怀疑这些视频借助了人工智能技术，需要小心分辨。最近，不少人在短视频网站上观看时，常常看到视频底部有突出的警示信息。同时，长按屏幕就能直接向平台举报不当内容。

从九月一号开始，《人工智能制作合成物标记措施》开始实施，里面清楚说明网络平台必须对机器生成的字词、声响、图像、影像等资料加上明显标记。近些年，一些涉及人工智能的法律规范相继颁布，例如《互联网信息服务深度合成管理规定》《生成式人工智能服务管理暂行办法》等，这些法规明确了人工智能应用者和运营平台的界限爱游戏最新官网登录入口，为监管工作提供了准则，同时也增强了对抗人工智能虚假信息的力度。

那位来自省委网信办互联网违法和不良信息举报中心的负责人表示，社会上的热门事件很容易让网络产生虚假信息，因此相关机构必须立刻做出解释。如果官方消息跟不上，大家就会去听私下里的传言，这会让假的更广为流传。

管理方面，我省网信、公安机构共同发起“净化”“整网”专项活动，持续健全网络虚假信息检查监控、核实通报、联合分析及应对流程。省委网信办开发了“智能网信·反谣工具”软件，给予一体式虚假信息检索功能；周期性公布典型事件进行法理说明；引导媒体站点强化人工智能材料审查，严格处理不合规账号。省公安厅联合科研单位及公司，致力于强化对恶意深度伪造内容的监测，提升预警水平，并加快识别效率。

从专业角度来说，学者们提议各大在线平台增强对虚假信息的追查能力，以便迅速查明信息的最初发布者；此外，还需要开发人工智能驱动的谣言检测系统，以提升对不实图片、音频和影片的过滤水平，对存疑材料进行自动标注，并降低其在系统中的传播频率。

提升公众文明程度才能有效遏制网络虚假信息传播。每一次随意的点击和传播，都可能加速谣言的蔓延。人们必须建立造谣和传谣是违法行为的观念，在碰到可疑内容时，优先借助权威机构进行确认，不能只做旁观者。这是王彬的观点。（记者 王斌）