热点解读：AI造假门槛降了，治理的门得跟上

2026年10月30日

一、话题梗概

2026年9月，两起假得离谱的事件先后登上热搜。

一起在四川道孚：网传街头出现棕熊的图片在社交平台广泛传播，画面逼真、细节清晰，引得不少人信以为真、互相提醒。经核查，图片系AI生成，造谣人员被依法处罚。

另一起在上海：网传化工园区发生大爆炸的短视频刷屏，画面带火光、极具冲击力，短时间内制造了不小的社会恐慌。实际情况是：仅为罐体破损导致气体泄漏，无人员伤亡；发帖人系编造信息博取流量，被警方行政处罚。

蚁坊软件对2026年9月全国重点舆情的梳理给出了一个明确判断：短视频平台仍是舆情发酵的主阵地，AI生成内容造谣、断章取义剪辑等新型谣言明显增多；带有火光画面的短视频极易误导网民，未经核实便被快速转发。

这背后是一个更宏大的背景板。2025年8月国务院印发《关于深入实施"人工智能+"行动的意见》，六大重点行动中专门列入"人工智能+治理能力"——开创社会治理人机共生新图景、打造安全治理多元共治新格局。同年，最高法就AI纠纷审理发布意见，换脸、算法杀熟、自动驾驶事故责任等新型争议，第一次有了法官视角。2026年10月1日起，《公安机关网络空间安全监督检查办法》正式施行，明确将网络运营者、数据处理者、个人信息处理者纳入监督检查对象，并强调跨部门协同、合理确定检查频次，避免重复检查。

二、预测题目与深度解析

【预测题目】

近年来，AI生成技术快速普及，虚假图片、视频的制作门槛大幅降低。某地网传街头出现棕熊的图片、某化工园区发生爆炸的视频，经核查均为AI生成或人为编造，造谣者被依法处罚。对此，你怎么看？

【新北辰解读】

一张街头棕熊的照片，一段化工园区爆炸的视频，最后都被证实是假的。这件事最让我感慨的是，我们从小相信的那句老话正在失效，过去是有图有真相，现在是有图也未必有真相。这两起事件不是孤立的个案，它标志着谣言治理进入了技术造假、算法扩散、情绪发酵的新阶段。我的态度很明确，既不能因噎废食给技术创新踩刹车，也不能放任自流让谣言跑在真相前面。

对普通人来说，一次次反转会慢慢消耗社会信任，最坏的结果是真消息来了也没人信。对社会秩序来说，涉灾涉险的假视频会引发恐慌，挤占的是本就宝贵的应急资源和公众注意力。对企业和一个地方来说，一条伪造内容足以毁掉多年积累的口碑，而维权的成本远高于造谣的成本。对治理来说，它倒逼政府必须比以往更快更准地发声。

问题出在哪，我认为有四层。技术上，过去做一条以假乱真的视频需要专业团队，现在一部手机几分钟就能生成，造谣的门槛断崖式下降。平台上，冲突和惊悚的内容天然更受算法青睐，先推送后审核的机制客观上放大了传播。法律上，生成内容的标识义务、平台的审核责任、取证与认定的规则，细则还在追赶。公众这边，多数人还没有养成反向验证的习惯。

我认为要四方一起使劲。第一，让假的亮明身份，严格落实生成内容标识，从生成端到传播端全程可追溯，对涉灾涉警涉公共卫生这类高风险内容先审后推，同时把权威辟谣的通道建快建强。第二，让违法者付出代价，这次两起事件的造谣者都被依法处罚，就是明确的信号，还要进一步划清生成者、传播者、平台各自的责任。第三，让平台真正尽责，对未经核实的惊悚内容降权限流，做到发现一起处置一起公示一起。第四，让公众有免疫力，把媒介素养教育送进社区、学校和老年大学，教会大家看来源、看标识、看官方通报，倡导转发之前停三秒。

技术本身没有善恶，决定它走向的是规则的密度和执行的力度。我们要做的不是给技术踩刹车，而是为它修好护栏、装好红绿灯，让创新在安全可信的轨道上行稳致远，也让每一个普通人在面对一张图一段视频时，还能保有一份笃定的判断力。