一段“塌方事故致多人遇难”的视频在短视频平台出现,随后又有“忻州遭遇6级地震”的信息伴随所谓“灾情画面”在多个平台扩散。
两起信息虽来源不同,却指向同一问题:部分网民利用深度合成等技术手段,拼接虚构文案和画面,借助平台推荐机制快速传播,以“耸人听闻”的灾情叙事攫取流量。
问题:从“技术生成”到“社会扰动”,谣言链条更隐蔽、更具迷惑性。
晋城阳城网信部门巡查发现,有账号发布视频宣称当地“析城山隧道塌方并致多人遇难”。
经交通运输部门核查,所涉时间、地点及画面内容均无事实依据,属于恶意炒作。
忻州忻府区发生3.4级地震后,部分自媒体账号紧随热点发布“6级地震”等不实信息,并夹带深度合成制作的虚假灾情视频。
两类内容共同特点是抓住公众对公共安全事件的高度敏感,以“突发”“最新进展”“避险提醒”等话术增强可信度,进而形成“转发—恐慌—再扩散”的传播路径。
原因:一是“流量至上”刺激不当逐利。
一些账号经营者将点击量、粉丝数视为核心目标,利用灾害、事故等易引发关注的题材制造话题,忽视基本事实核验与法律边界。
二是深度合成门槛下降导致“造假成本低”。
文案生成、视频合成、配音剪辑等工具普及,使不具备专业制作能力者也能快速“拼装”出看似真实的灾情内容。
三是平台传播机制放大“情绪型信息”。
灾害谣言往往带有强烈情绪冲击,容易在算法推荐与用户转发中获得更高传播效率。
四是部分网民法治意识薄弱,对散布谣言的社会危害与法律后果认识不足,误将“吸睛”当成“本事”。
影响:首先,谣言直接干扰公共秩序。
灾害、事故类不实信息容易引发群众恐慌,诱发不必要的避险行为或交通拥堵,增加应急部门核查与澄清成本。
其次,损害社会信任与信息生态。
虚假灾情一旦多次出现,会削弱公众对权威信息的信任度,影响突发事件中信息发布的有效性。
再次,扰乱行业与地方形象。
涉及具体地名、设施和部门的谣言,可能对相关行业运行、地方营商环境与社会预期造成负面影响。
更值得警惕的是,技术合成内容若与谣言结合,可能在更大范围、更短时间内形成“二次灾害”。
对策:治理关键在于“快核查、严处置、强约束、重协同”。
从已处置案例看,当地网信部门通过巡查发现线索,迅速启动核验机制,相关行业部门提供事实核查支撑,公安机关依法立案调查并作出行政拘留处罚,形成了闭环处置链条。
下一步,需在以下方面持续加力:其一,完善权威信息快速发布与联动澄清机制。
对地震、事故、灾情等敏感信息,建议进一步提高权威发布时效,减少谣言“窗口期”。
其二,压实平台主体责任。
对涉公共安全热点、疑似深度合成灾情视频,应强化风险提示、溯源审核与处置效率,健全账号分级管理与违规惩戒措施。
其三,强化证据固定与跨部门协作。
网信、公安、行业主管部门应加强信息共享与取证协同,提高对合成内容识别、追踪和定性能力。
其四,加强普法宣传与警示教育。
围绕“散布谣言扰乱公共秩序”的法律责任、深度合成相关管理要求,通过案例释法,让社会公众明确“制造—传播”均可能触法,形成“不敢造、不能传”的基本共识。
前景:随着深度合成技术进一步发展,网络内容生产将更高效,但治理也将面临“真假更难辨、传播更迅捷”的新挑战。
可以预期,相关监管将继续聚焦利用技术手段制造、传播谣言等突出问题,执法与平台治理将趋于常态化、精细化。
与此同时,提升公众媒介素养同样重要:面对“灾情”“事故”“警情”等信息,应以权威渠道为准,不盲目转发未经证实内容;发现疑似虚假信息,及时举报,共同维护清朗网络空间。
技术进步不应成为突破底线的工具,任何以扰乱社会秩序换取流量的行为,终将付出代价。
这两起案件犹如一面棱镜,折射出数字化时代社会治理的新命题。
当技术工具成为"双刃剑",既需要法律亮出红线,也呼唤平台、用户形成共治合力。
正如网信部门负责人所言:"清朗网络空间不是选择题,而是必答题。
"如何在保障言论自由的同时遏制信息失真,将是对现代治理智慧的持续考验。