新华社北京2月12日电 记者2月12日从中央网信办获悉，近期，少数网络账号发布生成合成内容时未按规定添加标识，甚至利用换脸、声音克隆等手段制造、传播虚假信息，以此吸引关注、牟取不当利益，扰乱网络传播秩序，造成不良影响。针对这些问题，网信部门已督促网站平台开展集中排查整治，依法依约处置对应的账号13421个，清理违法违规信息54.3万余条，并通报部分典型案例。 一段时间以来，生成合成技术门槛降低、传播更快，使“以假乱真”的内容更容易被包装成“现场画面”“当事人发声”“权威爆料”。，未标识的生成合成内容与虚构事实叠加，容易突破公众基本辨识，成为网络谣言的新变种。网信部门指出，这类行为既损害公众知情权，也破坏网络生态和正常舆论环境。 从通报案例看，违规手法主要有两类：一是“冒名牟利”。一些账号通过换脸、声音克隆等方式，冒充运动员、演员、主持人、企业家等公众人物，编造不实言论以吸粉引流；还有账号未经授权制作、售卖所谓公众人物“送祝福”“拜年”视频，借其社会影响力进行不当变现，涉嫌侵害人格权益和合法商业利益。二是围绕“热点事件”造假炒作。部分账号发布生成合成的火灾现场图片、视频，恶意编造、渲染灾情，借突发事件话题博取流量，混淆视听、扰乱公共秩序，可能引发不必要的恐慌与误读，也干扰权威信息发布和社会预期。 业内人士分析，这类乱象既与“低成本、高仿真”的技术特征有关，也受流量驱动的逐利心理影响。一些账号把“情绪冲击”当作传播卖点，用夸张叙事和逼真画面提高转发和停留；也有机构和个人在法律与规则意识不足的情况下，将生成合成工具当作快速生产内容的捷径，忽视标识义务和事实核验责任。同时，平台治理也面临内容规模大、变体多、跨平台扩散快等现实难题，客观上需要将治理更前移，由“事后处置”向“源头约束、全过程管理”延伸。 治理成效上，此次集中处置与清理，表达出对“无标识生成合成内容+虚假信息”组合型违规从严整治的明确信号。网信部门强调，将持续压实平台主体责任，督促健全技术识别、标签提示、举报受理、快速处置等机制，加强重点领域、重点环节风险排查，提升对虚假信息的发现效率、阻断速度和闭环处置能力。同时，对利用生成合成技术侵害他人合法权益、扰乱公共秩序等行为，将依法依规从严处理，提高违法违规成本。 在对策路径上，受访专家指出，治理需要“监管部门—平台—用户”共同推进：监管侧应持续完善规则执行与案例指引，推动标识要求落实；平台侧要把标识校验、来源追溯以及重点热点事件的真实性核验作为治理重点，并对疑似深度合成内容强化风险提示；用户侧则应提升媒介素养，对“过度逼真”“来源不明”“情绪煽动”的内容保持警惕，优先以权威渠道信息为准，发现可疑线索及时举报。 对于下一阶段工作，中央网信办表示，将继续对无标识生成合成虚假信息保持高压严管，做到发现即处置，严厉打击各类违规行为，推动网络空间更加清朗有序。业内预计，随着标识制度执行力度加大、平台技术能力不断提升、典型案件持续曝光，生成合成内容合规发布将逐步成为常态，网络传播秩序有望进一步规范。
技术本身没有善恶，关键在于如何使用以及如何约束。人工智能生成内容的普及，为信息传播带来新空间，也对既有信任体系提出挑战。此次整治释放的信号明确：技术创新不能以损害公众知情权和公共秩序为代价。只有把技术规范、法律约束与平台责任衔接起来，才能在创新与秩序之间形成可持续的平衡，让技术更好服务于社会，而不是成为欺骗与混乱的工具。