问题——“看见”不等于“真实”，“信任链”正被低成本伪造撬动 移动互联网时代，图片、视频和语音一度被视为较直观的证据形态。但随着生成式技术快速迭代，普通人借助简单工具，就能在短时间内合成逼真的影像、声音，甚至带有“人格化”互动的内容，“眼见未必为实”由此成为新的现实困境。近期，社交平台热传的“以色列士兵躲在墙后痛哭”视频引发关注并迅速扩散，但经媒体调查证实为生成内容：画面中出现徽章忽隐忽现、文字乱码等典型痕迹。类似案例表明，虚假内容已不再是零星恶作剧，而正在侵入公共记忆、干扰认知判断，演变为更具系统性的风险。 原因——技术降门槛与传播机制叠加，推动造假从“作坊式”迈向“流水线” 一上，生成工具越来越易用，素材采集、模型调用、合成剪辑等环节高度产品化，造假的时间成本和专业门槛持续降低。另一方面，平台推荐机制偏好“情绪强度”和“冲突叙事”，耸动内容更容易获得流量；热点事件中，信息往往先传播、后核实，为虚假内容提供了扩散的“窗口期”。更值得警惕的是，一些组织或个人已将生成工具嵌入内容生产链条，通过多账号联动、跨平台分发实现规模化传播，更抬高辟谣与溯源难度。 影响——从诈骗到舆论操纵，风险已越过“单条假视频”的边界 生成式造假的冲击，首先体现在现实危害上。以“熟人声音”“权威身份”为外衣的合成内容，可能诱导转账、骗取隐私，甚至引发恐慌。其次，它对新闻传播体系带来直接压力。生成工具进入报道流程后，若缺乏清晰规范和严格审核，虚假片段可能被带入权威渠道，进而损害媒体公信力。海外媒体机构曾出现报道素材混入生成视频而紧急处置的情况，也提示“技术便利”与“职业准则”之间的矛盾：效率提升不能以牺牲真实性为代价。 更深层的挑战在于舆论环境。学界近期指出，数字操控正在进入新阶段：散布虚假信息的不再只是少量人工账号，而是伪装成真实用户、能够互动并自我强化的集群化系统。其风险不止于制造一条谣言，而是通过持续回应、相互附和、情绪适配，营造“多数人在这样认为”的错觉，从而影响公众判断与社会议程。这种“伪共识”一旦在关键议题上形成，将对社会信任、公共决策乃至国际舆论场带来外溢影响。 对策——技术治理、制度约束与公众素养需同步推进 面对生成式造假与智能体安全风险，治理需要形成“来源可追、过程可控、责任可究”的闭环。 其一，压实平台与应用提供方责任。对高传播内容强化水印标识、来源提示与风险分级；对疑似合成内容建立快速核验与处置机制，提升对“批量发布、异常互动、跨平台协同”等行为的识别能力。对提供生成服务的产品，应完善默认安全策略，压缩高风险功能的滥用空间。 其二，提升新闻机构的把关能力。媒体应完善采编流程中的素材校验、证据链管理与交叉验证制度，将“多源核实、现场证据、可追溯素材”作为硬标准；对从业人员开展常态化培训，明确使用边界和标注要求，避免出现“工具替代审查”。公信力是媒体的核心资产，越是技术迭代加速，越要守住真实性底线。 其三，加强智能体安全防护。对具备任务执行能力、需要较高权限的工具，应落实最小权限原则和隔离机制，避免“一键授权”带来系统性暴露；针对提示注入等新型攻击路径，开发方应持续开展红队测试、漏洞响应与安全更新，并向用户提供清晰的风险提示与日志审计能力。对外部链接、网页内容等信息源的可信度评估，也应成为智能体运行的基础能力。 其四，推动法治化与社会共治。围绕深度伪造标识、身份冒用、数据滥用、恶意操纵等行为完善规则与执法协同，提高违法成本。同时，鼓励科研机构、媒体与平台开展联合核验与事实查证合作，形成权威辟谣与公众教育的合力。对公众而言，应养成“先核实、再转发”的习惯；涉及金钱、身份、紧急通知等情境，优先通过多渠道确认。 前景——从“视觉证据”走向“可验证证据”，信任将重建在可追溯机制之上 可以预见，生成技术仍将持续演进，合成内容在清晰度、连贯性与“拟真互动”上还会提升，单靠肉眼识别将越来越难。未来治理重点可能从“识别真假”转向“证明真实”，包括可信采集、加密签名、内容溯源、平台标注与证据链固化等机制建设。此外，围绕智能体的安全标准、权限管理与责任划分也将更细化，成为数字经济稳健发展的重要基础。
当技术跑在伦理前面时，人类需要重建“真实性”的认知坐标。从柏拉图的洞穴寓言到当下的深度伪造困境，辨别真实始终是文明延续的核心议题。在算法构筑的镜像迷宫中，只有建立清晰的伦理边界与可验证的技术机制，才能让科技进步服务于事实本身，而非制造更逼真的幻象。