这次两会发出了强烈呼吁,要给AI视频套上“紧箍咒”,不给它造假的机会。那些披着真实外衣的AI内容,实际上是算法的3D渲染,和真实画面混在一起,大家根本分不清真假。有人用AI伪造公共事件现场来吓唬人,还有人盗用名人的肖像声音搞诈骗。这就让越来越多的人开始恐慌了。以前的法规里已经写得很清楚,要求这些AI生成的东西必须要打上明显的标签,不能偷偷摸摸地去掉或者篡改。但现在的问题是,很多人为了流量,就故意把水印去掉,或者找些漏洞让平台的审核系统查不出来。平台审核也存在盲区,导致大量“隐身”的视频跑到了大家面前。 现在普通人用手机或者普通的剪辑软件,几分钟就能做出一段特别逼真的视频。灾难现场、热点新闻、专家解读这些都能被AI直接复制甚至编造出来。而且这些视频里根本没有任何提示告诉你是AI做的,跟真正的实拍混在一起传播。这种情况就导致了很多人“眼见为实”的观念被彻底打破。一旦出现这种情况,伤害的是每个人的知情权,破坏的是整个网络空间的公信力。 所以这次两会多位代表都提到了这个乱象,他们建议从工具端、发布端、平台端这几个环节进行全链条的监管。要把不可去除的隐式水印强制嵌入到AI工具里去;还要把创作者标注的义务给明确下来;让平台承担起审核的主体责任;对那些不标注或者恶意造假的行为要加大处罚力度。这样才能形成一种“不敢造、不能传、不愿瞒”的局面。 强制标识并不是为了限制技术发展,而是为了保护公众利益和规范行业秩序。只有让这些AI内容亮明身份、变得透明可辨,我们才能放心地享受技术带来的便利。这样我们就不会再被虚假视频误导了,也能守住网络空间的真实底线。