张凌寒:人工智能生成合成内容标识办法

咱来唠唠这回出台的那个《人工智能生成合成内容标识办法》。这套规范一出来,确实标志着咱们中国在这方面算是从制度上实现了破冰,尤其是现在AI生成的内容治理成了全球都得面对的难题,对咱们来说更是大考。这就好比是用“显式标识”和“隐式标识”两把刷子,把用户能一眼看清的显性信息和机器能识别的底层数据给分开了。前者就是直接加上文字或声音提示,让用户一看就知道这东西是不是AI造的;后者是往文件底层塞元数据,像这是谁生的、什么模型生的、啥时候生的都记在里面,以后出了事也好找源头算总账。 它覆盖的范围也挺广,视频、文本、图片、音频这四种主流格式都管到了,比以前那些标准细得多也更管用。比如对不同的生成内容类型,它给出了不一样的嵌入要求,这就给企业节省了不少合规改造成本,避免因为标准不统一瞎折腾。不管是大公司还是小作坊,都能照着这套规则走,把全行业的合规效率提起来。 不过话说回来,光有这套规范还不够,毕竟这是个长期活儿,必须得“先立后破、分步实施”。政府和企业得一块儿使劲,把责任划清楚。比如发东西得主动声明是AI生成的,平台也得去审核服务商的材料。这样一来能堵住不少造假的口子。不过也得给企业留点喘气的机会,现在有些中小企业技术底子薄,《办法》里也想了些简单的办法,比如用文本符号做标识,让大家慢慢适应。 这个《办法》其实是个新起点。以后还得引进一些抗攻击强的技术手段,像轻量化数字水印啥的。随着多模态大模型的发展,生成的东西会越来越复杂,到时候光靠现在的方法肯定不够用,得继续细化维度和精度。监管上还得搞沙盒试点和动态更新指南。总之它不光是为了现在解决问题,更是为了以后的治理定了个调子。 说白了它就是个里程碑嘛!用隐式标识这种机制推动了技术、制度和产业的联动创新。既保证了治理的硬度又留了发展的弹性。未来咱们还得坚持“技术为基、制度为纲、产业为用”的路子。要不断把标识的维度和精度往上提,搞跨模态、跨平台的可信认证体系。还要把法规标准做得更完善、更有操作性、更国际化。得把产学研用都拢在一块儿搞协同创新。这样才能建成一个高效又可持续的中国式治理体系。 最后我给大家念叨一下作者的名头:这篇文章的作者是张凌寒教授。他不光是中国政法大学数据法治研究院的教授,还是联合国那个高级别人工智能咨询机构的中方专家呢!