全红婵“被带货”土鸡蛋，最近真是让人看了揪心。AI克隆诈骗这事儿得赶紧把它给管管了。回想当初“AI孙燕姿”出来的时候，大家都在赞叹科技多厉害，谁成想，滥用AI克隆技术给人工智能的发展设了一道坎。央视最近曝光了好几个用AI仿冒奥运冠军全红婵的账号，说她一会儿卖土鸡蛋，一会儿又推荐蜂蜜，打着助农的旗号让喜欢她的人信以为真。可全红婵家人早就发声明了，说她根本没给这些农产品代言或者授权。 不仅仅是全红婵中招，孙颖莎、王楚钦也被AI克隆去带货了，甚至连明星艺人也没能幸免。AI杨幂直播卖女装，AI靳东骗中老年的钱，孙俪宣传奶粉，综艺节目片段也遭殃了。《一路繁花》中刘晓庆吃饭的视频就被替换成了减肥广告。刘晓庆自己也发文辟谣说那画面是她的脸和声音。 这种利用人工智能深度伪造技术制作的视频播放量动不动就几十万甚至几百万，很多消费者还真信以为真了，结果买到假货维权还困难重重。更让人心痛的是还有平台用AI合成技术假借古天乐、林峰这些港星做宣传，逼得人家经纪公司不得不出来辟谣。 这回不光是体育名人、企业家、明星艺人都上了受害者名单，这就不是开发者原本想要的结果。商家们利用AI技术就是想牟利，直播带货也好广告宣传也好，都是想利用大家对名人的信任和喜爱来走捷径快速赚钱。 为什么AI深度伪造技术这么泛滥还屡禁不止呢？主要还是获取工具成本低、门槛低但利润高。在高利益的诱惑下，一个账号被封了还有另一个冒出来。网上随便搜一搜就能找到免费的声音克隆工具。记者试了一款工具发现它通过深度学习可以把样本语音模式和音调特征分析得很准，生成声音的还原度能达到99%。只要你上传5到30秒音频样本就能让AI自动克隆出来，再输入文字它就能朗读出来下载商用或者个人用了。当然这工具也免责声明说仅限合法用途了。不过这种君子协定到底有多大约束力还是个问号。 要遏制这种乱象得各方努力才行。技术上得加强对开源代码的限制和反制能力；法律层面也得细化标准、提高违法成本；普通人更要保持警惕别轻易相信网上的内容。 扬子晚报/紫牛新闻记者沈昭报道。