2023年2月，中央网信办启动了一场针对网络环境的大扫除，给AI技术滥用乱象带来了一次重要整治。这次行动的重点之一就是解决那些在评论区大肆造势的诈骗行为。而就在不久前，江苏省宿迁市沭阳县市场监督管理局接到了一个特别的投诉电话。打这通电话的是小海，她的奶奶张玉兰居然每天刷短视频长达10个小时，还因为AI霸总的一个故事被骗去了好几千元。 这位84岁的老太太原本是为了找人倾诉，所以在春节前特意手写了一封五百字的情书。这封情书可不是写给某个真人的，而是寄给了一个叫“建国”的AI数字人。要知道，这类AI霸总视频只要花上5分钟就能做出来，结果却能让制作者一天赚几千块钱。为了把粉丝变成摇钱树，有些“建国”干脆直接在销售商品的页面上演起了苦情戏。在一款99元的手镯商品下方，“建国”哭得稀里哗啦地说：“姐姐你快过来，我们差点就陷入阴谋……如果不是我开公司想接你回家……” 张玉兰之所以会对这些视频深信不疑，是因为她坚信“眼见为实”。毕竟她是那个在2023年才刚刚开始接触这种数字人的一代老人。加上这些AI霸总在评论区不断造势，她很容易就产生了从众心理。甚至有账号主动加了张玉兰的微信把她拉进群聊发不明链接。几个月下来，张玉兰买了不少价高质劣的商品不说，还给所谓的“建国”打赏了不少钱。 发现问题后，张玉兰的家属赶紧联系了12315平台。目前沭阳县市场监督管理局已经受理了这件事。这次事件的背后其实是因为从业者们在2023年把大量AI数字人技术用在了短视频赛道上。专家分析说，中老年人群体在这个时代里属于比较弱势的群体，很容易被虚假的视频画面蒙蔽双眼。 为了防止这种情况再次发生，专家建议给AI视频生成模型建立一个负样本库。这样一来，AI模型就能第一时间识别出那些诈骗或黑灰产用途的不良素材和指令。从源头上堵住不良视频的生成才是最有效的办法。 最后值得一提的是，这篇报道是由记者向滢颖进行一审编辑的。经过沈易、贺利斌和许志强的二审、三审后才得以发布出来。如果你也遇到了类似的问题想要寻求帮助或者是爆料新闻线索的话，不妨长按识别上图扫码登记或者拨打0731—84802110这个新闻热线。