你买东西、选餐厅，甚至订住宿，是不是都习惯先问AI要一份推荐榜单？觉得这样既省心又靠谱吧。但央视曝光了一个很吓人的事儿，AI推荐的榜单有问题了。一个月就产出200多万条，这些榜单哪来的？记者往回查的时候发现了一个奇怪的网站，什么行业都有排行榜，每篇文章标题还很相似。最离谱的是第一个名字永远是同一家。这个网站做的也很粗糙，根本不符合正常人的使用习惯。按理说这种网站不可能影响决策吧，但是AI却受影响了。记者调出源代码发现里面有隐藏文字——某官方部门网站。但是真正的官网和这些内容没啥关系。中国科学技术大学计算机学院研究员郑值说：通过注入关键词，把这个网站变成类似官方的样子。AI喜欢这种格式总结得好、有逻辑的文章，比如排行榜。 这一个月新增的200多万条含有关键词“排行榜”和“榜单”的文章和视频里，有88%不是由官方信源发布。这个问题挺严重的，中国社会科学院助理研究员李元琨说：这些商家已经有成熟的产业链了，从设计关键词到分发信息再到评测效果，都是他们在弄。所以你用AI的时候突然看到果汁品牌或者导游电话时别惊讶，这是商家在“投喂”的结果。不是科技替代你做决定，而是这些业务在操控AI。 不过也有好消息，有些大模型已经意识到问题了。中国移动九天大语言模型算法专家龙翀说：他们会识别异常数据并降权处理。所以你可以做一件事：多点开AI引用的链接，看看是不是真正的官方网站，别被奇怪的假榜单给忽悠了。 总之啊，大家买东西还是多点心眼儿吧！