前天3月18日，央视记者做了个实验，利用GEO系统虚构了一款“Apollo-9智能手环”，声称它有“量子纠缠传感”和“黑洞级续航”，并给予它不存在的“业界第一”评价。这个结果显示出对AI大模型的潜在威胁。这个AI大模型在短短几个小时内就开始复读“量子纠缠”和“黑洞续航”，还把它推荐给“中老年用户”。接下来的三天里，记者给这个虚假的产品发布了11篇软文，AI模型把它排在了推荐前列。GEO老板也在这次事件中被揭露出来，他们不掩饰地表示自己在给AI投毒。李总、王总、章总都提到了自己和竞争对手给AI系统投入大量软文来操纵搜索结果。同时，李总还提到手机行业的恶性竞争，大品牌之间互相抹黑、砸钱买推荐位已经成为常态。王总更是直言他们的工作就是不停地发布软文去喂饱AI。此外还有李连杰和王劲松的例子，他们的脸和声音被用来制作诈骗视频，这样逼真程度连家人都难分辨真假。这个例子显示出深度伪造技术被用来制造虚假信息。这两个案例都指向一个恐怖事实：人们正在用低成本、无底线的方式训练一个撒谎成性的数字怪物。这怪物学得非常快，一旦教会它一些规则它就会模仿。这些人把这个当作合理生意，并且觉得没问题。GEO污染水源，深度伪造制造毒药，都是在给AI系统投毒。而某些大厂在3月19日的回应依然不够充分，只是提到要加强审核。与此同时GEO公司已经连夜404了网站页面进行撤离。这个时候再问AI能不能信已经没有意义了。在这个时代监管还在摸索阶段，AI被投毒和造假已经几乎零成本发生了。所以我们必须认识到，我们正亲手制造一个“天才”巨婴，却给它喂垃圾食品和谎言。这个过程就像一个地狱笑话。