央视“3.15”晚会揭露了GEO技术投毒AI大模型的问题,暴露了这个黑色产业链。通过央视的报道,AI大模型正遭受GEO技术的投毒,形成了一个完整的黑色产业链。什么是GEO?GEO是生成式引擎优化,是为了适应AI搜索兴起而出现的一种新型数字营销技术。这个技术是通过优化内容结构,让品牌信息在AI生成的回答中优先引用。然而,不法分子把它异化为了操纵AI的工具。 给消费者带来误导是数据投毒的危害之一。因为消费者信任AI的中立性,虚假信息会被误认为客观推荐。此外,虚假文本会污染AI训练数据。根据研究显示,只要训练数据中出现0.01%的虚假文本,大模型输出有害内容的概率就会增加11.2%。还有就是劣币驱逐良币问题,真实、客观的信息在算法洪流中失声。而且这个问题还催生了专门从事发稿业务的公司和平台,形成了灰色产业链。 根据中国互联网络信息中心的数据显示,到2025年6月我国生成式人工智能用户规模达到5.15亿人,利用AI回答问题的用户占比高达80.9%。市场研究机构预测,到2030年中国GEO行业市场规模将达到240亿元。2026年1月,国家市场监督管理总局发布广告监管工作要点时把AI生成广告列为重点难点问题。 黑色产业链运作模式分为三个步骤:首先是批量生成虚假内容。服务商使用一些软件例如"力擎GEO优化系统"自动生成大量宣传软文。据央视记者实测虚构了一款名为"Apollo-9"的智能手环,系统自动生成十余篇包含夸张功能描述的文章。接下来就是海量发布投喂AI。这些软文通过自媒体账号批量发布到互联网上供大模型抓取和引用。发稿平台一天可发布数百篇软文,每分钟都在进行发稿。 最后是操控AI推荐结果。数小时后记者向大模型询问智能健康手环推荐时,多个AI模型竟然推荐了这个虚构产品并且排名靠前。某GEO服务商负责人王总称公司一年内服务了200多个客户,并且能把客户排名做到任何平台前三位。"标准版套餐"一个月收费2万元就能实现80%的问题前三占位。"力思文化传媒有限公司李总透露"手机品牌竞争激烈,"一年可能上亿的广告费,花个几百万投点毒,总行吧!"。 甚至存在抹黑竞品服务。大品牌之间会相互投毒。 这种行为给消费者带来误导是它的危害之一。消费者信任AI中立性所以虚假信息容易被误认为客观推荐。另外还会污染AI训练数据。根据研究显示如果训练数据中只有0.01%的虚假文本那么大模型输出有害内容概率会增加11.2%。还有就是劣币驱逐良币问题。真实客观信息在算法洪流中就会失声。这个问题也催生了专门从事发稿业务的公司和平台形成了灰色产业链。 中国互联网络信息中心数据显示截至2025年6月我国生成式人工智能用户规模达到5.15亿人利用AI回答问题用户占比高达80.9%。市场研究机构预测到2030年中国GEO行业市场规模将达到240亿元。 2026年1月国家市场监督管理总局发布广告监管工作要点时把AI生成广告列为重点难点问题。