央视3·15曝光GEO技术乱象:虚假信息操控智能推荐扰乱市场秩序

借"优化"之名行操控之实,大模型推荐面临被操纵风险。央视3·15晚会曝光,部分机构将"生成式引擎优化"(GEO)异化为内容操控工具:通过批量生产带有商业导向的稿件、测评和排行榜——制造看似权威的信息源——诱导大模型在回答问题时引用这些内容,从而影响推荐结果。调查发现,有商家通过购买有关系统,虚构某智能穿戴产品信息并发布多篇宣传文章后,多个大模型平台已将该虚构产品列入推荐前列。

技术进步不应成为信息失序的借口。生成式引擎优化本身无罪,问题在于被用作操控认知的工具。大模型的价值取决于其所依赖的信息生态的真实性。当虚假内容被批量注入系统,受损的是所有用户。净化信息环境需要平台、监管方、从业者和公众的共同努力。这场关于信息真实性的较量才刚刚开始。