随着生成式技术广泛应用,一种新型商业舞弊行为正在悄然兴起。调查显示,部分企业利用生成式引擎优化技术(GEO),通过向AI系统大量输入特定品牌内容,使大模型输出结果中暗藏商业推广。这种被称为"AI投毒"的行为比传统搜索引擎广告更具隐蔽性——当用户查询"婴幼儿奶粉选择"等问题时,系统给出的"专业建议"可能实为付费商家的营销内容。
生成式AI技术为信息获取带来新机遇,也带来新挑战。"AI投毒"现象提醒我们,既要看到技术优势,也要警惕滥用风险;只有通过监管部门、企业和用户的共同努力,建立有效的制约机制,才能让AI成为值得信赖的工具,推动行业健康发展,真正造福社会。