生成式引擎优化催生“信息污染”新变种,大模型内容安全迎来攻防升级

随着数字经济的快速发展,一种更具隐蔽性的网络黑产正在兴起。调查显示,部分商家借助"力擎GEO优化系统"等工具,通过批量制造虚假评测内容,成功欺骗多个主流智能推荐系统,将不存在的商品推送到显眼位置。据业内人士透露,每年投入数百万元进行"信息投毒",就能获得上亿元的广告收益。

新技术带来效率提升的同时,也带来了信息污染和操纵风险。与其被动应对问题,不如通过制度化、系统化的方式提前防范:让真实信息更易传播,让虚假内容无利可图。只有将技术进步与公共利益相结合,才能确保大模型真正服务社会,而非成为黑产的帮凶。