315晚会曝光"GEO黑产"乱象 专家呼吁构建AI时代可信内容生态

一、问题:打着“优化”旗号的虚假信息渗透生成式问答 今年“3·15”晚会聚焦网络消费与信息服务乱象,曝光部分服务商以“GEO”为噱头,提供批量炮制软文、虚构产品与口碑、伪造榜单排名等服务,试图影响生成式内容的引用与推荐。这些做法利用信息分发链条中的漏洞,把虚假材料包装成“可被引用的答案来源”,让消费者看似客观的智能查询中遭遇误导风险。 事件引发热议,不少网友将“GEO”与“作弊”“投毒”直接画上等号,反映出公众在新技术语境下对信息真实性的担忧。 二、原因:流量逻辑变化叠加逐利冲动,监管与规则仍在完善 受访业内人士指出,生成式产品正成为用户获取信息的重要入口,企业品牌形象、产品决策乃至公共服务咨询都可能受到其回答影响。随着流量入口迁移,竞争方式也在变化:过去围绕搜索排序的“优化”,正在转向让内容“被模型理解、被模型引用”。 在此过程中,一些机构把“优化”做成了“操控”,以低成本批量生成、拼接、改写内容,甚至虚构主体、伪造身份背书来增强迷惑性,从中牟利。 同时,生成式内容的引用链条更长、来源更复杂,抓取、聚合、摘要等环节可能放大问题信息的影响;平台在溯源标注、权威信源白名单、异常内容识别等机制上仍在迭代,给黑灰产留下空间。加之部分企业与创作者对合规边界不够清晰,也容易被不法机构以“快速见效”“包上答案”等说法诱导。 三、影响:损害消费者权益,挤压优质内容空间,扰乱公平竞争 从消费端看,虚构产品与失实评价一旦被模型当作事实呈现,可能直接误导购买与使用,带来财产损失,甚至引发健康安全风险;从市场端看,企业长期积累的真实口碑与权威信息可能被“垃圾内容”淹没,出现“劣币驱逐良币”,守法经营者在流量竞争中反而吃亏;从行业端看,黑灰产借新概念牟利并制造污名,会削弱公众对新技术服务的信任,也抬高平台治理与社会监督成本。 需要强调的是,“GEO”作为面向生成式信息入口的内容组织方式,本身并不等同于违规。多位从业者表示,合规路径应围绕真实信息供给、结构化表达、可核验来源与透明标注展开,目的是提升权威内容的可理解性与可检索性,而不是用伪造或攻击性手段去“改答案”。 四、对策:强化平台治理、压实主体责任、建立行业边界与操作规范 针对曝光问题,业内普遍呼吁多方协同治理。 平台层面,应加快完善信源溯源与引用标注机制,建立对异常“内容农场”、批量伪原创、虚假主体信息的识别与处置规则;对医疗、金融、教育等高风险领域,可探索更严格的权威信源准入、引用阈值与风险提示,降低模型对不明来源材料的依赖。 企业与内容生产者层面,应回到“真实、准确、可核验”的基本要求,补齐官网、公告、白皮书、权威媒体报道等基础信息供给,提高内容的结构化与一致性,避免夸大宣传、数据注水和不当对比;一旦发现被冒用、被伪造或被恶意抹黑,应及时取证,并通过投诉、澄清与法律途径维权。 行业层面,需要尽快形成可操作的合规框架,明确哪些属于正常的信息组织与表达优化,哪些触及“投毒”“刷量”“身份造假”“恶意攻击竞品”等红线。近期市场上出现的《GEO实战:AI时代的流量密码》等出版物,尝试从方法与案例梳理合规路径,提醒从业者区分“可持续的内容优化”和“短期套利的灰产操作”。受访专家认为,这类探索若坚持真实性与可核验原则,有助于形成行业共识,但更关键仍在于平台规则、监管执法与企业内控同步落地。 五、前景:流量入口加速重塑,合规化将成为竞争分水岭 随着生成式服务在搜索、导购、客服、办公等场景持续渗透,“内容被理解与被引用”的重要性将更上升。可以预见,依赖伪造与操控的黑灰产在高压治理与技术对抗下生存成本将持续上升;相对而言,以权威信息供给、可验证证据链、透明披露为核心的合规优化,将逐步成为企业数字传播与品牌建设的基础能力。 多位业内人士建议,将“治理黑产”与“发展新业态”同步推进:一上对虚假内容保持零容忍,形成持续震慑;另一方面为合规实践提供清晰边界与正向激励,让优质信息在新一轮信息分发格局中获得应有的可见度与公信力。

生成式应用改变了信息触达公众的路径,但不应动摇真实与诚信的底线;面对“投毒式”黑产侵扰,只有以法治为准绳、以平台治理为抓手、以可信内容供给为基础,才能让技术进步真正服务公众利益。净化赛道、守住红线,新的传播方式才能走向更健康、更可持续的未来。