央视3·15曝光大模型“投毒”灰产:虚假内容操控答案输出,误导消费与市场竞争

问题显现 近期播出的央视315晚会中,调查记者历时数月暗访发现,部分所谓“搜索引擎优化服务商”正利用技术手段,对主流智能问答系统进行数据污染。这些机构通过批量生成虚假内容、定向投放特定信息等方式,刻意干预系统输出,让商业推广信息看起来像“客观推荐”。 深层剖析 业内人士透露,这条灰色产业链已形成较为固定的操作流程:先用专业软件批量生成虚假评测,再借助自动化发稿平台在多渠道铺开投放,最终利用智能系统的学习机制,把影响“沉淀”为长期效果。某涉事服务商负责人承认,其客户涉及电子产品、教育培训等多个领域,年服务费从数万元到百万元不等。 危害评估 这类数据污染带来多重风险:一是扰乱公平竞争,让质量一般的产品通过技术手段获得不当优势;二是误导消费者判断,可能造成集中性权益受损;三是削弱技术应用的可信度,影响行业健康发展。法律专家指出,上述行为可能涉嫌违反《反不正当竞争法》《消费者权益保护法》等对应的规定。 监管应对 针对此新型乱象,主管部门正推进更有针对性的监管措施。工业和信息化部相关负责人表示,将推动建立智能系统数据溯源机制,并要求平台企业加强内容审核。中国消费者协会也提醒公众,对网络推荐信息保持理性,尽量通过多渠道核验产品与服务信息。 发展前瞻 随着数字经济发展,智能技术的应用场景还将不断扩大。专家建议构建“技术+法律+行业”联动治理体系:一上提高算法透明度要求,另一方面探索跨平台数据共享与协同治理机制,从源头压缩数据污染的空间。部分头部科技企业已试点内容可信度评级系统,为行业治理提供了新的方向。

从搜索时代的“刷榜”到大模型时代的“投喂”,手段在变,但本质仍是对流量与注意力的争夺;治理此类灰产,既要用法治划清边界、压实责任,也要以技术和规则提升信息透明度与可验证性。让“可信的答案”成为常态,才能守住消费者权益与公平竞争底线,推动新技术在规范轨道上释放更大价值。