问题——灰色链条瞄准大模型“答案” 央视3·15晚会曝光，一些不法分子围绕生成式大模型搭建起“投喂—扩散—收割”的灰色产业链：服务商打着“优化推广”“口碑塑造”等旗号，向商家兜售“驯服大模型”的服务，通过集中生成、包装并投放特定内容，影响模型检索与生成环节对对应的信息的采信排序，从而实现“让模型按指定方向作答”。调查显示，甚至虚构产品也可能被推到推荐榜单前列，波及多款主流应用，潜在触达用户多、传播快。 原因——利益驱动叠加机制漏洞与治理滞后 业内人士指出，所谓“生成式引擎优化”与传统搜索引擎优化类似，但影响路径更复杂：一上，虚假内容借助自动化工具可快速生成并批量分发，制造“信息噪声”，提高被抓取与被引用的概率；另一方面，部分内容平台和信息源站点审核不严，为集中发布提供了入口。更深层的问题于，大模型训练与对齐依赖海量、多源数据，若在数据来源管理、可信度标注、污染检测、输出校验等环节存在短板，就会给“定向投喂”留下空间。同时，相关治理规则、行业标准和跨平台联动处置机制仍在完善，导致黑产成本低、收益高。 影响——误导消费与决策，风险外溢至民生与金融 “投毒”带来的危害不止于商业营销。 其一，消费者可能因虚假口碑和不实推荐作出错误购买决定，权益受损且维权成本上升。 其二，若虚假信息渗透到医疗健康、金融投资等领域，可能引发错误用药、盲目理财甚至诈骗风险，冲击公共安全与社会信任。 其三，生成式内容“二次传播”特性突出，一旦被引用、转载或剪辑，谣言会在多平台间循环放大，治理难度大幅增加。 其四，平台公信力与数字经济生态将受影响，合规经营者反而承受不公平竞争压力。 对策——依法追责与技术加固并重，推动协同治理 围绕责任边界与治理路径，法律界人士认为，应形成“严惩黑产、平台尽责、行业共治、社会参与”的组合治理方案。 一是压实黑产与委托方责任。提供“投喂”“刷榜”“操控答案”等服务的机构及个人，如通过捏造事实、隐瞒真相误导公众，可能构成对消费者与第三方的侵权，依法承担停止侵害、消除影响、赔偿损失等民事责任；在广告宣传中制造或传播虚假信息的，可能触及虚假宣传、虚假广告等行政监管红线；涉及金融诈骗等情形的，还可能承担刑事责任。对明知或应知仍委托实施的商家，也应依法追究相应法律后果，提高违法成本。 二是明确平台审核与风控义务。专家指出，生成式大模型平台在训练数据安全、内容审核、风险提示与纠错机制上，应承担与其技术能力相匹配的注意义务。训练阶段要加强数据来源管理、可信标注、污染检测与安全评估，防止低质与恶意信息进入训练和对齐流程；输出阶段应完善内容安全策略与闭环处置，包括对高风险领域的提示与限制、对可疑内容的拦截与复核，以及基于用户反馈的快速纠偏与溯源。平台不能以“技术复杂”“难以解释”为由当然免责，而应以可证明的制度与技术措施说明已尽到合理注意义务。 三是建立行业性联防联控机制。可探索“黑名单+共享处置”的联动模式，对多次实施投喂、批量发布虚假内容的账号、域名、机构开展跨平台处置与联合惩戒；推动数据源质量标准与可信内容目录建设，鼓励权威机构、专业媒体与合规数据库提供可核验信息；对宣称提供优化服务的机构，推动其公开服务边界与合规承诺，必要时纳入备案与抽查范围，压缩灰色服务空间。 四是提升公众识别与纠错效率。面向用户加强风险提示与信息素养教育，鼓励对可疑内容“一键反馈”；在医疗、金融等高风险场景，推动“权威信息优先”“来源可追溯”“引用可核验”，降低被误导的可能。 前景——以规则完善与技术迭代重建“可信生成” 随着生成式大模型加速进入搜索、办公、消费与公共服务场景，“可信度”将成为关键竞争力。业内判断，未来监管将更强调可追溯、可审计、可纠偏的治理框架，平台也将从单点内容治理转向“数据—模型—产品—运营”的全链条风控。在此趋势下，治理能力强、数据来源透明、纠错响应及时的平台更易获得信任；长期放任风险的平台，则可能面临用户流失、监管问责与合作收缩等多重压力。多方共同提高违法成本、降低识别成本，是遏制“投毒”黑产扩散的关键。
大模型的价值在于提升信息获取与决策效率，但前提是“可信”与“可控”。此次曝光提醒各方：灰产不会因为新技术出现而消失，只会换一种方式渗透。只有平台守住审核与风控底线、监管形成合力、行业建立共同规则、违法者付出更高代价，技术进步才能真正转化为安全、透明、可持续的发展动力。