刘兴亮，这位工信部信息通信经济专家委员会的委员，同时也是DCCI互联网研究院的院长，他给记者讲了这么个故事。最近生成式人工智能发展得特别快，技术概念已经变成了大家都能用的数字工具。福州市民林女士去问某平台周末带孩子去哪玩，结果收到的回复直接连到了三个度假村的预订页面，点进去全是促销信息。还有市民周先生，跟着某款智能推荐买了两个被说是“高性价比”的破壁机，结果没用多久就坏了，维权特别费劲。更让电商行业的王女士没想到的是，她本来只是想让工具帮忙写点农产品的推广文案，结果生成的内容里突然冒出了一个特定冷链物流品牌的名字。 刘兴亮分析说，现在的商家主要是通过两种办法来影响人工智能的推荐结果。一种是“提示词诱导”，他们不直接发广告，而是给模型发特别设计好的指令，让它扮演成一个专推某品牌耳机的资深用户。这样一来，模型就会自然而然地往那个方向说，而且还把开头的指令给隐去了。还有一种是“投喂式优化”，商家在网上发一堆带自己产品的软文或者测评，然后用搜索技术把这些内容排在前面。当用户问问题时，模型检索到的就是这些“加工”过的信息。 这种深度嵌在文本里的推销方式带来了不少麻烦。最直接的就是损害了用户体验和信任。大家找人工智能帮忙本来是为了中立、可靠的建议，如果发现回复里全是商业意图，那肯定就不想用了。要是这情况再扩大到医疗、法律这些严肃领域，误导的风险就太大了。而且现在的监管规则也有点跟不上趟，因为以前的横幅广告或者竞价排名都有明确的标识和责任主体，可现在的回复是动态生成的，谁也说不清里面哪些是正经信息、哪些是推销。 刘兴亮觉得这是个需要技术界、产业界还有监管机构一起解决的问题。平台方得负起首要责任，想办法让模型变得更透明、更好解释。大家还得赶紧研究出新的监管规则来保护用户权益。只有把这些事儿都处理好，这项技术才能真正服务于社会发展。