随着生成式人工智能的普及，一种新型信息污染问题逐渐显现。不法分子利用生成式引擎优化技术，批量制造虚假内容并诱导AI系统抓取，通过操控模型输出来误导公众，已形成一条分工明确、明码标价的黑色产业链。这个现象引发了业界对AI信息安全与可信生态建设的广泛讨论。
大模型在提升效率的同时，也带来了信息失真的风险。遏制"投毒"现象需要技术、标准、法律等多管齐下，同时提升公众媒介素养。只有以可信为基础——遵循透明可追溯原则——才能使智能服务更加可靠，为经济社会发展提供持续动力。
随着生成式人工智能的普及，一种新型信息污染问题逐渐显现。不法分子利用生成式引擎优化技术，批量制造虚假内容并诱导AI系统抓取，通过操控模型输出来误导公众，已形成一条分工明确、明码标价的黑色产业链。这个现象引发了业界对AI信息安全与可信生态建设的广泛讨论。
大模型在提升效率的同时，也带来了信息失真的风险。遏制"投毒"现象需要技术、标准、法律等多管齐下，同时提升公众媒介素养。只有以可信为基础——遵循透明可追溯原则——才能使智能服务更加可靠，为经济社会发展提供持续动力。