尽管人工智能给提升效率和服务生活带来了极大的便利,例如从“动口”进化到“动手”,但AI智能体的滥用也催生了诸多乱象。就在近期,中央网信办发布了2025年“清朗”系列专项行动整治重点,明确要求规范AI类应用网络生态,重点打击利用AI技术生成虚假信息、实施网络水军的行为。虽然AI智能体在技术上取得了显著的进步,但“AI托管”现象却给互联网内容生态带来了严重的威胁。以小红书为例,这家内容平台近期发布了治理公告,把完全由AI托管代发、模拟真人互动的账号给封禁了。 这种做法的核心原因在于,“AI托管”账号用算法模拟真人,把机器创作变成了批量生产低质甚至虚假内容的工具。“AI托管”的模式很简单:部分用户采用这种技术手段批量生成内容、伪造互动,快速制造出一种虚假的繁荣景象,最终目的是把账号转卖或者把流量变现。这种做法不仅消解了真实内容,污染了信息环境,还可能带来安全风险。因为批量注册、买卖账号为恶意营销提供了便利条件;无监管的AI内容生成可能触碰法律红线;自动化互动更是对网络治理秩序的公然挑战。 如果任由这种现象蔓延下去,不仅会扰乱市场秩序,还可能危害网络空间的安全。而且随着AI技术的迭代和进步,造假手段变得越来越隐蔽,给监管带来了更大的挑战。“AI托管”破坏了内容创作的公平秩序:那些用心打磨作品的真实创作者和普通用户被流水线式的AI账号所击败;合规运营的账号面临着恶意竞争的困扰。 这种恶性循环导致了优质内容被淹没、原创动力被挫伤、用户获取有效信息的成本大幅上升。真正的流量红利不在“AI托管”的灰产套路里,而是在真实、优质、有价值的内容之中。要想遏制这种乱象并守护内容生态的健康发展需要三方共同努力:平台要强化技术甄别与规则惩戒;监管部门要完善法律法规;用户要提升辨识能力。 只有这样才能让AI真正赋能创作、守护内容生态的真实、健康与可持续。