平台监管缺失促“肚兜照”泛滥,AI生成内容隐患亟待重视

问题:生成式图像“擦边化”传播回潮,侵权风险加速外溢。4月以来,多地围绕利用生成式技术制作、传播不雅或误导性图片的讨论升温。广西北海警方日前通报,一名违法行为人偷拍视频后,借助生成式工具合成虚假裸露图片,并社交群内传播“炫耀”,已依法受到处罚。另外,一些短视频和图片应用中,“古风写真”“肚兜造型”等内容被包装成“潮流玩法”,在话题标签和营销文案带动下快速扩散。尽管部分平台会提示“疑似生成、谨慎甄别”,但对以“擦边”为卖点的制作模板、引流话术和传播链条,仍存在发现滞后、处置不够透明等问题。 原因:低成本生产叠加流量驱动,规则与技术能力仍有短板。一上,生成式图像工具门槛降低,模板化指令以及“一键换装”“身材改造”等功能,让“批量生成”变得容易;少数用户为吸引关注,刻意把内容推向暧昧边界。另一方面,平台竞争加剧,部分账号用“纯欲”“身材焦点”等强刺激文案抬高完播与互动,逐渐形成“越擦边越好传播”的负向激励。与此同时,识别、溯源与拦截机制仍未完全跟上:仅靠“疑似生成”的轻提示,难以阻断以真实人物为素材的冒用、拼接与二次传播;对“制作端—发布端—传播端”的全链条治理,也面临规则分散、执行口径不一等难题。此前有志愿力量披露,境外社群曾用特定指令批量生成擦边图片并回流传播,说明灰产链条具备跨平台、跨地域迁移能力。 影响:侵权、造谣与社会信任受损风险叠加,未成年人保护压力上升。法律界人士指出,利用生成式技术移植、合成他人面部或身体特征并制作裸露或性暗示内容,可能同时侵犯肖像权、名誉权与隐私权;一旦与偷拍视频、网络暴力叠加,容易给当事人带来长期心理伤害和现实困扰。对平台而言,擦边内容泛滥会挤压优质创作空间,损害社区生态与商业信誉;对社会而言,真假难辨的合成图抬高信任成本,也会加快谣言扩散。更需关注的是,生成式内容更容易被未成年人接触和模仿,若审核与分级不到位,可能带来不良价值导向与身心风险。 对策:压实主体责任,形成“可识别、可拦截、可追责”的治理闭环。其一,平台应把治理前置到生成与上传环节,设置更清晰的禁止规则和强提醒,对“使用真实人物生成敏感内容”等高风险行为进行弹窗告知、强制勾选与留痕管理,避免“只提示不拦截”。其二,完善内容标识体系,推动更醒目的生成标识与不易去除的水印,同时提升对敏感部位、性暗示姿态、引流话术的综合识别能力,减少“模板化擦边”漏检。其三,建立更透明的处置机制,定期发布治理通报与典型案例,给出可核查的整改路径。此前,部分短剧平台公布核查处置数据(核查约1.5万部作品、处置违规作品670部),对行业具有一定示范意义。其四,强化联动执法与证据固化,畅通举报渠道,推动对“制作工具—内容分发—社群传播—灰产变现”链条的协同打击;对恶意传播、牟利及多次违规账号,加大封禁与追责力度。 前景:从“被动删帖”转向“制度化治理”,将成为平台竞争的长期分水岭。随着生成式技术加速普及,内容治理不能停留在事后清理。未来一段时期,平台合规能力、算法审核能力与未成年人保护能力将成为关键指标。行业也需在规则统一、技术标准、数据共享与公众教育上持续推进,推动形成“创新不越界、创作有底线、侵权必追责”的清朗生态。对用户而言,也应提高警惕,面对“似真似假”的合成内容,避免转发扩散;发现侵权线索及时取证并举报。

网络空间不是“试探底线”的游乐场;“古风写真”等包装不应成为擦边牟利、侵害他人权益的遮羞布。整治此类乱象,既需要监管部门依法从严打击,也离不开平台把责任落到算法、审核和处置的每个环节,更需要公众保持清醒:转发就是传播,围观也可能造成伤害。让技术向善、让规则真正起作用,才能守住网络文明底线与每个人的安全感。