应用商店惊现AI换脸涉黄应用 科技巨头监管漏洞引社会担忧

近日,一份非营利机构的研究报告引发关注。报告指出,苹果和谷歌的应用商店中存多款以"脱衣"功能为卖点的图像生成应用。这些应用并非普通的美化工具,而是通过他人照片生成露骨图像。随着话题在社交平台持续发酵,苹果回应称已下架违规应用并向开发者发出警告;谷歌则表示暂停了部分开发者的上架资格,并将持续整治对应的问题。 问题: 这类"脱衣"应用本质上是对人格权和隐私权的侵害。它们降低了制作露骨内容的门槛,增加了"定向羞辱"和"报复传播"的风险。一旦相关内容在社交平台或匿名社区扩散,受害者可能面临名誉受损、心理创伤等多重伤害。更值得警惕的是,未成年人也可能成为受害者,深入加剧社会风险。 原因: 平台审核滞后与灰色营销是主要原因。部分开发者通过模糊描述、拆分功能等方式规避审核,将违规功能隐藏在付费墙或二级页面。同时,应用商店对新型滥用场景的识别不足,主要依赖事后举报和处理。此外,违规应用多采用订阅制等高收益模式,开发者还通过频繁更换账号、跨地区上架等手段逃避追责,加大了治理难度。 影响: 此类应用不仅侵害个人权益,还影响平台公信力和社会治理。对个人而言,未经同意生成和传播露骨图像已触及人格尊严底线,且存在取证难、删除难等问题。对平台来说,若缺乏有效审核机制,将面临公众质疑和连带商业风险。社会层面则可能助长深度伪造、敲诈勒索等违法行为,增加执法成本。 对策: 治理需从被动应对转向主动防范: 1. 完善审核规则,明确禁止未经同意生成露骨图像的行为 2. 建立动态监测机制,对异常下载量、评论和应用内购进行复核 3. 加强开发者管理,对屡次违规者限制支付能力和上架资格 4. 加强跨平台协作,建立快速下线机制和受害者救济通道 5. 加强公众教育,特别是未成年人保护 前景: 随着图像生成技术普及,相关滥用行为可能更加隐蔽。应用商店需要平衡创新与安全,建立有效的治理体系。未来行业有望在隐私保护、跨境协作各上推进规则细化,为技术应用设立更明确的边界。

应用商店作为连接开发者和用户的桥梁,必须承担起把关责任。这次事件表明仅靠事后处理远远不够,平台需要建立更主动的审核机制。只有真正将用户权益和社会责任放在首位,才能赢得信任并实现可持续发展。这需要监管部门、企业和社会各界共同努力,维护健康的应用生态。