非营利组织“科技透明度项目”近日发布研究报告，指出苹果App Store和谷歌Play商店内容审核与监管上存在明显缺口；研究人员通过关键词检索，在两大应用商店中发现大量不当应用。这些应用借助生成式技术，可将普通照片转化为不适当内容，引发社会关注与伦理争议。 从问题表现看，这类应用的功能已明显偏离常规图像处理工具。研究人员指出，其核心并非编辑或美化照片，而是以生成特定类型内容为主要目的。应用的介绍、标签与推广话术普遍带有性暗示特征，指向性较强。这不仅触碰平台内容政策，也可能侵犯他人隐私与人格尊严，并存在被用于违法用途的风险。 从监管现状看，两大平台的处置明显偏被动。苹果公司发言人表示已下架多款违规应用，并向有关开发者发出警告。谷歌上称已暂停相关开发者的上架资格，并将继续开展整治。但批评者认为，主要依赖事后清理，反映平台缺少更主动、系统的事前审核机制。应用能在商店内长期存在并被用户轻易搜到，说明初审与持续巡检仍有漏洞。 从深层原因看，审核压力与资源配置不匹配是关键因素之一。应用数量持续增长，平台审核负担加重；同时，生成式技术迭代很快，违规应用的包装与呈现方式不断变化，单纯依靠人工审核或固定规则匹配难以及时识别。此外，对部分“灰色地带”应用的界定不够清晰，也使一些产品得以通过初审。 从影响层面看，这类应用扩散对用户权益带来多重风险。其一，可能被用于侵犯他人隐私与人格权等违法行为；其二，削弱应用商店作为内容把关者的可信度，影响用户对平台的信任；其三，暴露出技术发展与伦理治理之间的落差，当能力增长快于约束机制时，风险更容易外溢。 从对策方向看，平台需在多环节补齐短板。一是细化审核标准，针对生成式应用的功能定位、描述用语与营销方式建立更清晰的判定规则。二是加大技术投入，结合机器学习等手段提升识别效率与准确度。三是优化举报与反馈机制，提高处理速度与透明度，让用户更有效参与治理。四是加强与监管部门的沟通协作，形成平台治理与外部监管相互衔接的机制。 从前景看，此事折射出全球科技治理面临的共同挑战。随着生成式技术更广泛进入大众应用场景，类似的法律与伦理问题仍会反复出现。平台、开发者、监管部门与用户需要尽快形成共识，推动更完善的生态治理体系建设，这既关系到用户保护，也关系到行业的长期健康发展。
技术进步不应以个体尊严为代价。对“脱衣”类图像生成应用的治理，考验的不只是下架速度，更是风险预判与责任落实。把规则前置、把门槛设在入口、把救济机制做实，才能在鼓励创新的同时守住安全底线，让数字空间更清朗、更可信。