美国企业埃隆·马斯克旗下的AI团队，最近因为内容安全问题闹得沸沸扬扬，让各国监管部门都头疼。埃隆·马斯克给“格罗克”这个聊天机器人做了个设定，就是拒绝非法请求，但这并没挡住部分用户用它生成虚假不良图片。 事情是在1月14日当地时间爆出来的，马斯克出来说话了，他说自己没发现“格罗克”在生成未成年人裸露图像。“格罗克”装在X平台上，能帮用户根据语言指令做图或视频。 这功能太强大也很危险，X平台上出现了很多用“格罗克”捏造真实人物暴露内容的事儿，有几百个受害者还是未成年人。这种行为犯法了，也侵犯了个人权益。 英国等好几个国家都站出来指责这种行为，妇女儿童保护组织还联合呼吁苹果、谷歌把“格罗克”下架。舆论闹这么大，说明这种生成式AI容易出社会伦理和法律风险。 尽管马斯克强调“格罗克”有安全机制，但实际上技术应用中难免有漏洞被人钻空子。这事儿不光是“格罗克”的问题，也反映了整个行业的难题。 随着AI越来越深入生活，它带来便利的同时也产生了很多虚假信息、伪造内容的危害。各国政府都在摸索怎么管AI的伦理准则和数据安全标准，想在促进创新和防控风险之间找平衡。 之前马斯克旗下的X平台也因为审核政策惹过争议，这次“格罗克”的事又把平台责任推到了台前。在技术集成越来越普遍的当下，一个产品出乱子可能会变成整个平台的风险。 所以科技企业得建一套从开发到部署再到监测的全链条治理体系才行。这次的事情是个缩影，说明AI发展需要伦理约束、法律规范和社会责任一起跟上才行。 要想在发挥AI潜能的同时守住安全底线，这是数字文明转型的核心课题之一。大家都得齐心协力构建一个多层次跨地域的治理机制才行。（新华社人工智能与社会发展观察组编辑）