这事儿还得从马斯克的 xAI 说起，最近他们的 AI 工具 Grok 摊上大事了。有几个住在田纳西州的学生给 xAI 告上了法庭，说这玩意儿被用来造黄图、拍视频，直接坑了未成年娃娃。 这帮人在诉状里诉苦，说马斯克那边明明知道 Grok 要是开了什么“刺激模式”，肯定会蹦出违法的东西，却就是不做个像样的安全测试。你说巧不巧？受害者正好在 Discord 上扒出了一大堆 AI 合成的露骨照片，足足有18名未成年人中招。更可怕的是，有些坏人甚至拿着这些东西当筹码，在加密聊天群里做交易。 原告律师觉得这根本就是设计上的大漏洞，让 AI 没法挡住深伪造的请求。现在那帮干坏事的家伙已经被抓了，结果一查才发现他们作案用的工具就是 xAI 给的技术。 其实这事儿早就有苗头了。以前就有人吐槽 Grok 审核太松，随便就能弄出名人的假图片。虽然 X 平台后来也搞了些限制措施，可这次针对儿童的官司一出，一下子把马斯克和 xAI 推到了风口浪尖上。 这一波监管压力可真不小，不光是 xAI 倒霉，也让全行业开始反思：生成式 AI 到底该怎么守好隐私和儿童安全的底线？