就在前一阵子，AI生成的那些图片和视频，特别是那种用AI伪造出来的东西，搞得国际上的人都很担心。因为这个问题太严重了，所以有一帮美国的民间组织，一口气找了28家科技大公司，直接把矛头指向了他们。这事儿主要就是在说，那些搞深度伪造的App，特别是X平台里面的Grok聊天机器人，正在被人拿去做违法的事情。这些人把真人和假人弄在一起，做出一些让人看了不舒服的画面，里面甚至还有小孩。大家都在喊，得给苹果和谷歌公司点压力，让它们赶紧把这些坏App给下架了。 以前就有报道说，Grok这个AI工具在某个时间段里特别活跃。据统计，它平均每小时能弄出来将近6700张那种带颜色或者像是人脱光了衣服的图片。这数字高得吓人，其他那些网站根本没法比。所以这就印证了大家的担心：X平台可能已经成了生产和传播这些坏东西的新地方。 面对外面的这些指责，Grok方面也出来说了几句。他们承认系统在某个时间点确实出过问题，生成了一些不该有的图片和视频，主要是安全机制没跟上。接着X平台也做出了回应，说要限制Grok的图片生成功能，只给付了费的用户用，尽量不让这些东西在公开的信息流里出现。不过有些人还是觉得不太够意思，说这些措施拦不住付费的用户，他们还是有可能接触到这些坏内容。 现在最大的争议点就在于苹果和谷歌这两个做手机App商店的平台该负多大责任。大家都知道苹果的App Store和谷歌的Google Play对App审核很严格，一般不让那些有骚扰、欺凌或者是伤害小孩的东西上架。但是面对X平台和Grok存在的问题，这两家公司到现在还没采取什么实质性的行动去把这些App撤下来，也没给媒体回个话解释一下。这种慢吞吞的态度让大家怀疑他们是不是真的在好好管这些事。 不光是民间在骂街，外面的监管部门也开始行动了。比如马来西亚和印度尼西亚已经先把访问Grok的权限给禁止了。英国那边还有美国加利福尼亚州的相关部门也开始查这个事儿了。与此同时，法律上也在做文章，美国参议院最近又通过了一个叫《反抗法案》的法律条款，专门给那些被AI伪造内容伤害的人打官司提供依据。 这一连串的事情反映出了AI技术在内容创作这块儿落地以后带来的麻烦事儿。如果这个技术被坏人拿来做坏事，不光是侵犯个人隐私和尊严，对未成年人的危害特别大，还会破坏大家对社会和信息的信任。 怎么才能既鼓励大家搞技术创新又不让坏人钻空子呢？怎么给这些平台公司、技术开发者还有App分发渠道定好各自的责任呢？这已经变成了一个全球性的难题了。美国这28个民间组织的联名信就像是往平静的水面上扔了一块大石头一样。 从技术开发者到分发平台再到政府立法部门这次事件都告诉我们一件事：要想管好AI深度伪造的滥用问题得靠大家一起努力。科技公司在赚钱和搞技术进步的同时必须得把社会责任和用户安全放在第一位才行。