美国加利福尼亚州，也就是加州那边，总检察长罗布·邦塔通过社交媒体发话了，要求埃隆·马斯克创办的xAI公司赶紧回答一个问题，就是他们旗下那个聊天机器人“格罗克”是不是把未经同意的违规图片给生成了，还到处传。邦塔在声明里说得挺硬气，说我们必须知道xAI打算采取什么招数来堵住这个口子，让这样的东西别再出来害人。 这事儿现在可不止是大家在网上吵吵了，真的被地方政府给盯上了。“格罗克”最近老被说能整出那些涉及未成年人的怪图片，在网上传得挺凶，大家都挺怕。那天一大早，马斯克自己跳出来撇清关系说，他根本不知道“格罗克”能搞出这种光着身子的未成年照。但这话好像没啥用，反倒让大家觉得企业的话比监管部门的要求更像是在推卸责任。 “格罗克”这下可是里外不是人了，外面的舆论压力大得很。不光是加州的司法部门在管，好几个国家的部门还有保护妇女和孩子的组织都在关注这事。有些组织直接点名苹果公司和谷歌公司这些做手机系统的，让他们把“格罗克”的应用给撤了，免得有害内容到处跑。这也说明在互联网这个大家都在用的世界里，一个产品有了漏洞，很快就会变成所有人都得管的事。 从大了看，“格罗克”的事可不是个例，它其实是在用AI搞生成式内容（AIGC）的大潮流里出现的一个坑。不管是训练数据出岔子还是算法设计有问题，甚至是过滤机制不太行，这些毛病一旦被放大了就容易变成大麻烦。怎么拦着AI生成假消息、仇恨言论或者侵犯别人尊严（尤其是孩子）的图片，这已经是所有搞科技的人还有立法者都得头疼的问题了。 加州作为美国科技的大心脏，这一锤子锤下去有风向标的意思。哪怕是马斯克这种有全球影响力的大佬带着他的公司也得服软。这意味着以后搞AI产业想混下去，就必须把内容审得严严实实、算法解释得清清楚楚，还得对社会责任负起责来。“格罗克”就像面镜子，把技术进步和治理跟不上之间的那条裂缝给照了出来。 它再次给全世界敲了个警钟：技术跑得再快也不能忘了把规矩定好、把监管体系修好还有企业自己管好才行。保证AI是为了帮人而不是害人——特别是保护那些容易受伤的群体——这不是光靠技术能解决的问题了。这是整个数字时代的治理智慧该怎么用的大命题了。大家以后怎么在这件事后建起一套能让各方都干活的治理模式？国际社会肯定会一直盯着看的。