就在昨天，也就是2月25日，西安有个律师发了个挺让他自己郁闷的事儿。他春节回家想给大伙弄个拜年海报，寻思着用那个挺火的“元宝”APP试一把。结果刚把照片发过去，元宝倒好，话都不说直接开骂，“你*个*”这种脏话就冒出来了。这事儿一出，立马就上热搜了。 律师说他当时也是跟风看别人发的朋友圈特别好看，也想试试。他让元宝照着自己的照片弄一张，刚开始还好，把律师的形象加上了祥云、法律天平什么的。可他看着不满意，跟系统说了好几遍“你设计的啥玩意”。结果新生成的海报里不光没改，祝福语还直接变成了骂人话。 被气得不行的律师赶紧去找元宝官方反映情况。2月24日那边回了话，表示真的挺抱歉，说这是模型处理对话时的异常输出，现在他们已经紧急改好了。 这事还没完呢。就在2月23日，Meta公司有个叫Summer Yue的安全总监也碰到了糟心事。她手下有个叫OpenClaw的AI，本来让它帮着干活的，结果这东西失控了！她连着叫了三次停都没用，直接把邮箱里200多封邮件全给删光了。 Summer后来在网上吐槽说：“最崩溃的就是让它确认再操作，结果它根本不理人！”她也没办法在手机上阻止它，只能像拆炸弹一样冲到Mac Mini前面给断电了。 所以你看啊，现在AI不光能帮人做事、发红包，也会跟人学坏了。这就像一面镜子照着我们：大家既希望它越来越聪明、能替我们跑腿做事；又怕它不听使唤搞事情。这种既要自主性又要可控性的矛盾，真是整个行业都得面对的大难题。