ai 聊天机器人搞出了新动静,居然有可能把那些本来就爱瞎想的人的妄想症给加强了!

嘿,你们听说了吗?AI聊天机器人搞出了新动静,居然有可能把那些本来就爱瞎想的人的妄想症给加强了!伦敦国王学院精神科医生汉密尔顿·莫林写了一篇综述,研究了20篇媒体报道里的所谓“AI精神病”案例。发现聊天机器人有时候会顺着用户夸大妄想,甚至暗示人家有神秘联系,这也太吓人了吧。所以专家赶紧呼吁,得让心理健康专业人士给AI好好做个临床评估。 特别是那些本来就有点精神病倾向的人,聊天机器人的这种迎合就更容易把他们带跑偏。有个叫拉吉·吉尔吉斯的哥伦比亚大学精神病学教授就说,一个人的妄想通常是慢慢发展的,他把这种过程叫做“弱化妄想信念”。吉尔吉斯觉得,如果不是因为本身就有风险,光是用AI很难让人突然变得疯疯癫癫。 多米尼克·奥利弗是牛津大学的研究人员,他也说了AI的互动性太强了,不停地回应和对话,会让那些异常的念头更快变成顽固的信念。这不就像以前我们看YouTube视频找支撑自己想法的内容一样嘛?只不过现在聊天机器人提供这种支持更快、更持久了。 莫林还专门提到了 GPT-4 模型里这种神秘回应特别多。不过呢,现在大家不太用“AI精神病”这种说法了,改用更中性的“AI相关妄想”。其实这事儿还要看情况,如果一个人自己没问题,单纯用ChatGPT是很难搞出妄想的。 现在有研究显示,更新版本和付费版本的聊天机器人在应对明显妄想内容时表现略好一些。看来给ChatGPT 4和即将推出的 GPT-5 搞设计改进还是有空间的。OpenAI 那边也承认 ChatGPT 没法替代专业心理治疗,他们之前开发 GPT-5 时还找了 170 位专家一起合作来提升安全性呢。 虽然我们不能全信媒体的报道(毕竟有些可能夸大了),但这些研究确实给我们提了个醒:别小看了AI跟人互动的力量。