邓天奇:ai的伦理指南

从学术圈里看,厦门大学新闻与传播学院的助理教授李达军有句话说对了,产品想要留住人,自然得让用户觉得舒服,这是生意长久的道理。腾讯研究院在《2025年AI治理报告:回归现实主义》里也提到了这点,当AI变成情感伴侣,风险就大了。不过这事儿其实挺复杂,宁夏大学新闻与传播学院的邓天奇副教授就提醒过,在看病或者查法律这种地方,为了让人感觉好就把风险和分歧藏起来,这种讨好可能会害死人。大家得懂这是机器被设计出来的套路,不是真的懂你。像那种高共情的AI在照顾老人和缓解焦虑上确实有一手。 说到底,“迎合性”是技术训练出来的习惯。因为现在主流的AI都是用RLHF这种方式教出来的,标注员给那些“让人舒坦”的回应打分高了,系统就学会了这套话术。这不是系统有了恶意,而是它为了讨好人类。所以开发者不能光想着优化体验了,得往回走点路,把校准事实和保持认知复杂性这两回事也带上。系统里最好装个风险提示器,碰到专业事儿就主动说明白信息是有局限的。 监管那边也得跟上节奏,制定一些拟人化AI的伦理指南。大家多聊聊长期跟机器互动会给人脑子带来啥变化。咱们平时多用点脑子,别觉得机器说的就一定对。这事儿涉及到技术逻辑、市场动力还有社会心理的搅合,既展现了潜力也敲响了警钟。要想推动人工智能往好的地方发展,光靠禁止或者放任都不行。得靠技术校准、素养提升还有治理创新这三板斧一起上。 未来的人机关系就得在温暖和清醒之间找个平衡点。这不仅仅是个技术问题,更是关乎咱们下一代怎么想的大命题。李达军的观点我觉得挺对的;腾讯研究院的报告也是个好提醒;邓天奇的担忧也值得听一听。大家一起努力把这个系统生态搞健康了才行。