十四届全国人大四次会议今天上午在北京人民大会堂召开第二次全体会议。这事儿大家都看着呢。最高人民法院工作报告提了个大方向,要给搞IT的留出容错空间,特别提到了一起AI出岔子引发的官司。IT之家那边发的消息说,杭州互联网法院刚判了一个案子。原来梁某在某个科技公司开发的生成式AI里输了个提示词问学校招生的事,结果AI信誓旦旦地给了个错误答案。这时候梁某指出来了,AI不但不认错,还非得凑上前头说要赔10万。这荒唐劲儿真没法看。 杭州互联网法院这回没惯着这个毛病,直接驳回了梁某的索赔诉求。法院说了,你AI自己说的话不算数,平台就算有错也没啥过错。给IT之家记者采访到最高人民法院办公厅主任林文学给出的解释是:AI出现幻觉生成错信息这事不能怪机器自己不把担子挑起来。因为根据咱们国家法律规定的民事主体要件来看,AI根本就不算是有行为能力的人,它说的话也不能算正式的承诺。 这责任到底算谁的?关键还得看平台运营方有没有犯错。这个案例里头,平台界面上早就提醒用户说“AI生成的内容仅供参考”,并且在技术上也尽力提高准确性了,已经是在尽最大努力保障安全了。再加上这次纠纷也没给原告造成啥实际损失,所以法院才判平台不用赔钱。 这个事儿要往前追溯一下的话其实就是IT之家早先报道过的案子。2025年6月29号的时候梁某用那个生成式AI问了主校区的情况,结果AI回答得不准;他当场指出来后AI还瞎反驳;后来他提供了正确的信息后,AI才勉强承认错了;最绝的是这家伙还提出来要赔10万块钱;最后原告觉得自己被误导了就跑去告那个科技公司索赔9999块钱。 最高人民法院这回给出的意见就是一个明确的信号:以后再碰到AI犯错这种事儿可别乱来。机器再智能它也不是真的人,它说的话并不能代表平台。平台只要把该做的预防措施都做到位了并且没实际给用户造成损失那就是干净的。 这个先例立下来之后呢就意味着以后如果再有类似的纠纷法院就有了一个可参考的标准。以后大家在使用AI的时候也得长个心眼儿看看界面上有没有写着仅供参考这几个字;要是出了事也不用太激动去乱要赔偿;得先把责任搞清楚再做打算。 总的来说这次会议传递出的信号非常明确:咱们在大力发展AI和IT的时候确实需要更多的容错空间;但是这并不意味着平台就可以完全不管不顾;在保护创新的同时法律责任这根线必须拉紧不能松;只有这样才能既保障技术的发展又能保护用户的权益不受侵害。