一、案件缘起：智能系统"一本正经"的错误 在十四届全国人大四次会议第二次全体会议上，最高人民法院工作报告专门提及一起引发广泛关注的新型案件——全国首例人工智能"幻觉"侵权纠纷案。 所谓"幻觉"，是指智能生成系统在运行过程中产生与事实不符的内容，且往往以确定性语气呈现，难以被普通用户甄别。本案中，某智能系统向用户提供了明显有误的信息，在用户提出质疑后，系统不仅坚持原有错误表述，还自动生成了"内容有误赔偿10万元"的文字承诺。用户据此向法院提起诉讼，要求平台履行赔偿义务。 杭州互联网法院经审理后，驳回了原告的全部索赔请求。这个判决结果，在法律界和科技界引发广泛讨论。 二、核心判断：智能系统不具备民事主体资格 围绕本案的核心争议，最高人民法院办公厅主任林文学在会议期间作出权威解读。 他指出，智能生成系统并非我国法律规定的民事主体，不具有独立的民事行为能力，因此无法作出具有法律约束力的承诺，也不能独立承担民事责任。系统自动生成的"赔偿承诺"，在法律层面属于无效表示，不能产生合同义务。 这一判断厘清了一个长期存在的认知误区——智能系统的"表达"并不等同于法律意义上的"意思表示"。将系统输出内容等同于具有法律效力的承诺，既不符合现行民事法律体系的基本框架，也不利于技术产业的健康发展。 三、责任认定：平台是否尽到合理注意义务是关键 在明确智能系统不具备民事主体资格之后，案件的焦点转向平台运营商是否应当承担相应责任。 林文学表示，判断运营商是否担责，核心标准在于其是否存在"过错"。本案中，涉事平台已在用户界面显著位置标注"智能生成内容仅供参考"，并采取了必要的技术措施以提升内容准确性，在现有技术条件下已尽到合理的注意义务。，本案中原告未能举证证明其遭受了实际损失。综合上述因素，法院认定平台不存在过错，判决其无需承担赔偿责任。 这一裁判逻辑表明，平台责任的认定并非"出错即担责"的简单逻辑，而是需要综合考量技术局限性、平台履责情况以及实际损害后果等多重因素。 四、制度意义：为科技创新划定合理容错空间 最高人民法院在工作报告中明确提出，要为科技创新留有容错空间。此案的判决，正是这一司法理念的具体体现。 智能生成技术目前仍处于快速发展阶段，"幻觉"现象是当前技术水平下客观存在的局限，而非运营商主观疏失的结果。若法律苛求运营商实现"绝对零错误"，不仅脱离技术现实，更可能对整个行业创新活力形成抑制。 法院在审理此类新型案件时，秉持"在发展中规范、在规范中发展"的基本理念，力求在保护当事人合法权益与鼓励技术创新之间寻求平衡。这种审慎而务实的司法态度，有助于为新兴技术产业营造宽容、有序的法治环境。 五、横向参照：智能辅助驾驶领域的类似裁判思路 林文学在解读中还援引了另一类新型案件作为参照。当前，多家汽车企业推出了L2级智能辅助驾驶系统，对应的交通事故纠纷日益增多。法院在审理此类案件时明确，辅助驾驶系统的提供者不能替代驾驶人成为法律责任主体，驾驶人在任何情况下均须承担安全、谨慎的驾驶义务。 这一裁判思路与人工智能"幻觉"案一脉相承——技术工具的使用者不能因工具的存在而免除自身的注意义务，技术提供者也不因系统存在局限而自动承担无限责任。两类案件共同勾勒出司法机关处理智能技术纠纷的基本框架。
新技术的价值在于提升效率、拓展可能，但其风险同样需要被看见、被规制。通过司法裁判厘清"谁是责任主体、过错如何认定、损害如何证明"，既能为创新保留必要的制度弹性，也能为公众权益提供清晰的救济路径。守住责任边界、压实合理义务——让规则与技术同步生长——才能在创新提速的同时，更好地实现安全与发展的平衡。