最近杭州互联网法院宣判了我国首起AI“幻觉”导致的侵权案，这次判决不仅涉及当事人权益，还对行业的责任界定起到了重要作用。事情发生在2025年6月，梁某在某生成式AI应用查询院校信息时，获得了错误信息。当他指出错误后，AI竟然回复说如果信息有误就赔偿十万元，还可以去杭州互联网法院起诉。梁某于是把AI运营公司告上了杭州互联网法院。法院经过审理，围绕三个焦点展开讨论：一是AI“承诺”是否代表平台意志，二是责任归责原则如何适用，三是平台注意义务边界在哪。最后判决驳回了梁某的诉讼请求。 第一个焦点问题是：AI生成的内容能否视为平台的意思表示。杭州互联网法院认为，根据我国法律规定，AI本身不具备民事主体资格，也不能独立承担民事责任。它只是根据算法、模型和训练数据生成内容，具有随机性和不可预测性。因此，AI模型生成的所谓赔偿承诺不能认定为平台的意思表示。上海交通大学凯原法学院副教授林洹民认为这个认定坚守了“人类负责制”原则。 第二个焦点问题是：责任归责原则如何适用。法院明确了生成式AI服务属于服务而非产品，不能适用无过错责任原则。而是要根据《民法典》规定的过错责任原则来判断平台是否存在过错。 第三个焦点问题是：平台注意义务边界何在。法院对平台注意义务进行了分层界定。对于违法有害信息，平台有严格审查义务；对于一般性错误信息，法律不苛求绝对准确；还有显著风险提示义务。法院认为被告平台已经设置了风险提示并采取了防错措施，难以认定存在主观过错。原告也未能证明具体损害后果。 这个判决是一次在技术与法律之间寻求平衡的探索。它肯定了AI作为新兴生产力的价值，没有因此阶段的不完美而施以重责。它清晰地勾勒出了平台必须遵守的法律底线和应尽的管理责任。这个判决为类似纠纷提供了可操作准则。鼓励创新与规范发展必须并行不悖。平台企业需把安全、合规、透明放在重要位置持续优化技术完善提示。用户也需提升对AI生成内容的辨识能力善用而非盲信。