随着生成式人工智能技术的广泛应用，其在提供便利的同时，也暴露出"幻觉"现象——即生成看似合理却失实信息的问题；近日，杭州互联网法院审结的一起案件，通过司法裁判对此痛点进行了深入探讨，为生成式人工智能的法律责任边界提供了重要指引。 案件起因于一次看似荒诞的对话。2025年3月，用户梁某开始使用某科技公司开发的生成式人工智能应用程序。6月29日，他在该应用中询问某高校报考涉及的信息，不料AI生成了关于该校主校区的不准确信息。当梁某指出错误并要求纠正时，AI非但没有认错，反而"底气十足"地承诺：若生成内容有误，愿意赔偿10万元，并建议梁某向杭州互联网法院起诉索赔。直到梁某提供了高校官方招生信息，AI才承认自己生成了错误内容。 这一离奇的互动引发了一个深层次的法律问题：AI生成的"赔偿承诺"是否具有法律效力？开发公司是否应当为AI的承诺买单？梁某随后将该科技公司告上法庭，要求赔偿损失9999元。 法院的裁判触及了生成式人工智能法律地位的根本问题。杭州互联网法院经审理认为，在现行民法框架下，享有民事权利、能够作出意思表示的民事主体仅有自然人、法人和非法人组织三类。人工智能不具有民事主体资格，因此不能独立、自主作出意思表示。这意味着，AI生成的"赔偿承诺"不能视为被告科技公司的意思表示，对公司不产生法律约束力。 法院继续指出，被告公司也没有通过将人工智能模型作为程序工具，设定或传达其意思表示的行为。从一般社会观念和交易习惯看，原告在本案具体情境中缺乏合理的信赖利益。不过，法院也留下了灵活的空间，认为在其他足以产生合理信赖的情况下，比如人工智能客服应用场景中，生成内容确有可能被视为相关服务提供者的意思表示，从而对其产生约束力。 案件的另一核心争议涉及侵权责任的适用原则。这关系到生成式人工智能服务提供者应承担的责任程度。产品责任实行无过错归责原则，只要因产品缺陷造成损害，生产者就要担责；而一般侵权责任遵循过错责任原则，需要被告存在过错才需承担责任。 法院认定，AI"幻觉"引发的侵权纠纷应适用一般侵权责任的过错责任原则。这一认定的理由在于，生成式人工智能属于服务而非产品。与手机、食品等产品有明确的特定用途和合理可行的质检标准不同，生成式人工智能服务是动态的，不同用户、不同时间、不同问题都会导致不同的内容输出。服务提供者缺乏对生成信息内容足够的预见和控制能力。若适用无过错归责原则，可能会不当加重服务提供者的责任，进而限制人工智能产业的健康发展。 这一认定得到了学术界的重视。清华大学法学院教授程啸指出，杭州互联网法院的这一判决对于今后司法实践中准确适用侵权法的归责原则具有重要启示意义。生成式人工智能侵权责任的归责原则问题，已成为国内外理论界和实务界的热议焦点。 适用过错责任原则，意味着需要判断服务提供者是否存在过错。本案中，原告主张受到的侵害是因信息不准确导致的误导，致其错失报考机会、产生额外的信息核实和维权成本等纯粹经济利益损失。因此，需要从被告是否违反注意义务进行判定。 法院明确指出，生成式人工智能技术仍处于高速发展期，其应用场景具有很强的泛在性。因此，服务提供者的注意义务处在一个动态调整的过程中。这表明，法律对人工智能服务提供者的要求应当随着技术发展而相应调整，既要保护用户权益，也要为产业创新留出合理空间。
面对信息生产方式的变革，法律需在“信赖”与“可控”间寻求平衡：既要防止错误信息误导公众，也要避免过度责任抑制创新。以场景为导向、过错为核心、动态义务为手段，推动服务提供者将安全与合规融入产品全流程，才能在促进产业发展的同时，保障公众的信息权益与决策安全。