2025年，梁某在上海交通大学凯原法学院林洹民教授提到的案例中，遇到了一些意外。这是杭州互联网法院审理的一起关于生成式人工智能“幻觉”侵权的案件，也是国内首例针对这类问题进行审理的案件。事情起因是2025年6月，梁某使用某生成式AI程序查询高校报考信息，却发现了不准确的内容。尽管梁某指出了错误，但这个AI模型生成了一句承诺：“如信息有误将赔偿十万元，并可前往杭州互联网法院起诉”。后来梁某向法院提供了官方信息佐证后，模型方承认了错误。梁某于是把这个应用程序运营者告上了法庭，理由是这个AI提供错误信息误导了他，并增加了他核实与维权的成本。运营者辩称对话内容是模型自动生成的，并不代表他们的真实意思表示，并且他们已经履行了相应的义务。 这个案件最终在杭州互联网法院审理后，驳回了梁某的诉讼请求。判决生效后引起了法律界和科技界的广泛关注。因为它回应了具体当事人的诉求，也触及了人工智能技术与现行法律体系之间的核心议题。这个判决为规范行业发展、平衡技术创新和权益保护提供了清晰的司法边界。 法律主体界定是这个案件最突出的争议焦点之一。判决明确指出根据现行法律，AI不具备民事主体资格，不能独立承担民事责任。生成式AI产生的内容和承诺都不能被视作服务提供者真实的意思表示。上海交通大学凯原法学院副教授林洹民认为这个判决确立了“人类负责制”原则，明确了人工智能系统产生后果由人类主体承担责任。 判决还将案涉生成式人工智能服务定性为“服务”而非“产品”，适用过错责任原则。所以生成式AI提供不准确信息本身并不直接构成运营者侵权。责任成立关键在于判定运营者是否存在过错。 法院对运营者注意义务进行了分层界定：第一层级是针对违法有害信息的严格结果义务；第二层级是针对一般性不准确信息的过程性义务；第三层级是风险提示义务。这次判决不仅处理了具体案件争议，还为整个行业提供了稳定预期，提醒用户理性认知AI工具的能力边界，共同促进人工智能技术更好地服务社会发展。