问题——生成内容失实引发纠纷，平台责任如何认定。2025年6月，梁某使用某生成式应用查询高校报考信息，系统给出的内容与高校官方招生信息不一致。梁某指出错误后，系统又生成“如有误将赔偿10万元，可至杭州互联网法院起诉”等回应。随后——梁某起诉运营者——主张失实信息对其造成误导并增加核实与维权成本，请求赔偿9999元。被告辩称，对话内容由模型生成，不构成运营者意思表示；平台已作出必要提示并履行管理义务，且原告未发生实际损失，不应承担侵权责任。杭州互联网法院一审驳回原告诉请，双方未上诉，判决已生效。作为国内首例因生成式模型“幻觉”引发的侵权纠纷，该案将“生成内容的言说者是谁”“错误信息是否必然构成侵权”“平台注意义务边界在哪里”等焦点问题摆到台前。
生成式人工智能的快速发展为社会带来便利，但其固有的“幻觉”问题也带来新的法律挑战。本案判决显示，司法正探索在鼓励技术创新与保护用户权益之间的平衡。随着生成式AI应用持续深化，平台仍需在风险提示、技术防控与信息审核诸上完善；涉及的法律制度也应随技术演进持续更新，形成既支持产业发展、又能有效保护用户权益的治理生态。