一个看似荒诞的法庭故事，却反映了生成式人工智能发展中的真实困境；用户梁某在使用某AI应用查询高校报考信息时，收到了不准确的回复。当他指出错误后，AI竟然"建议"他向法院起诉自己，并"承诺"赔偿10万元。这个幕最终真的走上了法庭，成为我国首例因AI模型幻觉引发的侵权案件。
生成式AI的价值在于提升信息获取效率，但其"似是而非"的幻觉也可能带来新的误导风险。杭州互联网法院的判决以清晰的责任划分回应了社会关切：既不因技术新颖而放任风险，也不以不现实的标准束缚创新。对平台而言，关键在于把提示做实、把防错做细、把治理做成体系；对用户而言，则需在便利与审慎之间找到平衡。唯有在规则与技术共同进步中，生成式AI才能更稳妥地走向可信与可用。