问题：从“文书辅助”到“诉讼干扰”，“幻觉”进入法庭链条 生成式工具检索、写作、归纳上效率突出，正加速进入法律服务与当事人自助诉讼环节。但此外，一类“表面自洽、细节失真”的内容也开始流入诉讼：有人把虚构法条、杜撰案例当作依据，有人将生成图片、自动生成答复包装成证据材料，甚至出现借助工具特性“制造侵权场景”的异常取证。此类内容一旦混入证据链与说理链条，不仅抬高事实查明成本，还可能干扰裁判依据，削弱司法权威。 湖北省大悟县人民法院审理的一起房屋租赁合同纠纷中，原告提交的水电表照片带有“AI生成”水印。经法官质询，当事人承认使用有关技术伪造证据并受到训诫。北京通州区人民法院办理商事纠纷时，承办法官发现代理律师提交的案例案号与真实案件内容不符，追问后对方承认相关“案例”系工具生成。北京二中院在继承纠纷中核对当事人提供的“裁判依据”，发现所列并非准确的现行法律规定。上海二中院也出现当事人使用工具拟写诉状、援引不存在或与原意不符条文的情况。更值得警惕的是，在上海青浦区人民法院审理的商标权纠纷中，法院查明原告疑似通过反复搜索特定关键词、制造异常展示结果再取证的方式，人为营造“侵权”假象，并据此形成大量材料向多地提起或拟提起诉讼。 原因：技术机理叠加法律场景特性，放大“失真”风险 业内人士指出，这类“幻觉”与大模型生成机制密切相关：其输出本质是基于概率的语言预测，为保持连贯并完成指令，在信息不足或指令诱导较强时，模型可能自行补齐细节，进而生成并不存在的条文、案号或事实链条。法律场景的特点又更放大了风险。 一是法律知识体系庞大且更新快。规范性文件、司法解释、指导性案例持续变化，若工具训练数据滞后或检索链条不完整，容易生成“看似权威、实则过期”的内容。二是法律信息存在结构性缺口。部分裁判文书未公开或检索不便，内部规范与地方性规则难以全面覆盖，客观上形成信息盲区，促使生成内容在“空白处”自行填充。三是法律语言高度专业且强调精确解释。条文适用要件、例外情形、裁判要旨强依赖语境，简单拼接或概括容易造成偏差。四是诉讼竞争压力与成本约束，可能促使当事人或个别代理人对工具形成依赖，甚至将其当作“捷径”，弱化核验责任。更严重时，少数人借技术规避查证、放大诉讼收益，走向恶意取证与证据造假。 影响：增加审判负担，损害当事人权益与司法公信 “幻觉”进入诉讼程序，首先消耗的是审判资源。法官需要对案号、条文、证据来源逐项核对，庭审释明与质证时间被拉长。其次，当事人权益可能受损。若盲信生成内容、提交失实材料，不仅影响自身主张，还可能因虚假陈述、伪造证据承担不利后果。再次，司法秩序与诚信基础受到冲击。证据真实性与程序诚信是诉讼运行的前提，一旦“伪规范化材料”增多，容易造成“信息污染”，削弱社会对裁判的理解与信任。对市场秩序而言，利用异常取证制造侵权假象，还可能引发“批量化诉讼”和不当牟利，扰乱正常竞争环境。 对策：以严格审查为基础，完善规则与技术手段协同治理 面对新型风险，多地法院已从“个案识别”转向“机制建设”。实践显示，治理关键在于把住证据入口、压实提交责任、强化程序约束，并形成可复制的操作规范。 其一，强化对证据材料、法律意见的全流程核验，突出“来源—链条—一致性”审查。对图片、截图、检索结果、自动生成文本等，重点核对形成时间、获取方式、原始载体与可追溯路径，必要时要求提交原始文件、后台数据或第三方证明。其二，完善释法说理与庭审质证机制，及时揭示“虚构案号”“不存在条文”“逻辑自洽但事实断裂”等典型特征，通过当庭质询促使当事人回到事实与证据。其三，明确诉讼参与人的注意义务与诚信义务。对明知或应知失实仍提交的，依法采取训诫、责令更正、承担不利后果等措施；对伪造证据、虚构事实的，依法追究相应责任，形成震慑。其四，推动技术甄别与规则衔接。探索对带有生成痕迹的图片、文本进行标记识别与一致性校验，建立常见“失真类型”提示清单和核查指引，为法官与书记员提供辅助工具，同时坚持“技术只作辅助、裁判仍以法官审查为准”。其五，加强律师行业自律与培训。推动代理人对引用案例、法条进行复核，避免将工具生成内容直接作为法律意见提交，提升职业审慎与规范化水平。 前景：在鼓励合理应用与守住底线之间，形成可持续的制度安排 可以预见，生成工具在法律检索、材料整理、类案比对等环节仍有现实需求，关键在于明确边界、规范流程、提高可验证性。未来治理可能呈现三上趋势：一是规则层面更强调“可追溯”“可核验”，对电子证据与生成内容的提交要求进一步细化；二是审判管理层面形成常态化风险提示与抽查机制，对高频类型案件、异常取证行为加强甄别；三是社会层面推动诚信诉讼与技术素养同步提升，让当事人理解“生成不等于真实”，让代理人回到专业把关职责，让技术在制度框架内发挥正向作用。
人工智能技术是一把双刃剑。它为法律工作带来便利，也让虚假内容更容易进入诉讼程序，对司法秩序提出新挑战。这不仅是技术问题，也是法治问题。各地法院的探索表明，通过强化证据审查、完善防范机制、加强监督制约，可以有效降低对应的风险。更重要的是，全社会应强化对法治的尊重，让诚实守法成为基本共识。只有当事人、律师、法官与技术企业共同尽责，才能确保人工智能在法律领域的应用服务于公平正义，而非沦为欺诈工具。与AI虚假内容的较量，本质上是对法治底线的坚守。