问题显现：技术应用伴生“幻觉”风险 近期，智能技术在医疗诊断、法律咨询等专业场景的应用引发社会关注。某国际医学期刊研究显示，部分智能系统生成的医学参考文献中，近四成存在信息失真问题；在司法领域，错误援引虚构案例的情况也时有发生。这种“输出内容看似合理实则违背事实”的现象——被业界称为“技术幻觉”——其潜在风险已对专业领域的决策安全构成威胁。 根源剖析：三重机制缺陷亟待破解 深入分析表明，技术偏差主要源于三大环节缺陷： 1. 数据层面：训练数据存在信息滞后性，部分语料库中过时知识占比达23%；文化偏见问题在跨语言模型中尤为突出，某些语种数据覆盖率不足基准值的60%。 2. 训练机制：监督微调阶段强制完成应答的设定，导致系统在知识盲区倾向于虚构内容。某实验室测试显示，当遇到超纲问题时，系统选择编造答案的概率较诚实回应高出3.2倍。 3. 反馈循环：基于用户偏好的强化学习可能放大既有偏见。2023年多国联合研究证实，系统在性别关联测试中呈现刻板印象的概率较原始数据放大了47%。 全球治理：构建协同框架势在必行 面对技术治理真空，国际社会正探索解决方案： - 欧盟《人工智能法案》率先将“可信AI”写入法律，要求系统具备可解释性； - 中国在新一代人工智能治理原则中明确提出“发展负责任AI”； - 二十国集团已就技术伦理跨境协调启动对话机制。 中国路径：技术创新与价值引领并重 我国正通过双轮驱动应对挑战： 1. 技术端加速突破，华为“盘古”、百度“文心”等大模型已建立多层安全校验机制； 2. 制度端持续完善，《生成式AI服务管理办法》明确要求建立内容审核制度； 3. 国际舞台积极发声，在联合国框架下推动形成包容性治理方案。
大模型的发展需要生产方式和治理体系的同步升级；技术能力越强，越需要明确边界、校准价值、落实责任。只有将幻觉风险纳入制度化治理，在数据、训练、评测等全链条实现价值对齐，才能确保技术进步真正服务于公共利益，在创新发展中守住安全与信任的底线。