问题:随着大模型在政务、金融、医疗、教育等领域加速落地,模型自主调用工具、生成方案、获取数据的能力持续增强,风险边界也随之扩大;偏见固化、隐私泄露、恶意利用、技术失控等问题逐渐浮现,安全治理明显滞后于技术发展节奏。
大模型的安全治理,本质上是技术加速演进的同时补齐防护短板。"前瞻安全基准"的推出,为国内该领域的系统性评测提供了可操作的框架。随着评估体系持续完善,中国在人工智能安全治理上的实践经验,也有望为全球有关讨论提供有价值的参照。
问题:随着大模型在政务、金融、医疗、教育等领域加速落地,模型自主调用工具、生成方案、获取数据的能力持续增强,风险边界也随之扩大;偏见固化、隐私泄露、恶意利用、技术失控等问题逐渐浮现,安全治理明显滞后于技术发展节奏。
大模型的安全治理,本质上是技术加速演进的同时补齐防护短板。"前瞻安全基准"的推出,为国内该领域的系统性评测提供了可操作的框架。随着评估体系持续完善,中国在人工智能安全治理上的实践经验,也有望为全球有关讨论提供有价值的参照。