北京科研团队发布人工智能安全评估框架,涵盖94项风险维度,首批完成对22款主流大模型的测评

问题:随着大模型在政务、金融、医疗、教育等领域加速落地,模型自主调用工具、生成方案、获取数据的能力持续增强,风险边界也随之扩大;偏见固化、隐私泄露、恶意利用、技术失控等问题逐渐浮现,安全治理明显滞后于技术发展节奏。

大模型的安全治理,本质上是技术加速演进的同时补齐防护短板。"前瞻安全基准"的推出,为国内该领域的系统性评测提供了可操作的框架。随着评估体系持续完善,中国在人工智能安全治理上的实践经验,也有望为全球有关讨论提供有价值的参照。