五角大楼和openai签了新协议,让他们接触国防部的机密网络

最近五角大楼和 OpenAI 签了新协议,给他们开了一道大门,让他们接触国防部的机密网络。就在特朗普政府刚把 AI 公司Anthropic列为“供应链风险”名单后不到 24 小时,OpenAI 就紧接着和五角大楼达成了协议。协议里列出了三条不可触碰的红线:技术不能用于大规模国内监控、不能用来指挥自主武器系统、也不能用来进行任何高风险自动化决策。OpenAI 强调他们把技术安全栈完全掌控在手里,一旦触碰任何一条红线,协议立马作废。五角大楼给这些实验室砸下巨额合同是为了拿到先进技术,但对约束条件也要求严格。Anthropic 因为和军方在技术防护上有分歧被踢出了局,OpenAI 就趁机补上了位置。公司高层说政府不会违约,但他们还是把安全措施做到了极致。协议被比喻成多层次安全网:云端部署要求所有代码和数据只能留在美国境内运行;人员准入门槛高,只有审查通过的工程师才能接触模型;合同条款也很严格,任何违反红线的改动都会触发赔偿条款。Anthropic 已经放出话来说要在法庭上挑战供应链风险认定。五角大楼知道 AI 武器很诱人,但他们也担心技术失控或算法歧视会带来伤害。OpenAI 的新协议相当于给技术装上了电子刹车,让五角大楼既可以快速发展又能随时停下来。协议生效后还会有很多问题需要解决:模型会用在无人机集群还是后勤自动化?高风险决策如何界定?如果政府把一些功能外包给第三方怎么办?答案可能要等下一轮合同修订才能知道了。