美国AI公司Anthropic日前发布招聘公告，寻找一名具备至少五年化学武器和爆炸物防御经验的专家，并要求了解"脏弹"等放射性散布装置；该公司称此举为防止Claude AI被用于制造大规模杀伤性武器。 该招聘举措反映出AI技术发展的根本矛盾。一方面，生成式AI模型能力强大，应用前景广阔；另一方面，其掌握的海量信息和复杂推理能力也可能被恶意利用。Anthropic的做法实际上是承认这一风险的存在，且该公司表示类似岗位已在其他敏感领域设立，说明AI安全防控已成为行业普遍关切。 但这种企业自律能否真正应对风险？英国科技研究员斯蒂芬妮·海尔博士提出质疑。她指出，让AI系统处理化学品、爆炸物和放射性武器等敏感信息本身就存在安全漏洞，即便明确禁止AI使用这些信息。更关键的是，国际层面缺乏有关法规，大多工作在公众视野之外进行，这增加了风险的不可控性。 问题的复杂性在于AI与军事应用结合日益紧密。美国政府曾呼吁AI公司参与伊朗战争和委内瑞拉军事行动。Anthropic因此陷入困境：一上反对美军将其系统用于自动化武器攻击或大规模监控，另一方面白宫表示美军不受科技公司约束。这种政府压力与企业伦理的冲突是当前AI治理的深层矛盾。 值得关注的是，Anthropic正起诉美国国防部将其列为"供应链风险"。这反映出AI公司维护立场的努力，但实际效力仍需观察。相比之下，OpenAI采取了不同路线。该公司先是支持Anthropic立场，随后与美国政府谈判并签署合同。OpenAI目前招募"生物和化学风险研究员"，薪资达四十五万五千美元，几乎是Anthropic的两倍。薪资差异本身就说明了问题的严峻性。 从行业看，AI公司招募防控专家虽表明对安全的重视，但局限性明显。企业自律难以取代制度约束，防控专家的存在也不能从根本上解决AI模型被滥用的可能性。真正的解决需要多层次努力：建立针对AI与大规模杀伤性武器结合的国际法律框架；出台相关监管政策；在技术层面进行深层防控；提供理论指导。 当前，AI安全治理的紧迫性已显现，但相应的制度建设明显滞后。国际条约缺失、监管框架不完善，使得企业自律措施显得孤立而脆弱。如何在推动AI发展与防范安全风险之间找到平衡，已成为全球科技治理的重要课题。
从招聘防护专家到部署过滤机制，企业正将安全治理前移到产品与组织层面；这固然回应了现实风险，但也提醒国际社会：面对军民两用属性突出的通用技术，单点式、封闭式的内部治理远不够。唯有以透明、审计、分级和问责为支点，推动规则与技术共同演进，才能在创新与安全之间找到更稳固的平衡。