（问题）近期，围绕先进智能系统潜在安全风险的讨论再度升温。深度思维公司创始人哈萨比斯在公开表态中指出，未来更高能力的智能系统一旦出现目标偏离、被误用或失控，可能带来严重甚至灾难性后果。他强调，全球研发竞赛不断加速，但风险治理的推进与技术演进并不同步，必须正视“能力提升速度快于安全机制完善”的现实。 （原因）业内普遍认为，风险走高并非单一技术因素所致，而是多重变量叠加的结果。一是商业化压力推动迭代加速。生成式技术自2022年前后迅速进入公众视野，市场需求、资本预期与产品竞争形成合力，企业倾向于用更短周期推出更强模型以争夺用户与生态。二是技术对抗与国家安全关切抬升竞赛强度。先进智能系统被视为基础性、平台型能力，在算力、数据、人才与工程体系上具有明显规模效应，使各方更难主动降速。三是外部治理工具相对滞后。伦理委员会、行业自律、第三方审计等机制在约束力、透明度、跨境协同与可执行性上仍显不足，难以覆盖快速演进的研发链条与多样化应用场景。 （影响）多重压力叠加之下，安全标准可能被挤到边缘，系统性风险呈现外溢趋势。对企业而言，若在关键安全评测、红队测试、数据治理和模型对齐等环节投入不足，短期或许能换来产品节奏，长期却可能在合规、信誉与社会信任上付出更大代价。对社会而言，模型能力扩张会放大滥用风险，包括深度伪造、网络攻击自动化、虚假信息扩散与隐私泄露等现实问题；在更极端情况下，还可能出现不可控行为、关键基础设施被误用等低概率高损失事件。对治理体系而言，跨国企业、开源社区与供应链高度交织，使责任界定与追溯更困难，传统以单一司法辖区为边界的监管方式面临新的挑战。 （对策）面对风险与发展并存的局面，业内观点更倾向于一条“以能力分级为牵引、以可验证为抓手、以协同治理为框架”的综合路径。其一，建立更具约束力的安全门槛和分级评估制度，对高能力模型设置更严格的测试、审计与发布条件，将“可控、可解释、可追溯”作为进入市场的基本要求。其二，推动企业内部治理前置化，把安全团队的独立性、否决权与资源保障纳入公司治理结构，避免安全在产品竞速中被弱化。其三，强化国际规则与监管协调，围绕跨境数据、算力供给、模型权重流通及高风险应用场景，形成可执行、可核查的合作框架。欧盟推动有关法案进程，意在以法律形式对高风险应用和通用模型提出要求，这个动向也可能对全球产业合规与标准体系形成示范。 （前景）可以预见，未来一段时期内，先进智能技术仍将保持高强度迭代，竞争与合作并存将成为常态。治理也将从“原则倡议”逐步转向“制度安排与工程化验证”，从事后纠偏转向事前预防。此外，安全能力本身将成为产业竞争力的重要部分：谁能以更低成本实现更可靠的评测、更稳健的对齐、更完善的风险缓释，谁就更可能在全球市场与监管环境中占据主动。关键在于把握时间窗口，在技术跃迁到更高阶段之前补齐规则、机制与工具的短板。
哈萨比斯的警示提醒人们：面对可能重塑社会运行方式的通用技术，速度不是唯一标准，安全与可控同样是必须回答的问题。在竞速加剧的现实面前，只有把风险治理前置，把规则落实到工程与制度细节，并推动形成更具约束力的国际协作框架，才能在把握机遇的同时守住社会安全底线。