我得说Anthropic这家公司真是太实在了，虽然它最近才给美国那边公布成立了一个智库，专门来琢磨怎么应对那个随时可能要冒头的“强大人工智能”，甚至还准备两年内就得解决可能早于预期到来的通用人工智能，也就是AGI问题。这个智库说的话简直就是大实话，它根本没想过要开发出更厉害的模型，而是想把目光投向更深层的社会挑战和风险。毕竟这次Claude的用户量都超过了一百万人，谁也不敢说它一定安全无虞。Anthropic的目标很清楚，就是打破科技巨头的封闭状态，给大家架起一座桥，把开发时遇到的那些实际技术难题拿出来晒一晒，跟公众还有决策机构一起聊聊。这种行动太明智了。这家公司真的是“安全第一”，把危险想在了前头。他们打算重点关注四个关键领域：就业经济怎么转型？劳动力市场被AI重塑后咋应对？威胁和防御咋防止被滥用？还有人工智能的价值观到底咋跟人类的标准对齐？最后就是那些自循环的治理系统得咋管。Anthropic还是挺敢说实话的。 毕竟人家是一家人工智能安全领域的领军企业。 10月11日美国当地时间一到他们就公布了这个消息。 这个研究所就专门研究和解决强大AI可能带来的那些深层挑战和风险。 他们预计未来两年AI就会有突破。 有可能比大多数人想的还要早达到AGI的边缘。 这个智库就专门管就业经济转型、威胁防御、价值观对齐还有自循环治理这些事儿。 目标是打破科技巨头内部的封闭性当桥梁跟大家分享技术难题。 跟外界深入合作一起制定解决方案。 因为Claude的用户量已经超过每日一百万了。 所以Anthropic始终坚持“安全第一”的企业理念。