亚马逊与cerebras的ai 芯片初创公司合作

3月14日这天,美国科技巨头亚马逊宣布把自己的云计算服务AWS,跟一家名叫Cerebras Systems的AI芯片初创公司合作了。Cerebras其实已经有了一个厉害的大主顾——估值231亿美元的这家公司刚跟OpenAI签了个100亿美元的大单,负责给那个火爆的聊天机器人提供算力支持。亚马逊这次合作的想法很简单,就是想把Cerebras的芯片放到自家AWS数据中心里去。他们还准备把亚马逊自研的Trainium3芯片和Cerebras的芯片连起来,利用亚马逊定制的网络技术实现互联。Cerebras的老板Andrew Feldman觉得这事儿挺好,因为不管是个人开发者还是像银行这样的大公司都在用AWS,“只要点一下鼠标,就能用上Cerebras的算力”。 不过双方没说这次合作具体是多少钱。亚马逊和Cerebras这是在AI领域解决一个关键问题——推理。说白了就是模型已经训练好了,接下来要把用户的请求变成答案的过程。他们把这个任务分成了两步:先是把自然语言的请求转成机器能看懂的“token”,这个活儿交给Trainium3芯片干;然后是真正的解码阶段,生成最终的答案,这就得靠Cerebras的芯片出马了。 这背后反映出一个大趋势:AI产业正从训练转向推理。因为现在用AI工具的人越来越多,大家都希望反应快点,以前那种GPU虽然训练模型快,但做推理并不太合适。英伟达也在这方面有动作,他们前不久花170亿美元买了Groq这家初创公司。亚马逊表示现在还没法详细比较自己的产品跟英伟达那个尚未公布的方案哪个强,不过他们觉得自己的性价比更高。“我们的Trainium3项目离上线生产级工作负载就剩几个月了。”亚马逊在声明里这么说,“我们相信Trainium3和未来的Trainium4在性价比上会一直领先市面上的GPU。” Feldman最后总结说,现在用AI的人越来越多、频率也越来越高,“Cerebras和Trainium的组合能让我们进入全球最大的云平台,也能接触到更多的客户。”