matx 这家做ai 芯片的公司最近真是赚翻了,他们刚完成了b轮融资,数额足足有34亿呢!

Hey,你听说了吗?MatX这家做AI芯片的公司最近真是赚翻了,他们刚完成了B轮融资,数额足足有34亿呢!这事儿我先跟你唠唠。话说回来,MatX是个专门搞LLM的AIchip企业,它是由前谷歌TPU的工程师们给搭起来的。这回融资可是吸引了不少玩家入场,世芯AIchip、Marvell这些大鳄都投了。 他们把研发重点放在一款叫MatX One的芯片上,结构挺特别的,用的是那种可以拆分的脉动阵列。这设计既保留了大型阵列的能效和面积优势,又有小阵列的灵活性。为了保证速度快,他们还在里头做了个大动作:把SRAM和HBM结合起来用。大家都知道SRAM延迟低但容量小,HBM容量大但速度慢,这下结合在一起就完美了。 这一搞就把硬件水平给拉高了不少,MatX One号称能在LLM场景下做到吞吐量跟之前的芯片差不多,延迟甚至能达到SRAM优先设计的水平。这么一折腾,不管是训练还是推理、甚至是强化学习这些场景都能搞定了。更关键的是,这技术要是用好了,以后用AI的成本估计得降低一大截。