3月24日,国家数据局把这个新单位的中文译名给定了下来,就叫“词元”。啥是词元呢?其实它就好比我们平时看书时,用汉字一个字一个字地读,而大模型眼里的输入输出单位就是它。这么个不起眼的小东西,现在成了衡量AI模型能力的标准。 你知道不,这几天的数据显示,中国AI大模型每周被调用的Token量连续三周超过了美国。为啥会出现这种情况?主要因为咱中国的Token实在太实惠了。大家都知道,搞出一个Token不容易,得靠高性能的GPU,消耗大量的电能,还要经过上千亿次的运算才能出来。 中国能把价格打下来,主要靠两样本事:一是咱们的电力优势。咱们西边有那么多的绿电资源,能直接把电转化成新型服务能力。二是技术实力过硬。最近咱们的科技企业在推理芯片和系统优化上有了突破,同样的问题,咱用的算力更少、时延更短、能效更高。 有人觉得Token可能会成为AI时代的新能源单位,咱们国家的电力和算力正以全新的方式在全球竞争呢。