华硕在这次CES上给大家带来了个大惊喜——便携式AI加速器UGen300。这玩意儿把强悍的40 TOPS算力都塞进了U盘大小的盒子里,门槛一下子就降低了,就算是普通用户也能把电脑或者手机变成AI工作站。它专门给边缘设备用,适合那种资源不太富裕的地方干复杂的活儿。 它里面用了块Hailo-10H处理器,再配上8GB的LPDDR4内存,这就相当于自带了一套运算大脑。这样一来,大部分计算都在这设备里搞定了,不用麻烦主机系统,保证电脑流畅运行。而且它不挑食,Windows、Linux、Android都能插,TensorFlow、PyTorch、ONNX这些框架也都能跑。 现在大型语言模型LLM、语音识别Whisper这些模型都可以优化后直接用UGen300来跑。不管是写东西、翻译、本地数据分析,还是保护隐私下的图像处理,这设备都能提供本地化的强大算力支持。 观察人士说,这不仅是个新产品,更是说明了个道理:AI算力正变得越来越平民化。以前只能在大型服务器里跑的东西,现在直接能到桌面甚至口袋里了。而且它还特别适合做边缘AI的载体,既能平衡性能、功耗、易用性,又得省成本。它的出现肯定会激发更多人在边缘设备上玩AI创新,把生成式AI从云端拉到身边用。 华硕这次发布的东西真是消费电子跟AI技术深度融合的好例子。它用硬件创新回应了边缘侧对便捷可靠算力的需求,为生成式AI落地提供了新工具。以后这种设备多了起来,人工智能赋能个人电脑和行业数字化转型的速度就会更快了。