谷歌推出全新框架,手表AI续航不但翻倍,还解决AI行业重大痛点
在边缘AI领域,设备性能、开发难度与数据安全一直是绕不开的问题,很多小尺寸设备想搭载AI功能,却受限于技术瓶颈难以实现。谷歌推出的CoralNPU,正是针对这些行业难题给出的解决方案。
它在设计思路上有别于传统芯片,能更好适配边缘AI设备的需求,还搭建了相关平台降低开发门槛,同时从硬件层面保障数据安全。
这款产品的出现,不仅为边缘AI设备发展提供新方向,也可能给用户与智能设备的交互带来新变化。
颠覆设计谷歌新近推出的CoralNPU,为边缘AI设备注入了全新理念,为该领域带来了别具一格的发展思路,有望开启边缘AI设备的全新篇章。
过去芯片都围着CPU转,AI加速器只是“外挂”配件,处理持续的AI任务时特别费电,根本撑不起智能手表这类小设备的全天候使用。
现在CoralNPU把负责神经网络运算的“矩阵引擎”放到了核心位置,再搭配小型RISC-V控制核心和RVV1.0向量单元,未来还会加上量化外乘矩阵单元。
这种“AI优先”的设计思路很关键,能在几毫瓦的超低功耗下,实现每秒5120亿次操作(512GOPS)的性能。
这解决了行业多年的大难题,性能鸿沟,以前要么用通用CPU,软件支持多但AI运算慢能效差,要么用专用加速器,AI效率高却难编程不通用。
CoralNPU的架构平衡了两者,让智能手表、耳机这些电池小的设备,也能装下大型AI模型,不用总依赖云端连接。
全栈平台边缘AI行业一直被碎片化折腾得头疼,硬件上全是专有处理器,软件工具链也乱成一团,CPU和AI模块的编程逻辑完全不一样。
开发者得学各种专有编译器,为不同设备反复改写优化模型,成本高还费劲。
CoralNPU的全栈特性正好戳中了这个痛点,它基于MLIR、IREE和TensorFlowLiteMicro这些开源技术,做了个统一的编译器堆栈。
这意味着开发者只要写一次模型代码,就能在所有基于CoralNPU架构的芯片上运行,不用再为每个品牌的硬件单独适配。
此设计显著降低了开发门槛,营造出更为友好的研发环境,如此一来,可吸引更多开发者投身于边缘AI设备的研发事业,为行业注入源源不断的创新活力。
目前芯片设计公司Synaptics已经在用这个架构做下一代芯片了,说明这套方案不是纸上谈兵,真能落地到实际产品里。
硬件护隐私用户对AI的信任问题一直没解决,数据传到云端处理总担心泄露,CoralNPU从硬件层面给出了应对办法,核心就是“硬件强制安全”。
它的架构支持CHERI这类新技术,能做到细粒度的内存级安全和软件分区。
简单说就是把敏感的AI模型和个人数据,隔离在一个硬件打造的“安全沙箱”里,外面的攻击根本碰不到。
这种本地化数据处理模式,从源头阻断了云端传输潜藏的隐私风险,凭借更为安全可靠之法,来保护数据隐私,为数据安全筑牢坚实壁垒。
谷歌觉得下一个技术飞跃不是把模型做更大,而是让智能更贴近人,CoralNPU正是朝着这个方向走,它的开源特性有望成为边缘AI的新标准。
未来戴着能实时翻译的耳机、能监测健康的手表,所有智能功能都在本地运行,既流畅又安全,用户和设备的交互方式可能会被彻底改变。
结语CoralNPU的出现,给边缘AI领域带来了实实在在的突破。
它打破传统芯片局限,平衡性能与功耗,让小型设备也能高效运行AI,统一开发平台,帮开发者省去大量麻烦,硬件层面守护隐私,解决用户顾虑。
这些设计不仅当下能推动产品落地,长远看,更可能成为行业新标准,让智能更贴近生活。
未来,随着更多企业参与,边缘AI设备会更普及,用户能在安全、便捷中享受智能,整个领域也将迎来更广阔的发展空间。
页:
[1]