2

赢在边缘AI计算的时代:Arm新品迭出

 1 month ago
source link: http://www.dostor.com/p/87279.html
Go to the source link to view the article. You can view the picture content, updated content and better typesetting reading experience. If the link is broken, please click the button below to view the snapshot at that time.

赢在边缘AI计算的时代:Arm新品迭出-存储在线

当前位置:存储在线 > 技术 > 正文

4月9日,Arm面向物联网边缘 AI发布了两款新品:AI微加速器Arm Ethos-U85与全新智能物联网参考设计平台Arm Corstone-320,借此加速AI系统快速落地,促进未来多模态智能应用的全方位部署。

据了解,Ethos-U85专为与Armv9 Cortex-A CPU相结合而设计,以加速处理机器学习(ML)任务,并为更广泛的更高性能设备提供高能效的边缘推理能力。它通过支持Transformer架构和卷积神经网络(CNN)来实现AI推理。

与上一代产品相比,Ethos-U85性能提升了四倍,能效提高了20%,同时其MAC单元可从128个扩展到2048个(在1GHz时算力实现4TOPs),故能为诸如工厂自动化、商用或智能家居摄像头等需要更高性能的应用提供有力的支持。Ethos-U85提供了相同的一致工具链,帮助合作伙伴利用现有的投资,达到无缝的开发者体验。

值得一提的是,Ethos-U85 NPU还支持TensorFlow Lite和PyTorch等AI框架,丰富AI开发生态。

一同发布的全新Arm Corstone-320物联网参考设计平台集成了Arm最高性能的Cortex-M CPU——Cortex-M85、Mali-C55 ISP和Ethos-U85 NPU,为语音、音频和视觉等广泛的边缘AI应用提供所需的性能,例如实时图像分类和目标识别,或在智能音箱上启用具有自然语言翻译功能的语音助手。该参考设计平台涵盖了软件、工具和支持,包括Arm虚拟硬件。这种软硬件结合特性将使开发者能够在物理芯片就绪前便启动软件开发工作,从而加速推进产品进程,为日益复杂的边缘AI设备缩短上市时间。

Arm Ethos NPU系列产品已有逾20家授权许可合作伙伴,包括Arm Ethos-U85 NPU的早期采用者Alif Semiconductor和英飞凌。

2024041208581586.jpg
Arm物联网事业部业务拓展副总裁马健Chloe Ma

“目前,全球约有90%的AI都运行在基于Arm架构的CPU上,这些持续投入使Arm成为全球最普遍的AI计算平台之一,吸引了越来越多的开发者加入。”在当天发布会上,Arm物联网事业部业务拓展副总裁马健Chloe Ma表示,“Arm也将与生态伙伴们砥砺奋进,释放前所未有的AI潜力。”

针对物联网的边缘应用具有碎片化、多样化且越来越智能的特点,Arm始终聚焦软件生态标准以及硬件标准的投入为应对。马健表示,Arm一直在投入的SystemReady标准就是建立在实现在不同的、有差异化的Arm计算平台和芯片平台上,而那些实现标准的软件包,比如Linux Ubuntu标准软件包和Yocto等其他软件包无需改变就能运行于不同的Arm计算平台上。不仅如此,Arm多前年牵头创立的PSA Certified认证标准将安全标准推向芯片厂商、系统厂商以及软件开发者们,该认证标准与全球及区域性的安全合规有一定程度的吻合,使所有通过该认证的产品和系统具有最基本的安全和合规的保证。

在AI方面,Arm通过提供一个标准的生态工具以及软件工具链,例如Vela Compiler以及和业界主流的AI框架及其工具链所进行的预先集成,比如TensorFlow Lite。在中国本土市场,Arm和百度飞桨(PaddlePaddle)这一主流的AI框架也做了和Arm生态链、工具链的整合。所有这些努力都是使生态能够更加统一,使技术能够更加标准化,最终使AI和软件开发者能够更便利地基于Arm架构、从云、边、端打造统一的计算平台,快速地开发出所期望的新应用。

谈到AI时代面向人工智能物联网方面,Arm拥有的内核技术及专门的IP,马健回应说,Arm自成立以来一直聚焦IoT、边缘计算、嵌入式计算、终端技术等诸多领域,在工业互联网领域也有广泛的落地。Arm拥有非常成熟的处理器IP,其Cortex-M嵌入式处理器非常适用于MCU及一些低功耗的终端嵌入式设备,优化后的Cortex-M处理器增加了优化工具链及对AI和ML的支持;其Cortex-A应用处理器系列也在不断演进,最新的Armv9架构中提升了对安全特性和对边缘AI的支持,为矢量计算和矩阵计算带来更强有力的支持。

对很多用户来说,强大的AI及ML能力也意味着成正比的能耗。Arm架构天然具备优异的能效比,帮助广大的合作伙伴降低能耗和成本。马健强调,Arm秉承构建通用计算平台和生态的策略,不仅平衡性能与能效,更将软件的可扩展性和系统应用的开发成本作为一个关键的考量因素,进而助力生态系统合作伙伴实现最低的总拥有成本(TCO),无论是硬件的获得和运行成本,还是在硬件和芯片设计完成后的软件开发、应用开发、工具链支持的成本。

在AI、IoT时代,处理器市场正在形成x86、Arm、RISC-V三足鼎立的新格局,RISC-V的快速崛起正在业界广泛的关注。鉴于日渐白热化的竞争态势,马健认为至关重要的是不断创新以保持竞争力,并持续对Arm架构的研发以及产品路线图的迭代进行投入,在此之上夯实开发者工具和软件生态系统。

这些举措帮助Arm在过去三十年里,在物联网、嵌入式、终端、汽车、基础设施等市场中取得成功。

迄今,Arm的芯片出货量已达2800亿颗,全球范围内有1000多个生态系统合作伙伴及1500万Arm生态开发者。

未来Arm也坚信,持续投入并对客户和新兴市场的支持可以使Arm在边缘AI市场也取得更加卓越的成功。


About Joyk


Aggregate valuable and interesting links.
Joyk means Joy of geeK