6

百度飞桨适配MediaTek人工智能芯片,为智能产业落地开启新局

 3 years ago
source link: https://my.oschina.net/u/4067628/blog/4285355
Go to the source link to view the article. You can view the picture content, updated content and better typesetting reading experience. If the link is broken, please click the button below to view the snapshot at that time.
百度飞桨适配MediaTek人工智能芯片,为智能产业落地开启新局 - 飞桨PaddlePaddle的个人空间 - OSCHINA - 中文开源技术交流社区

AI人工智能产业又一重磅合作!百度飞桨PaddlePaddle)深度学习平台携手IC设计领导厂商MediaTek,完成Paddle Lite轻量化推理引擎与MediaTek的NeuroPilot人工智能通用软件平台适配。

下载安装命令

## CPU版本安装命令
pip install -f https://paddlepaddle.org.cn/pip/oschina/cpu paddlepaddle

## GPU版本安装命令
pip install -f https://paddlepaddle.org.cn/pip/oschina/gpu paddlepaddle-gpu

如此一来,所有MediaTek的人工智能芯片APU (Artificial intelligence Processing Unit ) 都能够使用Paddle Lite快速部署。透过推进智能技术与产品的进步,双方有着共同的目标,即加速AI科技的普及与进步,让AI技术更好的为所有用户服务,并实现产业落地。

MediaTek芯片目前在智能音箱/智能带屏音箱领域市场占有率过半,与百度共同合作开发的智能音箱产品小度在家系列,AI识别技术获得市场好评,销量持续位居前茅。百度在 AI 技术及生态圈加大了布局, MediaTek 深耕边缘 AI 技术平台,双方以智能屏音箱小度在家产品的合作为基础,携手拓展更广泛的智能家居市场, 共同丰富生态圈。

百度飞桨是自主研发、开源开放、功能最完备的产业级深度学习平台,集深度学习核心框架、基础模型库、端到端开发套件、工具组件和服务平台于一体,包含完整的开发、训练、推理的端到端深度学习AI模型开发工具链。

飞桨源于产业实践,致力于与产业深入融合,目前飞桨已经广泛应用于工业、农业、服务业等领域,不仅如此,在边缘端口、移动端和部分服务器端等场景内,Paddle Lite这一轻量化推理引擎也可以进行AI模型部署、高性能推理等工作。如智能闸机、智能音箱、智能抠图、AR/VR手机等应用。与MediaTek探索的边缘应用的方向不谋而合。

图1 飞桨PaddlePaddle协助万千行业落地AI应用

MediaTek芯片技术优势及特点

MediaTek是唯一支持泛消费类产品的芯片方案公司,此前在AI领域发布多形态的智能产品,包括应用于汽车电子、智能音箱、智能红酒柜、智能家居、智能支付设备、智能电视、智能手机等众多领域的芯片方案。MediaTek拥有广泛技术组合开发和跨平台及操作系统(Android, Linux, RTOS, 其他)的强大优势,在面向主流智能家居应用领域,MediaTek 推出了新一代端侧 AI 平台 MT8175,其特点包含:

•   12 纳米制程 : 先进制程提升性能,降低功耗 30%

•   APU (AI神经网络加速处理器) 支持 Paddle Lite轻量化推理引擎

•   AI 摄像头功能 : 支持 广角镜头/移动侦测/人脸识别/手势识别

•   Audio DSP : 支持低功耗语音助理设备

•   MiraVision : 支持芯片级护眼及屏显参数依环境自调节技术

•   WiFi : 内置 802.11ac 及蓝芽 Mesh 组网

图2 MediaTek 芯片解決方案

MediaTek与百度飞桨的合作成果

MediaTek 弹性的AI框架NeuroPilot 与百度 Paddle Lite 集成,实现端上实时智能推理的产品应用。Paddle Lite 运行在MediaTek APU 上的效率相比于传统 ARM CPU 性能提升 6 倍,功耗降低90%,实现低功耗,便携式产品应用。通过下方的系统架构图可以见到,相比于离线的工具转换,透过Delegate的子图直接调用,可以降低软件時延,确保维持Paddle Lite上模型的效能。

图3 Paddle Lite 与 MediaTek NeuroPilot 框架图

如图4所示, 从实测结果可以看出,与手机等移动端常用的国内外主流CPU相比,MT8175 APU在MobileNET_v1的耗时表现更出色,由此证明在AI相关领域,如图像分割、点击率预估、目标检测、语义理解上,语音合成、图像分类等,专用的AI芯片将带来更出色的效果。

图4 MT8175 芯片在MobileNet V1模型上对比主流CPU时延明显优化

 图5 NeuroPilot 与 Paddle Lite兼容性认证书

图6 Paddle Lite支持MediaTek 人工智能APU芯片

Paddle Lite 全新升级双方后续合作展望

Paddle Lite即将在近期上线的V2.6版本中新增支持无较准量化模型,8bit精度损失从 2%减少到0.1%,编译脚本分不同后端平台硬件做分支优化,单个场景编译更简单。而在全新更新的文档中,也详细介绍了如何使用Paddle Lite在MediaTek 人工智能APU硬件上做预测部署,支持的芯片、设备、Paddle模型与算子列表及参考示例演示等。

(https://paddle-lite.readthedocs.io/zh/release-v2.6.0/demo_guides/mediatek_apu.html)

未来,百度飞桨与 MediaTek 人工智能平台除了在硬件上进行全面适配,还将携手拓展更广泛的智能应用,针对主流行业应用场景做进一步的性能优化,推出行业标杆的解决方案,共同助力人工智能场景规模化,赋予AI更多可能。

关于飞桨

百度飞桨是目前国内自主研发、开源开放、功能最完备的产业级深度学习平台,集深度学习核心框架、基础模型库、端到端开发套件、工具组件和服务平台于一体。飞桨源于产业实践,致力于与产业深入融合,提供了领先的深度学习&机器学习任务开发、训练、部署能力,加速企业从算法研发到产业落地的过程。目前飞桨已广泛应用于工业、农业、服务业等,服务180多万开发者,与合作伙伴一起帮助越来越多的行业完成AI赋能。

关于MediaTek

MediaTek是全球无晶圆厂半导体公司,在移动终端、智能家居应用、无线连接技术及物联网产品等市场位居领先地位,一年约有15亿台内建MediaTek芯片的终端产品在全球各地上市。MediaTek力求技术创新并赋能市场,为5G、智能手机、平板电脑、智能电视、语音助手设备、可穿戴设备与车用电子等产品提供高效能低功耗的移动计算技术、先进的通信技术、汽车解决方案以及多媒体功能。MediaTek致力让科技产品更普及,因为我们相信科技能够改善人类的生活、与世界连接,每个人都有潜力利用科技创造无限可能(Everyday Genius)。了解更多讯息,请浏览:

(www.mediatek.com)

下载安装命令

## CPU版本安装命令
pip install -f https://paddlepaddle.org.cn/pip/oschina/cpu paddlepaddle

## GPU版本安装命令
pip install -f https://paddlepaddle.org.cn/pip/oschina/gpu paddlepaddle-gpu

About Joyk


Aggregate valuable and interesting links.
Joyk means Joy of geeK