速度快、模型小，加成OpenCV，自带人脸分析！端侧推理新选择Tengine-Lite
source link: http://mp.weixin.qq.com/s?__biz=MzIwMTE1NjQxMQ%3D%3D&%3Bmid=2247522090&%3Bidx=1&%3Bsn=780781093ba5c41c2a9698a0b647d91c
Go to the source link to view the article. You can view the picture content, updated content and better typesetting reading experience. If the link is broken, please click the button below to view the snapshot at that time.
OPEN AI LAB（开放智能）于7月6日正式开源拥有自主知识产权的全新下一代AI端侧推理框架Tengine-Lite。作为Tengine整体软件架构重构的全新下一代产品，Tengine-Lite的推出不仅为开发者提供了整套便捷的MCU AI开发工具，还为嵌入式AI软件产业建立了开放的开发生态平台。
基于纯C代码重新搭建的更简洁、高效、代码可读性更好的Tengine-Lite，可以说将轻量化无依赖做到了极致。特别适合在各种软硬件资源受限的嵌入式环境下使用部署轻量的AI算法模型，并可用于 语音、视觉 等多种场景。
AI风口下，新秀Tengine-Lite C位出道，都有哪些不容错过的看点呢？
Tengine-Lite，驱动最强大脑
越来越多的手机市场用户，会在意APP的大小。 当然，IoT领域用户也不例外。 在低功耗的浪潮下，芯片越来越倾向于片上SRAM与Flash的结构。 Tengine-Lite二进制文件库(包括.a静态库与.so的动态库)大小急剧减小，以.so动态库为例，Tengine-Lite库文件大小相较Tengine，减小非常显著。
目前安卓的库大小在1MB以内，Linux版本在500KB以内。
Tengine-Lite，独具高效思维
Tengine-Lite采用前后端松耦合设计，框架和计算库采用Plug-in，可以更好地保证后续异构后端的灵活挂载。 同时，Tengine-Lite高效的运作思维，使得源代码编译时间大幅缩减，极大的增强了用户代码编译的体验感。
Tengine-Lite，给你“稳稳的幸福”
性能抖动会对嵌入式平台和手机平台的系统性能设计、用户使用体验带来较大影响。考虑到这一点，Tengine-Lite在单核、双核、多核的性能稳定性方面，相较Tengine有明显提升。
Tengine-Lite，用智慧“流畅运行”
目前，Tengine-Lite是市面上唯一可在各种嵌入式操作系统上运行的AI计算框架。不但可以在FreeRTOS\RTT\Lite-OS等极简的实时操作系统或裸机Bare-matel上运行，还可以在MCU、RISC-V等低功耗、资源极为有限的IoT芯片主控上运行。
架构重构后兼容性方面，也是用户比较关心的。现有以下四点说明：
1、 NNIR模型格式保留现有tmfile格式，兼容当前应用，用户现有tmfile模型可以无缝切换到新的Tengine-Lite上运行；
2、 编译方式统一，采用CMake进行编译管理，并将新增一些编译配置选项（新功能和新特性）；
3、 依旧提供.so动态库和.a静态库形式，若想不修改代码可以通过rename库文件的方式进行代码复用；
4、 保留绝大多数常用API不变，会增减部分API。原则是删减对用户无效或极少使用的API，新增API主要是功能性的，更改的API是提升用户反馈的易用性；当然也会提供API修改对比文档。
Tengine开源3年来，表现可圈可点。相信此次“后浪”Tengine-Lite开源，定会在保持原有优势项的基础上，不断精进，继续为海量AIoT应用和设备提供高性能AI推理的技术支持，赋能万物，万物智能！
另外再介绍两个工作：
1、 OPEN AI LAB AIoT智能开发平台Tengine与OpenCV合作共同加速边缘智能
下图展示了Arm CPU上提速情况，可以看出速度最快可以翻倍！使用Arm平台开发产品的工程师，可以降低产品的硬件成本了！
OpenCV4.3.0 Change Logs
https://github.com/opencv/opencv/wiki/ChangeLog#version430
Tengine开源版本
https://github.com/OAID/Tengine
2、 TengineKit开源人脸分析应用
TengineKit为开发者提供了以下功能：
-
人脸检测
-
人脸关键点检测
-
人脸属性识别：性别，年龄，是否戴眼镜，是否微笑，颜值
TengineKit在不同CPU下的耗时
demo:
视频展示：
人脸分析模型请在官方QQ群下载。
如果您想了解更多Tengine-Lite的功能、应用信息，请扫描下面的二维码加入技术交流QQ群，有数位行业大佬坐镇，随时与我们沟通。
Tengine-Lite 开源链接
https://github.com/OAID/Tengine/tree/tengine-lite
支持国产！欢迎大家Star、Watch、Fork三部曲
▼
QQ群号：829565581
Recommend
About Joyk
Aggregate valuable and interesting links.
Joyk means Joy of geeK