1

推荐一门我做的开源课程,《从零编写深度学习推理框架》,学会怎么上手一个现代风格 C...

 1 year ago
source link: https://www.v2ex.com/t/913807
Go to the source link to view the article. You can view the picture content, updated content and better typesetting reading experience. If the link is broken, please click the button below to view the snapshot at that time.

V2EX  ›  分享创造

推荐一门我做的开源课程,《从零编写深度学习推理框架》,学会怎么上手一个现代风格 C++项目并且写一个超强的 ai 项目

  hellozgfss · 58 分钟前 · 159 次点击
我是写了一个《从零自制深度学习推理框架》的课程,课程语言是 C++,课程主要讲解包括算子实现和框架设计的思路,国内算是独一份,目前已登上 HelloGithub 最新一期。我这个仓库算是课程的上游项目,根据上游项目来规划课程内容。

b 站视频链接: https://space.bilibili.com/1822828582

github 链接: https://github.com/zjhellofss/KuiperInfer 欢迎点赞和 PR 已经发布 Docker

课程可以分为两个季度,现在是第一季共 12 次课程,课程表如下,后续两季会根据大家的意见进行排课,这是一次我致敬开源精神的课程,谢谢大家关注点赞!

使用的技术是 C++,截至目前框架已经支持 Yolov5s 的推理,在 11700H 上推理时间为 450ms(640*640*3)

课程次数 主要内容 进度 第一次课 整体框架解读和开发环境配置 完成

第二次课 张量 Tensor 类的解析和输入数据的内存排布 完成

第三次课 从 CSV 文件中初始化张量 Tensor 一个实例 完成

第四次课 手写第一个算子 Relu 并完成算子注册工厂类 完成

第五次课 Im2col 的原理和卷积算子的实现 完成

第六次课 照猫画虎,完成 MaxPooling 算子 完成

第七次课 图结构(PNNX)讲解和计算图初步 完成

第八次课 读取 PNNX 并构建自己的计算图 完成

第九次课 基于广度优先搜索的算子执行流程 未完成

... 更新中,直到带领大家实现一个支持 yolov5 的深度学习推理框架

以下是推理框架的目标检测效果,我们会在课程中慢慢带大家实现
SKnGrI3.jpg


SBkI5sx.jpg

About Joyk


Aggregate valuable and interesting links.
Joyk means Joy of geeK