> 文章列表 > 模型量化的原理与实践 —基于YOLOv5实践目标检测的PTQ与QAT量化
模型量化的原理与实践 —基于YOLOv5实践目标检测的PTQ与QAT量化
网友:lx
文章列表
2024-03-22 00:08:40
这里写自定义目录标题
- 一、量化基础知识
-
- 1.1 Tops是什么意思？
- 1.2 什么是定点数？
- 1.3 定点数转换
- 1.4 什么是量化？
- 1.5 定点计算
-
- 1.5.1 定点计算——误差计算
- 1.5.2 定点计算——内存对比
- 1.5.3 定点计算——速度对比
- 1.6 量化有什么优缺点？
- 2、线性映射
- 非对称量化：
- 3、逐层量化、逐组量化和逐通道量化
- 4、在线量化和离线量化
- 5、权重量化和权重激活量化
- 6、量化的一般步骤
- 三、模型校准
-
- 1、什么是校准？
- 2、Max校准
- 3、Histogram校准
