> 文章列表 > 模型压缩-网络量化概述

模型压缩-网络量化概述

模型压缩-网络量化概述

前言

浮点数和定点数

浮点数(floating point number)和定点数(fixed point number)都是计算机中表示实数(即带有小数部分的数)的方式。在数值计算中,小数在内存中是以浮点数格式表示和参与运算。浮点数和定点数中的“点”指的是小数点。

1,浮点数表示法是用科学计数法表示实数,即:

fraction × base exponent \\text{fraction} \\times \\text{base}^\\text{exponent} fraction×<