量化是将连续无限值映射到较小的离散有限值的过程。在模拟和嵌入式计算的上下文中,它是近似与数字表示的真实界限,该数字表示引入了值的精度和范围的限制。量化在算法中引入了各种错误源,例如舍入错误,下溢或溢出,计算噪声和限制周期。这导致理想的系统行为与计算的数值行为之间的数值差异。
为了管理量化的效果,您需要选择正确的数据类型来表示真实的信号。您需要考虑用于编码信号的数据类型的精度、范围和缩放,还需要考虑量化对算法的数值行为的非线性累积效应。当您拥有诸如反馈循环这样的结构时,这种累积效应会进一步加剧。
为什么量化很重要
在转换嵌入式硬件设计的过程中,需要考虑量化误差。量化误差影响信号处理、无线、控制系统、FPGA、ASIC、SoC、深度学习等应用。
信号处理和无线应用中的量化
在信号处理的应用中,量化误差会导致噪声和降低信噪比(SNR)。SNR在DB中测量,并且通常被描述为每个附加位的x分贝。为了管理量化噪声并将其保持在可接受的级别,您需要选择正确的设置,例如数据类型和舍入模式。
控制系统中的量化
在设计控制系统时,特别是低功耗微控制器,可以使用整数或定点算法来平衡实时性能要求和低功耗约束。在这样的设计中,您需要选择数据类型,以适应来自输入传感器的信号的动态范围和精度,同时满足输出信号的精度要求,所有这些都不会由于量化而遇到数值差异。
FPGA,ASIC和SoC开发中的量化
将设计从浮点转换为固定点可以通过降低FPGA资源利用率,降低功耗,延迟要求等来帮助最小化电力和资源消耗。但是,此转换介绍了量化错误,因此您必须适当预算量化噪音转换设计时。
深度学习中的量化
深度学习网络的量化是帮助加速推论的重要步骤,并降低嵌入式设备上的内存和功耗。缩放的8位整数量化维护了网络的准确性,同时降低了网络的大小。这使得能够部署到具有较小内存占地面积的设备,为其他算法和控制逻辑留下更多空间。
考虑目标硬件(GPU,FPGA,CPU)架构时,可以进行量化优化。这包括在整数中计算,利用硬件加速器和定影层。量化步骤是实现网络可接受精度的迭代过程。
请参阅如何使用白盒方法量化,校准和验证MATLAB中的深度神经网络,使得性能和准确性之间的权衡进行权衡,然后将量化的DNN部署到嵌入式GPU和FPGA硬件板。
自动量化您的设计
您可以通过选择特定数据类型来量化您的设计,或者您可以迭代探索不同的定点数据类型。使用引导工作流程,您可以看到量化对系统数值行为的整体效果。
或者,您可以解决优化问题,并为您的设计选择最优的异构数据类型配置,以满足系统数值行为的容忍约束。
了解更多关于定点转换的信息:
由于量化而调试数值差异
使用MATLAB,您可以识别,跟踪和调试数值问题的源,例如溢出,精度损耗,浪费的范围或精度在您的设计中。