量化是将连续的无穷值映射到较小的离散有限值集的过程。在模拟和嵌入式计算的环境中,它是关于用数字表示来近似真实世界的值,这引入了值的精度和范围的限制。量化在算法中引入了各种各样的误差来源,如舍入误差、底流或溢出、计算噪声和极限环。这导致了理想系统行为和计算数值行为之间的数值差异。
为了管理量化的效果,您需要选择正确的数据类型来表示真实的信号。您需要考虑用于编码信号的数据类型的精度、范围和缩放,还需要考虑量化对算法的数值行为的非线性累积效应。当您拥有诸如反馈循环这样的结构时,这种累积效应会进一步加剧。
为什么量化问题
在转换嵌入式硬件设计的过程中,需要考虑量化误差。量化误差影响信号处理、无线、控制系统、FPGA、ASIC、SoC、深度学习等应用。
信号处理和无线应用中的量化
在信号处理的应用中,量化误差会导致噪声和降低信噪比(信噪比)。信噪比以分贝为单位测量,通常描述为每增加一位就减少x分贝。为了管理量化噪声并将其保持在可接受的水平,您需要选择正确的设置,如数据类型和舍入模式。
控制系统中的量化
在设计控制系统时,特别是低功耗微控制器,可以使用整数或定点算法来平衡实时性能要求和低功耗约束。在这样的设计中,您需要选择数据类型,以适应来自输入传感器的信号的动态范围和精度,同时满足输出信号的精度要求,所有这些都不会由于量化而遇到数值差异。
FPGA,ASIC和SoC开发中的量化
将设计从浮点转换为固定点可以通过降低FPGA资源利用率、降低功耗、满足延迟需求等方式帮助最小化功耗和资源消耗。然而,这种转换会引入量化误差,因此在转换设计时必须适当地估计量化噪声。
深度学习中的量化
深度学习网络的量化是帮助加速推理以及减少嵌入式设备的内存和功耗的重要步骤。缩放的8位整数量化保持了网络的准确性,同时减少了网络的大小。这使得部署到内存占用更小的设备上成为可能,为其他算法和控制逻辑留下更多空间。
在考虑目标硬件(GPU、FPGA、CPU)架构时,可以进行量化优化。这包括用整数计算、利用硬件加速器和融合层。量化步骤是一个迭代过程,以达到网络的可接受的精度。
请参阅如何使用白盒方法量化,校准和验证MATLAB中的深度神经网络,使得性能和准确性之间的权衡进行权衡,然后将量化的DNN部署到嵌入式GPU和FPGA硬件板。
自动量化您的设计
您可以通过选择特定的数据类型来量化您的设计,或者您可以迭代地探索不同的定点数据类型。使用一个有指导的工作流,您可以看到量化对系统的数值行为的总体影响。
或者,您可以解决优化问题,并为您的设计选择最优的异构数据类型配置,以满足系统数值行为的容忍约束。
了解更多关于定点转换的信息:
调试因量化而产生的数值差异
使用MATLAB,您可以识别、跟踪和调试由于量化(如溢出、精度损失和在设计中浪费范围或精度)而导致的数值问题的来源。