量化是将连续的无限值映射到一组较小的离散有限值的过程。在模拟和嵌入式计算环境中,它是关于用数字表示法近似真实世界的值,该数字表示法引入了对值的精度和范围的限制。量化在算法中引入了各种误差源,如舍入误差、下溢或溢出、计算噪声和极限环。这导致理想系统行为和计算数值行为之间的数值差异。
要管理量化的效果,需要选择正确的数据类型来表示真实世界的信号。您需要考虑用于编码信号的数据类型的精度、范围和缩放,并且还考虑量化对算法的数值行为的非线性累积效应。当您有反馈循环之类的结构时,这种累积效应会进一步加剧。
为什么量化很重要
转换嵌入式硬件设计的过程需要考虑量化误差。量化误差影响信号处理、无线、控制系统、FPGA、ASIC、SoC、深度学习和其他应用。
信号处理和无线应用中的量化
在信号处理应用中,量化误差会产生噪声并降低性能信噪比(SNR)。SNR以dB为单位测量,通常描述为每增加一位降低x分贝。为了管理量化噪声并将其保持在可接受的水平,您需要选择正确的设置,如数据类型和舍入模式。
控制系统中的量化
在设计控制系统时,特别是针对低功耗微控制器,您可以使用整数或定点算法来平衡实时性能要求和低功耗约束。在这种设计中,您需要选择数据类型,以适应来自输入传感器的信号的动态范围和精度,同时满足输出信号的精度要求,所有这些都不会由于量化而出现数值差异。
FPGA、ASIC和SoC的量化开发
通过降低FPGA资源利用率、降低功耗、满足延迟要求等,将设计从浮点转换为定点有助于最大限度地降低功耗和资源消耗。但是,这种转换会引入量化误差,因此在转换d埃辛。
深度学习中的量化
深度学习网络的量化是一个重要步骤,有助于加速推理,并减少嵌入式设备上的内存和功耗。缩放的8位整数量化在减少网络规模的同时保持网络的准确性。这使得部署到内存占用较小的设备上,从而使其他算法和控制逻辑的空间。
当考虑目标硬件(GPU、FPGA、CPU)架构时,可以进行量化优化。这包括整数计算、利用硬件加速器和融合层。量化步骤是实现网络可接受精度的迭代过程。
了解如何在MATLAB中使用白盒方法量化、校准和验证深度神经网络,在性能和精度之间做出权衡,然后将量化的DNN部署到嵌入式GPU和FPGA硬件板。
自动量化您的设计
您可以通过选择特定的数据类型来量化设计,也可以迭代地探索不同的定点数据类型。使用引导式工作流,您可以看到量化对系统数值行为的总体影响。
或者,您可以解决优化问题,并为您的设计选择满足系统数值行为公差约束的最佳异构数据类型配置。
了解有关定点转换的详细信息:
调试量化导致的数值差异
使用MATLAB,您可以识别、跟踪和调试由于量化而产生的数值问题的来源,如溢出、精度损失以及设计中浪费的范围或精度。