主要内容

深度学习INT8量化

校准,验证和部署量化预训练系列深度学习网络

通过量化深度学习网络,提高吞吐量,降低资源利用率,并将更大的网络部署到更小的目标板上。

通过收集仪器数据校准预训练的系列网络后,量化您的系列网络并验证量化网络的准确性。一旦验证了量化网络,就为量化网络生成代码并进行部署。

功能

全部展开

dlquantizationOptions 量化训练过的深度神经网络的选项
dlquantizer 量化深度神经网络到8位缩放的整数数据类型
校准 模拟和收集深度神经网络的范围
验证 量化和验证一个深度神经网络
dlhdl。工作流 配置深度学习神经网络的部署流程
dlhdl。目标 配置接口到目标板,用于部署工作流
dlhdl。模拟器 创建一个对象,检索中间层结果并验证深度学习网络预测的准确性
编译 编译工作流对象
部署 将指定的神经网络部署到目标FPGA板上
预测 通过使用已部署的网络预测响应
预测 检索预测结果dlhdl。模拟器对象
释放 解除与目标设备的连接
validateConnection 验证SSH连接和部署的比特流

主题

开始

量化的工作流程

  • 量化工作流程
    s manbetx 845深度学习网络量化所需的产品。
  • 校准
    模拟你的预训练系列网络,并收集权重和偏差的动态范围。
  • 验证
    量化和验证您的预训练系列深度学习网络。
  • 代码生成和部署
    生成代码并部署量化预训练系列深度学习网络。