主要内容

深度学习INT8量子化

校准、验证和部署量子化pretrained系列深度学习网络

增加吞吐量,减少资源利用率,将更大的网络部署到更小的目标板通过量化你的深度学习网络。

通过收集仪器校准后pretrained系列网络数据,数字转换系列网络和验证量化网络的准确性。一旦量化网络验证,生成代码和部署的量子化的网络。

功能

全部展开

dlquantizationOptions 选择量化一个训练有素的深层神经网络
dlquantizer 数字转换深神经网络对8位整数数据类型
校准 模拟并收集范围的神经网络
验证 数字转换和验证神经网络
dlhdl.Workflow 为深度学习神经网络配置部署工作流
dlhdl.Target 为工作流部署配置接口的目标板
dlhdl.Simulator 创建一个对象检索过渡层结果和验证深度学习网络预测精度
编译 编译工作流对象
部署 指定的神经网络部署到目标FPGA板
预测 通过使用部署网络预测的反应
预测 检索的预测结果dlhdl.Simulator对象
释放 发布到目标设备的连接
validateConnection 验证SSH连接和部署的比特流

主题

开始

量化的工作流程

  • 量化工作流先决条件
    s manbetx 845深入学习网络的量子化所需产品。
  • 校准
    模拟pretrained系列网络和收集权重的动态范围和偏见。
  • 验证
    数字转换和验证pretrained系列深度学习网络。
  • 代码生成和部署
    生成代码和部署您的量子化pretrained系列深度学习网络。