GPU编码器与ONNXRuntime,推理速度有区别吗?
6视图(30天)
显示旧的评论
答案(1)
神骑士
2021年4月2日
可以编译您的网络使用GPU TensorRT编码器,如果这是你的目标,不需要经过ONNX。
我不相信MathWorks有发表基准ONNX运行时明确。GPU编码器总体上优于其他框架,但它依赖于网络。