GPU编码器与ONNXRuntime,推理速度有区别吗?

6视图(30天)
因为我可以从Matlab ONNX格式导出,为什么我不能只是我的模型导入到TensorRT等等?将得到显著的增加速度或GPU编码器的好处更多关于能够编译所有我的其他Matlab代码优化Cuda吗?
提前谢谢。

答案(1)

神骑士
神骑士 2021年4月2日
可以编译您的网络使用GPU TensorRT编码器,如果这是你的目标,不需要经过ONNX。
我不相信MathWorks有发表基准ONNX运行时明确。GPU编码器总体上优于其他框架,但它依赖于网络。
2的评论
神骑士
神骑士 2022年1月7日
编辑:神骑士 2022年1月7日
我们不公布竞争基准,你必须做一个请求通过你的销售代理。我们可以为MATLAB提供一些数字。

登录置评。

类别

找到更多的在深度学习GPU编码器帮助中心文件交换

标签

s manbetx 845


释放

R2021a

社区寻宝

找到宝藏在MATLAB中央,发现社区如何帮助你!

开始狩猎!