文件交换

图像缩略图

ONNX模型格式的深度学习工具箱转换器

导入和导出ONNX™ MATLAB中与其他深度学习框架互操作的模型

57下载

更新2021年5月12日

在MATLAB中导入和导出ONNX™(开放神经网络交换)模型,以与其他深度学习框架互操作性。ONNX允许在一个框架中训练模型,并将其转移到另一个框架中进行推理。

打开onnxconverter。mlpkginstall文件,从您的操作系统或MATLAB将启动安装过程,您有。
这个mlpkginstall文件适用于R2018a和更高版本。

用法示例:
%%导出为ONNX模型格式
网= squeezenet;%要导出的预训练模型
文件名=“squeezenet.onnx”;
exportONNXNetwork(净、文件名);

%%导入导出的网络
net2 = importONNXNetwork (squeezenet。onnx”、“OutputLayerType”、“分类”);

%比较两个网络在随机输入图像上的预测
img =兰德(net.Layers (1) .InputSize);
Y = predict(net, img);
y2 =预测(net2, img);

最大值(绝对值(y-y2))

在MATLAB中导入ONNX网络,请参考:
//www.tianjin-qmedu.com/help/deeplearning/ref/importonnxnetwork.html

要从MATLAB导出ONNX网络,请参考:
//www.tianjin-qmedu.com/help/nnet/ref/exportonnxnetwork.html

意见及评分(80

Ting苏

HI M Greif,你使用的是MATLAB的哪个版本?这可能是我们已经修复的问题。如果你能和我们分享你的ONNX模型,我们可以看看。

M格雷夫

使用nnet.internal.cnn.onnx.translateONNX>getDataFromTypedFieldOrRawData错误(第252行)
未找到初始化器'const_empty_float__522'的数据。

@David,请分享你导出的。onnx文件,否则我们无法帮助你调试

大卫

这一切看起来都很好,但现在显示它在ONNXRuntime中工作。我一直无法,或找到任何人,可以得到远程相同的答案之间的Matlab和ONNXRuntime。我不确定这是我的python代码还是导出的。onnx文件,但到目前为止,我还没有看到它在python与ONNXRuntime中工作的一个例子。我从Mathworks看到的唯一例子是使用一个随机数组来给出一个答案https://stackoverflow.com/questions/62372645/run-inference-using-onnx-model-in-python-input-incompatibility-problem
有没有人能够将他们训练过的模型从Matlab导出到ONNX,并在另一个环境中使用它?

Raar一

Ting苏

@Jin,你可以使用“importONNXLayers”导入layerGraph,添加输出层,并使用“assembleNetwork”将layerGraph转换为DAGNetwork。

Jon红

@David—如果你使用的是Windows,那么你可能会碰到这个bug://www.tianjin-qmedu.com/万博1manbetxsupport/bugreports/2465087.bug报告中列出了一个解决方案。

大卫

在2020年起作用,但在2021年崩溃。

金路易

好的,现在,我的matlab版本2018b,我发现了一个问题:
错误使用nnet.internal.cnn.onnx.translateONNX(35)行
目前还不支持具有多个输出的模型。万博1manbetx

出错nnet.internal.cnn.onnx.importONNXNetwork(第8行)
LayersOrGraph = net.internal.cnn.onnx. translateonnx (modelProto, OutputLayerType,
UserImageInputSize,真正的);

出错importONNXNetwork(53)行
Network = net.internal.cnn.onnx. importonnxnetwork (ModelFile, varargin{:});

出错 测试网络(4号线)
净= importONNXNetwork(“best.onnx”、“OutputLayerType”、“分类”、“类”,类)
如何解决

亲爱的Ting苏:
复制onnxpb.dll后,就可以工作了,非常感谢!

Hiroyuki Hishida

亲爱的苏Ting,
我在R2021a (9.10.0.1602886 (R2021a))上也遇到了这个问题,并尝试跟随,它工作。
拷贝文件C: \ ProgramData \ MATLAB \万博1manbetx SupportPackages \ R2021a \ bin \ win64 \ onnxpb.dll C: \ ProgramData \ MATLAB工具箱\ SupportPackages \ R2021a \ \ nnet \ SupportPackages \ onnx \ + nnet \ +内部\ + cnn \ + onnx \

Ting苏

崔,,
我们的工程师找到了原因和解决办法。您可以尝试以下命令吗?
mv C: \ ProgramData \ MAT万博1manbetxLAB \ SupportPackages \ R2021a \ bin \ win64 \ onnxpb.dll C: \ ProgramData \ MATLAB工具箱\ SupportPackages \ R2021a \ \ nnet \ SupportPackages \ onnx \ + nnet \ +内部\ + cnn \ + onnx \

亲爱的Ting苏:
我使用matlab2021a,转换器的ONNX模型格式(版本21.1.0)

Ting苏

嗨,崔,
你能告诉我们你使用的是MATLAB的哪个版本吗?

2021.3.15更新:运行bug报告
无论是导入还是导出常用的onnx模型(resnet50、resnet18等),都出现了错误
---------------------------------导入yolov5.onnx---------------------------------------
错误使用nnet.internal.cnn.onnx.onnxmex
无效MEX-file“C: \ ProgramData \ MATLAB工具箱\万博1manbetx SupportPackages \ R2021a \ \ nnet \ SupportPackages \ onnx \ + nnet \ +内部\ + cnn \ + onnx \ onnxmex。mexw64”:找不到指定的模块。
net.internal.cnn.onnx. modelproto错误(第32行)
ModelPtr = onnxmex(int32(FuncName.EdeserializeFromFile), filename);
nnet.internal.cnn.onnx.importonxFunction(第8行)中出错
modelProto = nnet.internal.cnn.onnx.ModelProto (inputFilename);
importONNXFunction错误(第39行)
params=nnet.internal.cnn.onnx.importonxfunction(modelfile,outputFunctionName);
onnxtest错误(第3行)
params = importONNXFunction (onnxpath yolov5Fcn);
--------------------------------- 出口resnet50.onnx ---------------------------------------
错误使用nnet.internal.cnn.onnx.onnxmex
无效MEX-file“C: \ ProgramData \ MATLAB工具箱\万博1manbetx SupportPackages \ R2021a \ \ nnet \ SupportPackages \ onnx \ + nnet \ +内部\ + cnn \ + onnx \ onnxmex。mexw64”:找不到指定的模块。
net.internal.cnn.onnx. modelproto /writeToFile错误(第52行)
ModelPtr = onnxmex (int32 (FuncName.EnewModelProto));
在net.internal.cnn.onnx. exportonnxnetwork错误(第38行)
writeToFile (modelProto文件名);
exportONNXNetwork错误(第38行)
nnet.internal.cnn.onnx.exportONNXNetwork(网络,文件名,varargin{:});

R2020b中引入了“importONNXFunction”函数,非常好,但是导入的函数可读性差,不容易手工修改;另外,mathworks是否计划引入“exportONNXFunction”函数?我个人建议mathworks应该增强自定义层的灵活性,可读性将会大大增强!

什么时候支持Opse万博1manbetxt版本10校准量化onnx导入?比如量化的resnet50?
链接:https://pan.baidu.com/s/1oMcm2w4r5bUFU-RAqV8AUg
提取码:afba

更新14 Oct 2020 ?发行说明吗?

马库斯

为什么这个特性不支持浅神经网络?万博1manbetx

我如何使用我的神经网络,例如在Azure中作为模型?有什么建议吗?

马库斯

r·纳瓦兹

如何下载ONNX模型格式的深度学习工具箱转换器并离线安装它(未连接到互联网)

让·尼古拉·布兰切特

文档说tanhLayer是支持的,但是当我尝试导出它时,我得到的是:万博1manbetx
Placeholder2占位符接线员:com.mathworks

我哪里做错了?

Jan Drgona

你好,

这段代码是否适用于其他CNN架构?

谢谢
1月

对于onnx,它应该是onnx细粒度的操作符,而不是粗糙的“层”,例如,我定制了一个网络层yolov3Layer,如何导出到onnx ?

雅各布·尼古拉·凯丝

目前不支持shuffle模式万博1manbetx

萨阿德Al-Baddi

亲爱的MathWorks深度学习工具箱团队:
嗨,铜

你有一个可以支持' net.cnn.layer. regionpropo万博1manbetxsallayer ', net.cnn.layer. rpnclassificationlayer和net.cnn.layer. rpnsoftmaxlayer的新版本吗?

哈米德·巴斯塔米

亲爱的MathWorks深度学习工具箱团队:
你好,我尝试使用exportONNXNetwork,我运行了这部分代码,但我看到这个错误,你能帮我吗?!
用法示例:
%%导出为ONNX模型格式
网= squeezenet;%要导出的预训练模型
文件名=“squeezenet.onnx”;
exportONNXNetwork(净、文件名);
-------------------------------------
这个错误出现:
错误使用onnxmex
打开文件的squeezenet。onnx”失败了。

net.internal.cnn.onnx. modelproto /writeToFile错误(第55行)
onnxmex (int32 (FuncName.EserializeToFile)、ModelPtr文件名);

在net.internal.cnn.onnx. exportonnxnetwork错误(第37行)
writeToFile (modelProto文件名);

exportONNXNetwork错误(第40行)
nnet.internal.cnn.onnx.exportONNXNetwork(网络,文件名,varargin{:});

亲爱的MathWorks DeepLearning工具箱团队:
当我使用另一个简单的3d cnn网络导入测试时,出现了错误???
我的3d网络在这里:https://drive.google.com/open?id=1vrX44WV1yWIsoNdbW5sTBQHurdMhf0c_
使用assembleNetwork出错(第47行)
无效网络。
Error in net.internal.cnn.onnx. importonnxnetwork(第11行)
网络= assembleNetwork (LayersOrGraph);
importONNXNetwork错误(第52行)
Network = net.internal.cnn.onnx. importonnxnetwork (modelfile, varargin{:});
引起的:
层“node_22”:层验证失败。在层nnet.onnx.Layer.flattleLayer中使用“预测”时出错。函数抛出错误,无法执行
执行。
错误使用交换
对于N- d数组,ORDER必须至少有N个元素。
层“node_22”:层验证失败。在层nnet.onnx.Layer.flattleLayer中使用“预测”时出错。函数抛出错误,无法执行
执行。
错误使用交换
对于N- d数组,ORDER必须至少有N个元素。
层'node_22':输入大小不匹配。这一层的输入大小与预期的输入大小不同。
这一层的输入:
From layer 'node_21' (1×4×4×512 output)

嗨,@Kristina Mikolaichuk
很抱歉告诉你,根据警告,当前版本不支持某些层,' net.cnn.layer. regionproposallayer ',…等,只导出支持层的权重。万博1manbetx

克里斯蒂娜Mikolaichuk

你好你能帮我吗?当我尝试导出更快的RCNN网络时,会出现一些警告:

警告:ONNX不支持层“nnet.cnn.la万博1manbetxyer.RegionProposalLayer”。导出到ONNX运算符
“com.MathWorks.Placeholder”。
警告:ONNX不支持' net.cnn.lay万博1manbetxer. rpnsoftmaxlayer '层。导出到ONNX操作员
“com.MathWorks.Placeholder”。
警告:ONNX不支持' net.cnn.lay万博1manbetxer. rpnclassificationlayer '层。出口ONNX
操作符“com.MathWorks.Placeholder”。

在将来的更新中是否支持这些层?万博1manbetx

2019年11月15日的版本仍然无法导入和导出yolov2网络!

这个版本现在支持导入3d卷积神经网万博1manbetx络,但“激活”功能将失败时,使用导入的3d卷积网络?
我的简单3d CNN在这里:https://drive.google.com/file/d/15i0IEiNWAqqexairNFv1eITtqwMA5rYi/view?usp=sharing

马赛厄斯举行

仍然不能使用带有回归输出层的biLSTM层

liangcheng金

您好,当我从Keras网络导入图层时,出现错误:
“在Keras模型中导入‘LSTM’层的功能API还不支持”万博1manbetx
那么,我该怎么做才能克服这个问题呢?

亲爱的MathWorks深度学习工具箱团队:
我希望特性版本能更多地支持ONNX操作符,而不仅仅是目前的28个操作万博1manbetx符。
希望以后版本更丰富的支持ONNX运算符不仅仅只是目前的28种接线员。
到目前为止,“importCaffeNetwork”功能的性能非常差。
到目前为止“importCaffeNetwork”这个函数表现的很差!
来吧
加油!

嗨@cui

我们基本上是按照例子来的

https://github.com/microsoft/onnxruntime/blob/master/csharp/test/Microsoft.ML.OnnxRuntime.EndToEndTests.Capi/CXX_Api_Sample.cpp

这个网络似乎起作用了。我还没有想出如何为一个新序列重置LSTM层的内部状态。我们只是重新加载模型。

最好的祝愿

安德烈亚斯

亲爱的苏Ting,
我可以非常自由和方便地导入和导出matlab附带的mobilenetv2模型,但是当我导入保存在pytorch onnx框架中的mobilenetv2.onnx时,平均池的最后一层无法正确导入。为什么?
https://github.com/tonylins/pytorch-mobilenet-v2,onnx liabray可以负责导入和导出,matlab不能…

警告: 无法导入某些ONNX运算符,因为它们尚不受支持。它们已被占位符层替换。发现万博1manbetx
这些层,调用函数findPlaceholderLayers对返回的对象。
>在net.internal.cnn.onnx. importonnxlayers(第13行)
在importONNXLayers中(第48行)

嗨@Andreas赫尔佐格:
请问您是如何在c++接口函数中使用LSTM onnx模型的?也是一个用matlab实现的序列特性,有这样的示例代码可以参考一下,谢谢!

亲爱的Matlab的团队,

导出和加载LSTM模型现在可以正常工作,使用c++接口评分也可以正常工作。

我注意到的一点是,输出张量不是像网络中的最后一层那样被调用,而是作为层名称和最后一个计算机图形操作的组合。

所以我的最后一层被命名为“fc_2”(一个来自深度学习工具箱的标准名称),但输出张量必须在c++接口中使用“fc_2_Add”来检索,这也是当你用Netron App加载onnx文件时显示的。

有必要这样命名吗?我们在模型描述中保存一个序列化的onnx文件和某个层的名称作为输出张量,以控制哪个计算图节点作为输出。因为对于某些类型,这不一定需要是最后一层(例如,使用自动编码器编码)。

这能回到之前的行为吗或者我们能从层结构中读出,正确的张量名称应该是什么样的?

祝福你,谢谢你的努力。

安德烈亚斯

亲爱的Matlab的团队,

新版本(8月1日)似乎解决了我们在LSTM导出方面的问题。

使用python onnxruntime 0.5在github上测试给定的示例。

很多谢谢!

安德烈亚斯

亲爱的苏Ting,

关于编写与ONNX运行时兼容的LSTM的新版本有什么消息吗?

很抱歉给您带来了麻烦,但是我们需要这个功能块来为我们的客户交付模型。

最好的祝愿

安德烈亚斯

我能够将安装位置指向一个有足够空间来完成此操作的文件夹。matlabshared.万博1manbetxsupportpkg.setSupportPackageRoot ()

谢谢

我遇到了onnx安装的问题。甚至无法下载文件。我使用的是RHEL 7.5。对这个问题有什么看法吗?

林伟庄

你好,
我试图导出一个模型在张量流中使用它。它和这个基本上是一样的
https://de.mathworks.com/help/deeplearning/examples/cocktail-party-source-separation-using-deep-learning-networks.html
我得到警告:“警告:ONNX不支持层'BiasedSigmoidLayer'。万博1manbetx导出到ONNX操作符'com.MathWorks.Placeholder'。“因为其中一层是定制的乙状体层。
我未能导入到tensorflow得到错误
ValidationError: No Schema registered for Placeholder with domain_version of 1
==> Context: Bad node spec: input: "fc_1" output: "layer_1" name: "layer_1" op_type: "Placeholder" doc_string: "Placeholder operator" domain: "com.mathworks"
有什么办法可以解决这个问题吗?
我Onnx莫德尔:https://drive.google.com/open?id=1c5ItcPoYU2xkmOZNiUgrIetLsixEewYK

提前谢谢

亲爱的苏Ting,

太好了!: D

最好的祝愿

安德烈亚斯

Ting苏

嗨,安德烈亚斯,
新版本很快就会发布。

凯文庄瑞豪

它对yoloV2有效吗?

亲爱的苏Ting,

新版本中可以解决LSTM问题的任何单词(请参阅github票证)。我们希望使用onnxruntime将一些模型部署到应用程序中。

最好的祝愿

安德烈亚斯

亲爱的苏Ting,
exportONNXNetwork()导出的onnx模型与在opencv和Matlab中运行的结果不一样?我也在这里发布了我的问题:
https://ww2.mathworks.cn/matlabcentral/answers/464550-the-onnx-model-exported-by-exportonnxnetwork-is-not-the-same-as-the-result-of-running-in-opencv-an

加布里埃尔Mittag

苏婷婷你好,
我注意到最近有一个转换器的更新,但lstm似乎仍然不能正常工作。我也在这里发布了我的问题:
https://de.mathworks.com/matlabcentral/answers/457176-onnx-export-yields-error-in-windows-ml?s_tid=prof_contriblnk

亲爱的苏Ting,
当前onnx版本是否支持导出目标检测网络,如Yolov2网络万博1manbetx(export to Yolov2 .onnx)?

亲爱的苏Ting,

是的,这是我在Github上打开的问题。

https://github.com/microsoft/onnxruntime/issues/1016

最好的祝愿

安德烈亚斯

Ting苏

嗨,安德烈亚斯,
我们注意到一些由MATLAB ONNX Converter导出的LSTM模型不能很好地与ONNX Runtime一起工作,尽管它们可以被加载到其他框架中,因为ONNX Runtime严格遵循ONNX规格的形状要求。一个新的MATLAB ONNX转换器即将发布,它将与ONNX运行时更好地工作。

Ting苏

嗨,安德烈亚斯,
谢谢你的提问。这与下面的链接中报告的问题相同吗?
https://github.com/microsoft/onnxruntime/issues/1016
我们正在调查此事,很快会给你答复。

亲爱的Matlab的团队,

我们正在导出一个lstm模型(基本上按照序列到序列回归示例中描述的那样构建,使用涡扇发动机示例数据。

当我们在onnxruntime(从源代码0.4.0版本构建)中导入它时,我们得到了一个错误消息:

Load model from temp.onx failed:Node:fc_2 Output:fc_2 [ShapeInferenceError] source and target dimensions number Mismatch。源目标= 3 = 2

我们可以在Netron中加载onnx文件,并有一个fc_2输出,有点奇怪的<1x1x1>维度。预期输出维度是否会出现混淆?

我们可以发送onnx-File / Matlab nnet给你一些帮助吗?

非常感谢。

亚历山德罗Gherardi

从matlab导出模型到其他运行时引擎不工作,除了琐碎的例子。我曾看到输出ONNX网络层出现奇怪的形状翻转,导致导入到python框架或c#时失败。

迈克尔scheinfeild

当我将模型导入到C++中时,在MATLAB中没有输出层的相同结果,C++中的OpenCV或TysOFFUE提供了与Matlab相同的例子。
例如,转换层

香港王

感谢Jihang Wang,在你的帮助下我设置了这个工具。

托马索·马蒂尔

加布里埃尔Mittag

Jihang你好,感谢你分享这些信息,不幸的是这并没有解决我的问题。

Jihang王

大家好,我在MathWorks技术支持团队的帮助下找到了它不能工作的原因。万博1manbetx我只是想在这里分享一下我的经验。基本上在我的路径上有一个函数它在阴影一个内置的MATLAB函数。我使用下面的代码重置我的MATLAB路径:
> > restoredefaultpath
>>重新缓存toolboxcache
>> savepath %注意:此命令将覆盖我当前的路径设置。

之后,我从这个页面下载并重新安装了转换器应用程序,并重新运行了导出代码。问题解决:)希望这对你有帮助。

加布里埃尔Mittag

嗨Andreas,我刚刚使用了一个自定义CNN,并用WinMLRunner检查了它,不过我没有尝试任何预先训练过的模型。

安德烈亚斯·沃思

嗨,盖伯瑞尔
你能告诉我你用的是哪个CNN吗?
正如之前提到的,我尝试了基本的googlenet,但我不能使用微软ML。
如果我能使用onnx文件交换,那将非常有帮助。
提前谢谢

加布里埃尔Mittag

嗨,Ting,非常感谢Opset的更新。然而,现在我得到了与Andreas对于LSTM网络相同的错误:“第一次输入没有排名2”。如果我在网络中有不止一个lstm层,错误消息以某种方式改变为:“第一个输入张量必须有秩3”,cnn似乎可以工作。

Ting苏

Andreas和Jihang你好,能联系我们的技术支持并发送模型给我们吗?万博1manbetx

安德烈亚斯·沃思

嗨,Ting,我在c#中遇到了同样的问题。我可以导出不同版本的网络。如果我试图加载模型到窗口。ml我得到一个“ShapeInferenceError”,第一个输入没有rank 2。使用Opset v6可以加载文件,但不能使用。我测试了googlenet,并试图将onnx模型与一个名为“Netron”的程序进行比较。我发现的区别是第一层“Sub”从[3x244x244]变成了[1x3x244x244],但我不确定这是不是问题所在。第二件事是,在onnx v6中,Visual Studio可以自动生成模型类,但在v7或更高版本中则不行。它似乎不是公认的onnx模式。你能给一个建议,如何使用Matlab训练的模型在c# ?

Jihang王

Hi Ting,我在c#中加载ONNX模型时也遇到了同样的问题。我试着将模型保存到不同的Opset版本中,但没有一个能正常工作。请建议。

Ting苏

嗨,加布里埃尔,
我们最近增加了对ONNX操作集7、8万博1manbetx和9的支持。在导出过程中,可以通过可选输入参数“optsetversion”指定要使用的操作集。如果您有R2018b MATLAB,您应该能够下载它。

Ting苏

嗨Kennth,
我们看到了一个类似的问题,修复程序将很快发布。如果您能将您的MATLAB模型发送给我们,让我们对其进行测试,那就太好了。

加布里埃尔Mittag

如果可以将导出更新到版本7或8以允许与windows ml一起使用,那就太棒了。

肯尼斯·职位

exportONNXNetwork不能正常使用CNTK和Python。转换产生一个ValueError: Gemm:无效的形状,输入a和B预期是rank=2矩阵。

回族阴李

您好,代码或工具箱是否可用于导出更快的R-CNN模型?当我得到一个错误时,我提到模型不是网络。希望你能在这里得到一些反馈或帮助

瑞安·穆克吉

你们知道什么时候会增加对常量运算符的支持吗?万博1manbetx

使用importONNXNetwork时出错(第39行)
节点“Node_20”:尚不支持常量运算符。万博1manbetx

umit kacar

我的代码是:)非常好。非常感谢。

Ting苏

嗨Trihn,
我们想知道关于importONNXNetwork()问题的更多细节。您以前安装过这个转换器的旧版本吗?

陈范教授

当我使用上面的例子时,函数importONNXNetwork()不起作用!

MATLAB版本兼容性
创建R2018a
兼容R2018a到R2021a
平台的兼容性
窗户 马科斯 Linux

社区寻宝

在MATLAB中心找到宝藏,并发现社区如何可以帮助你!

开始狩猎!