英伟达NVLink在MATALB使用多个Geforce 2080 ti卡

4视图(30天)

显示旧的评论

吕克Kempfner 2018年12月17日

0
链接

这个问题直接联系

//www.tianjin-qmedu.com/matlabcentral/answers/436097 - nvidia nvlink -在matalb -使用多个geforce - 2080 - ti -卡

评论道: 神骑士 2021年6月5日

答:接受但是过犹不及Ankur

NVLink收益率之间的双向带宽高卡(100 GB / Geforce 2080 ti提供,而Geforce RTX 2080提供50 GB / s)。充分利用时,NVLink将在PCI Express接口和最小化inter-GPU交通还允许每个卡片上的记忆行为更多的作为一个单一的, 共享资源。这开辟了新的科学分析multi-GPU模式的可能性和大dataworkloads。

将Matlab利用nvlinks卡片之间共享资源的能力在将来的版本中(R2019a / R2019b) ?

1评论
显示没有隐藏没有

沃尔特·罗伯森 2018年12月17日

未来的产品问题需要问您的销售代表。s manbetx 845这里的志愿者回答问题的人要么是内部外部志愿者或志愿者很少授权谈论未来的产品没有保密协议。s manbetx 845

登录置评。

在回答这个问题。

接受的答案

但是过犹不及Ankur 2018年12月20日

2
链接

直接链接到这个答案

//www.tianjin-qmedu.com/matlabcentral/answers/436097 - nvidia nvlink -在matalb -使用多个geforce - 2080 - ti -卡# answer_353219

编辑:但是过犹不及Ankur 2018年12月20日

我知道你想使用Nvidia NVLink MATLAB利用多个Nvidia Geforce 2080 ti图形卡。

目前还没有直接的方法利用高双向跨可用的gpu带宽分配计算。这可能通过引入分布式GPU数组可以使用所有GPU和自动收集结果。在MATLAB环境下分布式GPU阵列目前不支持。万博1manbetx

我们的开发团队意识到这个,目前正在考虑“分布式GPU数组”MATLAB的未来版本。

目前,没有命令来启用NVLink MDCS。作为一个解决方案利用NVlink,您可以使用下面的例子“共和党”功能,每个gpu的计算和获得返回结果:

> >共和党(@plus gpuArray (X)“gpuArray”);

打开一个parpool沟通和问题的地方和/或通过spmd指令,让gpu之间的分布式计算。

请参考以下链接用共和党spmd分发每个GPU的操作,进而有效地使用所有GPU内存相同的函数使用大块的数据:

//www.tianjin-qmedu.com/help/distcomp/gop.html

10评论
显示9年纪大的评论隐藏9以上的评论

神骑士 2018年12月22日

编辑:神骑士 2018年12月22日

如果你想看到完整的行为共和党(…,' gpuArray ') 然后看看帮助文本输入帮助gpuArray /共和党 ——这种行为不是在帮助浏览器记录:

                                  帮助gpuArray /共和党
                                 
                                  共和党gpuArray全球集体行动
                                 
                                  RES =共和党(有趣,X)
                                 
                                  RES =共和党(有趣,X, LABTARGET)
                                 
                                  RES =共和党(有趣,X,名称)
                                 
                                  RES =共和党(有趣,X, LABTARGET类名)
                                 
                                  共和党已经优化了gpuArrays在一定条件下:
                                 
                                  ——你指定CLASSNAME“gpuArray”。
                                 
                                  ——你的平行池是在Linux下运行。
                                 
                                  ——所有的gpu池中有计算能力3.5或以上。
                                 
                                  ——所有的数据类型的非空完整真实gpuArrays单身吗、双uint8
                                 
                                  int32, int64或uint64。
                                 
                                  ——所有的数据在每一个维度都是相同的大小(无维扩张)。
                                 
                                  有趣的是@plus之一、@times @min或@max。
                                 
                                  下这种情况下点对点通信是用来
                                 
                                  改善的性能。
                                 
                                  如果这些条件不满足,行为gpuArrays的共和党
                                 
                                  不变。
                                 
                                  例子:
                                 
                                  spmd
                                 
                                  N = 1000;
                                 
                                  x = gpuArray.randn (N);
                                 
                                  SumX =共和党(@plus x,“gpuArray”);每个x %的矩阵加法
                                 
                                  MaxX =共和党(@max马克斯(x (:))“gpuArray”);%所有员工的最大价值
                                 
                                  结束

这是唯一的(除了函数 trainNetwork )为NVLink明确优化,使用NCCL库。然而,的功能共和党万博1manbetx支持,即减少,通常是分布式计算的主要通信瓶颈,因此结合纯粹的并行计算(完全发生在一名工人操作)可以得到高度优化multi-gpu行为。

你也可以效仿的点对点和所有通信使用共和党 ,从而获得其他有用的行为。

                                  函数data = gpuPointToPoint(发送方、接收方、数据)
                                 
                                  从labindex = = % gpuPointToPoint发送数据发送方labindex = =接收器
                                 
                                  %设置接收器,以0广播行为
                                 
                                  如果labindex ~ =发送方
                                 
                                  data = gpuArray.zeros(大小(数据),“喜欢”、数据);
                                 
                                  结束
                                 
                                  data =共和党(@plus、数据接收器,“gpuArray”);
                                 
                                  结束
                                 
                                  结束

神骑士 2021年6月5日

通过MATLAB的基本的点对点通讯 labSend 和 labReceive ,以及共和党和 labBroadcast 现在使用NVLink或NVSwitch(或其他点对点通讯),在两个平台上都可用。

分布式gpuArrays MATLAB还没有支持。万博1manbetx分布式阵列最有用的功能是依赖ScaLAPACK,相当于没有GPU的图书馆。也就是说,更多的multi-GPU功能是计划在将来的版本中。

登录置评。

类别

人工智能,数据科学和统计数据深度学习工具箱并行计算和云

找到更多的在并行计算和云在帮助中心和文件交换

s manbetx 845

释放

R2018b

社区寻宝

找到宝藏在MATLAB中央,发现社区如何帮助你!

开始狩猎!