并行使用实验管理器来训练网络
默认情况下,实验管理器运行一个审判你的实验在一个CPU。如果你有并行计算工具箱™,您可以配置您的实验同时运行多个试验或运行一个试验在多个gpu,集群上,或在云中。
训练的场景 | 建议 |
---|---|
并行运行多个试验同时使用一个工人为每个审判。 | 设置您的并行环境,集模式来 另外,将实验作为批处理作业,集模式来 实验管理器不支持万博1manbetx |
一次运行单个试验在多个并行的工人。 | 内置的训练实验: 在实验中设置功能,设置培训选项 如果您使用的是可分区的数据存储,使背景调度通过设置培训选项 设置您的并行环境,集模式来 另外,将实验作为批处理作业,集模式来 |
自定义训练实验: 在实验中训练函数,建立并行环境和使用一个 集模式来 另外,将实验作为批处理作业,集模式来 |
内置的训练实验,结果表显示每个审判是否运行在单个CPU、GPU,多个CPU,或多个GPU。显示这些信息,点击显示或隐藏列按钮结果上方的表并选择执行环境。
提示
使用并行运行一个实验MATLAB®在线™,你必须能够访问云中心集群。有关更多信息,请参见使用并行计算与云中心集群在MATLAB工具箱(并行计算工具箱)。
设置并行环境
火车在多个gpu
如果您有多个gpu,并行执行通常增加实验的速度。使用GPU深度学习需要并行计算工具箱和支持GPU设备。万博1manbetx有关更多信息,请参见GPU计算的需求(并行计算工具箱)。
内置的训练实验,GPU的支持是自动的。万博1manbetx默认情况下,这些实验使用GPU如果一个是可用的。
自定义训练实验,计算默认出现在一个CPU。训练在GPU上,把你的数据
gpuArray
对象。确定一个可用的GPU,调用canUseGPU
函数。
为达到最佳效果,在你运行你的实验之前,创建一个尽可能多的工人gpu并行池。您可以检查gpu通过使用可用的数量gpuDeviceCount
(并行计算工具箱)函数。
numGPUs = gpuDeviceCount (“可用”);parpool (numGPUs)
请注意
如果您创建了一个单个GPU并行池,所有员工共享GPU,所以你得不到训练加速增加GPU内存耗尽的机会。
火车在集群或云
如果您的实验需要很长时间才能运行在本地机器上,您可以通过使用计算机集群加速训练在你的本地网络或租用高性能gpu的云。在完成初始设置之后,您可以运行你的实验用最少的代码更改。在一个集群或在云中需要工作MATLAB并行服务器™。有关更多信息,请参见云中的深度学习。
另请参阅
应用程序
功能
trainingOptions
|canUseGPU
|gpuDeviceCount
(并行计算工具箱)|parpool
(并行计算工具箱)|spmd
(并行计算工具箱)
对象
gpuArray
(并行计算工具箱)