并行列车单网

并行训练多个网络

批处理深度学习

您可以卸载深度学习计算以使用批（并行计算工具箱）功能。这意味着您可以在您的计算在后台运行时继续使用MATLAB，或者您可以在稍后关闭客户端MATLAB和获取结果。

可以在本地集群或远端集群中运行批处理作业。要卸载您的深度学习计算，请使用批提交在集群中运行的脚本或函数。您可以作为批处理作业执行任何类型的深度学习计算，包括并行计算。例如，请参见发送深度学习批作业到集群

要并行运行，请使用包含本地或集群中并行运行相同代码的脚本或函数。例如，您的脚本或函数可以运行Trainnetwork.使用“ExecutionEnvironment”、“平行”选项，或者并行运行自定义的训练循环。用批将脚本或函数提交到集群并使用池指定要使用的工人数量的选项。有关运行并行计算的更多信息批,请参阅运行批处理并行作业（并行计算工具箱）．

如果要在多个网络上进行深度学习计算，建议为每个网络提交单个批处理作业。这样做可以避免在集群中启动并行池所需的开销，并允许您使用作业监视器分别观察每个网络计算的进度。

您可以提交多个批处理作业。如果提交的作业需要比集群中当前可用的作业更多的工人，则稍后的作业将排队，直到较早的作业完成。当有足够的工作程序可以运行作业时，将启动排队作业。

工人的默认搜索路径可能与客户端MATLAB的搜索路径不同。要确保群集中的工人可以访问所需的文件，例如代码文件，数据文件或模型文件，指定使用的路径添加到工人AdditionalPaths选择。

要在作业完成后检索结果，请使用fetchOutputs.（并行计算工具箱）功能。fetchOutputs.检索批处理工作空间中的所有变量。当您将批作业作为脚本提交时，默认情况下，工作区变量将从客户端复制到工作人员。为了避免工作空间变量的递归，请将批处理作业作为函数而不是脚本提交。

你可以使用日记（并行计算工具箱）在运行批处理作业时捕获命令行输出。这在执行Trainnetwork.函数与verb选项设置为真正的．

管理集群配置文件和自动创建池

并行计算工具箱是预先配置的集群配置文件当地的用于在本地桌面计算机上运行并行代码。默认情况下，MATLAB使用当地的集群配置文件。如果要在远程集群上运行代码，必须使用远程集群配置文件启动并行池。您可以使用集群概要文件管理器管理集群概要文件。有关管理集群配置文件的更多信息，请参见发现集群并使用集群配置文件（并行计算工具箱）．

一些功能,其中包括Trainnetwork.，预测，分类，parfor,parfeval可以自动启动并行池。要利用自动并行池创建，请将所需群集设置为群集配置文件管理器中的默认群集配置文件。或者，您可以手动创建池并在创建池时指定所需的群集资源。

如果希望在远程集群中使用多个gpu并行地训练多个网络或进行自定义训练循环，最佳实践是在所需集群中手动启动一个并行池，使用尽可能多的可用gpu。有关更多信息，请参见在多个GPU上与MATLAB深入学习．

深度学习精确

为了获得最佳性能，建议对所有深度学习工作流使用GPU。因为gpu的单精度和双精度性能可能有很大的不同，所以知道在哪个地方执行精度计算是很重要的。通常，gpu在单精度计算中提供更好的性能。

如果你只使用GPU进行深度学习，那么单精度性能是GPU最重要的特性之一。如果您还使用GPU进行其他计算，那么高双精度性能是很重要的。这是因为MATLAB中的许多函数默认使用双精度算法。有关更多信息，请参见使用单精度计算提高性能（并行计算工具箱）

当你用Trainnetwork.函数，或使用预测或验证函数时DAGNetwork和SeriesNetwork对象时，软件使用单精度浮点运算执行这些计算。用于训练、预测和验证的功能包括Trainnetwork.，预测，分类,激活．当你同时使用cpu和gpu训练网络时，该软件使用单精度算法。

对于自定义训练工作流，建议将数据转换为单一精度进行训练和推理。如果你使用minibatchqueue要管理迷你批处理，默认情况下，您的数据将转换为单精度。