并行训练单网络

并行列车多个网络

批处理深度学习

您可以使用一批（并行计算工具箱）作用这意味着您可以在后台运行计算时继续使用MATLAB，也可以关闭客户端MATLAB并稍后获取结果。

可以在本地集群或远端集群中运行批处理作业。要卸载您的深度学习计算，请使用一批提交在集群中运行的脚本或函数。您可以作为批处理作业执行任何类型的深度学习计算，包括并行计算。例如，请参见发送深度学习批作业到集群

要并行运行，请使用包含本地或集群中并行运行相同代码的脚本或函数。例如，您的脚本或函数可以运行列车网络使用“刽子度环境”，“平行”选项，或者并行运行自定义的训练循环。使用一批将脚本或函数提交到集群并使用水池选项指定要使用的工作进程数。有关使用运行并行计算的详细信息一批， 看运行批次并行作业（并行计算工具箱）．

如果要在多个网络上进行深度学习计算，建议为每个网络提交单个批处理作业。这样做可以避免在集群中启动并行池所需的开销，并允许您使用作业监视器分别观察每个网络计算的进度。

您可以提交多个批处理作业。如果提交的作业需要更多的工人，而不是当前在群集中可用，那么稍后的作业将排队，直到早期的作业完成。排队的工作开始，当足够的工人可以运行这项工作时。

Worker的默认搜索路径可能与客户端的路径不同。要确保群集中的辅助对象可以访问所需的文件，例如代码文件、数据文件或模型文件，请使用含量径选择。

要在完成作业后检索结果，请使用获取输出（并行计算工具箱）作用获取输出检索批处理工作区中的所有变量。当您将批处理作业作为脚本提交时，默认情况下，工作区变量将从客户端复制到工人。为避免递归工作空间变量，请将批量作业提交为函数而不是脚本。

你可以使用日记（并行计算工具箱）在运行批处理作业时捕获命令行输出。执行时，这可能是有用的列车网络函数与冗长的选项设置为真正的．

管理群集配置文件和自动池创建

并行计算工具箱是预先配置的集群配置文件地方的用于在本地桌面机器上运行并行代码。默认情况下，Matlab使用该启动所有并行池地方的集群配置文件。如果要在远程群集上运行代码，则必须使用远程群集配置文件启动并行池。您可以使用群集配置文件管理器管理群集配置文件。有关管理群集配置文件的详细信息，请参阅发现集群并使用集群配置文件（并行计算工具箱）．

一些功能，包括列车网络那预测那分类那议案,Parfeval.可以自动启动并行池。要利用自动并行池创建，请在群集配置文件管理器中将所需群集设置为默认群集配置文件。或者，您可以手动创建池，并在创建池时指定所需的群集资源。

如果希望在远程集群中使用多个gpu并行地训练多个网络或进行自定义训练循环，最佳实践是在所需集群中手动启动一个并行池，使用尽可能多的可用gpu。有关更多信息，请参阅基于多gpu的MATLAB深度学习．

深度学习精度

为获得最佳性能，建议使用GPU进行所有深度学习工作流程。因为GPU的单精度和双精度性能大大不同，所以重要的是知道在进行精确计算。通常，GPU在单精度下为计算提供更好的性能。

如果您只使用GPU进行深度学习，则单精度性能是GPU最重要的特征之一。如果您还使用Parallet Computing Toolbox使用GPU进行其他计算，则高双精度性能很重要。这是因为Matlab中的许多函数默认使用双精度算术。有关更多信息，请参阅使用单精度计算提高性能（并行计算工具箱）

当你用列车网络功能，或使用预测或验证功能时Dagnetwork.和系列网络对象，软件使用单精度浮点算术执行这些计算。培训，预测和验证的功能包括列车网络那预测那分类,激活．当你同时使用cpu和gpu训练网络时，该软件使用单精度算法。

对于自定义培训工作流程，建议将数据转换为单次精度进行培训和推理。如果你使用minibatchqueue要管理小批量，默认情况下，数据将转换为单精度。