主要内容

gpuDevice

查询或选择GPU设备

描述

一个GPUDevice对象表示计算机中的图形处理单元(GPU)。可以使用GPU运行MATLAB®支持的代码万博1manbetxgpuArray变量或执行CUDA内核使用CUDAKernel对象。

你可以用GPUDevice对象来检查GPU设备的属性、重置GPU设备或等待GPU完成计算。获得一个GPUDevice对象,使用gpuDevice函数。您也可以选择或取消选择您的GPU设备gpuDevice函数。如果您可以访问多个gpu,请使用gpuDevice函数来选择要在其上执行代码的特定GPU设备。

你不需要使用GPUDevice对象来在GPU上运行函数。有关如何使用启用gpu的函数的更多信息,请参见在GPU上运行MATLAB函数

创建

描述

gpuDevice显示当前选择的GPU设备属性。如果当前没有选定的设备,gpuDevice选择默认设备而不清除它。当您想要检查GPU设备的属性时,请使用此语法。

例子

D = gpuDevice返回一个GPUDevice对象表示当前选择的设备。如果当前没有选定的设备,gpuDevice选择默认设备并返回GPUDevice对象表示该设备而不清除它。

例子

D = gpuDevice (indx选择索引指定的GPU设备indx.如果指定的GPU设备不支持,则提示错误。万博1manbetx这个语法重置指定的设备并清除它的内存,即使该设备当前已经被选中(相当于重置功能)。所有工作空间变量表示gpuArrayCUDAKernel变量现在无效,必须从工作区中清除或重新定义。

例子

gpuDevice ([]),使用空参数(而不是没有参数),取消选择GPU设备并清除其内存gpuArrayCUDAKernel变量。此语法将不选择任何GPU设备作为当前设备。

输入参数

全部展开

图形处理器设备索引,取值范围为整数1gpuDeviceCount

例子:gpuDevice (1);

数据类型:||int8|int16|int32|int64|uint8|uint16|uint32|uint64

属性

全部展开

此属性是只读的。

GPU设备的名称,指定为字符阵列。分配给设备的名称来源于GPU设备型号。

此属性是只读的。

图形处理器设备索引,取值范围为整数1gpuDeviceCount.使用此索引选择特定的GPU设备。

此属性是只读的。

GPU设备的计算能力,指定为字符阵列。在MATLAB中使用选定的GPU设备,ComputeCapability必须符合GPU支万博1manbetx持情况

此属性是只读的。

支持双精度操作的标万博1manbetx志,指定为逻辑值01真正的

此属性是只读的。

GPU设备驱动程序当前使用的版本,指定为标量值。在MATLAB中使用选定的GPU设备,DriverVersion必须符合GPU支万博1manbetx持情况

此属性是只读的。

CUDA工具包目前使用的版本为MATLAB,指定为标量值。

此属性是只读的。

在CUDAKer万博1manbetxnel执行期间,每个块支持的最大线程数,指定为标量值。

例子:1024

此属性是只读的。

线程块在CUDA万博1manbetxKernel执行期间可以使用的最大共享内存支持量,指定为标量值。

例子:49152

此属性是只读的。

线程块的每个维度的最大大小,指定为向量。线程块的每个尺寸不能超过这些尺寸。另外,线程块大小的乘积不能超过MaxThreadsPerBlock

此属性是只读的。

线程块网格的最大大小,指定为向量。

此属性是只读的。

同时执行的线程数,指定为标量值。

此属性是只读的。

设备上的总内存(以字节为单位),指定为标量值。

此属性是只读的。

用于数据的总内存(以字节为单位),指定为标量值。此属性仅对当前选定的设备可用。这个值可以与NVIDIA报告的值不同®系统管理接口由于内存缓存。

此属性是只读的。

设备上的流多处理器数量,指定为标量值。

此属性是只读的。

GPU的峰值时钟速率,单位为kHz,指定为标量值。

此属性是只读的。

设备的计算模式,可指定为以下值之一。

“默认” 该设备不受限制,多个应用程序可以同时使用。MATLAB可以与其他应用程序共享设备,包括其他MATLAB会话或工作人员。
“独家线程”“独家过程” 同一时间只能有一个应用程序使用该设备。当在MATLAB中选择设备时,其他应用程序不能使用它,包括其他MATLAB会话或工作人员。
“禁止” 设备无法使用。

此属性是只读的。

支持重叠传输的标志万博1manbetx,指定为逻辑值01

此属性是只读的。

标志长时间运行的内核的超时,指定为逻辑值01.如果1,操作系统为CUDA内核的执行时间设置了一个上限。在此之后,CUDA驱动程序使内核超时并返回一个错误。

此属性是只读的。

支持将主机内存映射万博1manbetx到CUDA地址空间的标志,指定为逻辑值01

此属性是只读的。

支持设备的标志,由万博1manbetx逻辑值指定01.并不是所有的设备都支持;万博1manbetx例如,设备不足ComputeCapability

此属性是只读的。

可用设备的标志,由逻辑值指定01.此属性指示设备是否可在当前MATLAB会话中使用。不支万博1manbetx持的设备Device万博1manbetxSupported的属性0总是不可用。一个设备也可以不可用,如果它ComputeMode属性设置为“独家线程”“独家过程”,或“禁止”

此属性是只读的。

当前选定设备的标志,由逻辑值指定01

对象的功能

您可以通过以下功能对图形处理器设备进行识别、选择、复位和等待。

gpuDeviceCount 当前GPU设备数量
重置 重新设置GPU设备并清除其内存
等待(GPUDevice) 等待GPU计算完成

还提供以下功能:

parallel.gpu.GPUDevice.isAvailable (indx) 返回逻辑1真正的如果使用索引指定图形处理器indx支持并万博1manbetx能够被选择。indx可以是整数或整数向量;默认索引是当前设备。
parallel.gpu.GPUDevice.getDevice (indx) 返回一个GPUDevice对象,而不选择它。

要获得完整的函数列表,请使用方法功能上的GPUDevice对象:

方法(“parallel.gpu.GPUDevice”)

你可以通过下面的命令获得任何对象函数的帮助:

帮助parallel.gpu.GPUDevice。functionname

在哪里functionname是函数的名称。例如,寻求帮助isAvailable类型:

帮助parallel.gpu.GPUDevice.isAvailable

例子

全部折叠

这个例子展示了如何使用gpuDevice以确定并选择要使用的设备。

要确定计算机中有多少GPU设备可用,请使用gpuDeviceCount函数。

gpuDeviceCount (“可用”
ans = 2

当有多个设备时,第一个是默认的。属性可以检查它的属性gpuDeviceTable函数来确定是否要使用该函数。

gpuDeviceTable
ans =2×5表索引名称ComputeCapability DeviceAvailable DeviceSelected  _____ _____________ _________________ _______________ ______________ 1“泰坦RTX”“7.5”真的真的2”住宅区K620”“5.0”真的假的

如果第一个设备是您想要使用的设备,则可以继续。要在GPU上运行计算,请使用gpuArray启用的功能。有关更多信息,请参见在GPU上运行MATLAB函数

要使用另一个设备,打电话gpuDevice另一个设备的索引。

gpuDevice (2)
ans = CUDADevice with properties: Name: 'Quadro K620' Index: 2 ComputeCapability: '5.0' 万博1manbetxSupportsDouble: 1 DriverVersion: 11 ToolkitVersion: 10.2000 MaxThreadsPerBlock: 1024 MaxShmemPerBlock: 49152 MaxThreadBlockSize: [1024 1024 64] MaxGridSize: [2.1475e+09 65535 65535] SIMDWidth: 32 TotalMemory: 2.1475e+09 AvailableMemory:1.6776e+09 MultiprocessorCount: 3 ClockRateKHz: 1124000 ComputeMode: 'Default' GPUOverlapsTransfers: 1 KernelExecutionTimeout: 1 CanMapHostMemory: 1 Device万博1manbetxSupported: 1 DeviceAvailable: 1 DeviceSelected: 1

创建一个代表默认GPU设备的对象。

D = gpuDevice;

查询所有可用GPU设备的计算能力。

ii = 1:gpuDeviceCount D = gpuDevice(ii);流(1,'Device %i has ComputeCapability %s \n'...D.Index D.ComputeCapability)结束
设备1的ComputeCapability为7.5,设备2的ComputeCapability为6.1

如果您可以访问多个gpu,则可以使用并行池在多个gpu上并行执行计算。

要确定MATLAB中可用的图形处理器的数量,请使用gpuDeviceCount函数。

availableGPUs = gpuDeviceCount (“可用”
availableGPUs = 3

用尽可能多的可用gpu启动一个并行池。为了获得最佳性能,MATLAB默认为每个工作器分配不同的GPU。

parpool (“本地”, availableGPUs);
使用“local”配置文件启动并行池(parpool)…连接到并行池(工作人员数量:3)。

要确定每个工作人员使用的是哪个GPU,调用gpuDevice在一个spmd块。的spmd块运行gpuDevice在每一个工人。

spmdgpuDevice结束

使用并行语言特性,例如parforparfeval,将您的计算分发给并行池中的工作人员。如果你使用gpuArray这些函数运行在worker的GPU上。有关更多信息,请参见在GPU上运行MATLAB函数.例如,请参见在多个gpu上运行MATLAB函数

当您完成计算时,请关闭并行池。你可以使用gcp函数获取当前并行池。

删除(gcp (“nocreate”));

如果您想使用不同的gpu选择,那么您可以使用gpuDevice使用GPU设备索引在每个worker上选择一个特定的GPU。您可以在您的系统中获取每个GPU设备的索引gpuDeviceCount函数。

假设您的系统中有三个可用的gpu,但是您希望在一次计算中只使用两个。获取设备索引。

[availableGPUs, gpuIndx] = gpuDeviceCount (“可用”
availableGPUs = 3
gpuIndx =1×31 2 3

定义要使用的设备的索引。

useGPUs = [1 3];

启动并行池。使用一个spmd块和gpuDevice使用设备索引将每个worker与您想要使用的一个gpu关联起来。的labindex函数标识每个工人的索引。

parpool (“本地”元素个数(useGPUs));
使用“local”配置文件启动并行池(parpool)…连接到并行池(工作人员数量:2)。
spmdgpuDevice (useGPUs (labindex));结束

作为最佳实践和最佳性能,为每个工作器分配不同的GPU。

当您完成计算时,请关闭并行池。

删除(gcp (“nocreate”));
介绍了R2010b