GPU编码器
为NVIDIA gpu生成CUDA代码
GPU编码器™产生优化的CUDA®来自Matlab的代码®代码和仿真软件万博1manbetx®楷模。生成的代码包括用于深度学习,嵌入式视觉和信号处理算法的并行部分的CUDA内核。对于高性能,生成的代码调用优化了nvidia®CUDA图书馆,包括Tensorrt™,CUDNN,袖口,Cusolver和Cublas。该代码可以作为源代码,静态库或动态库集成到项目中,并且可以为嵌入在NVIDIA Jetson™,NVIDIA Drive™和其他平台上的桌面,服务器和GPU编译。您可以使用MATLAB中的生成的CUDA来加速深度学习网络和算法的其他计算密集部分。GPU编码器允许您将手写的CUDA代码合并到您的算法中并进入生成的代码。
与嵌入式编码器一起使用时®, GPU编码器允许您通过在环软件(SIL)和在环处理器(PIL)测试验证生成代码的数值行为。
开始:
部署算法免版税
在流行的NVIDIA GPU上编译并运行生成的代码,从桌面系统到数据中心到嵌入式硬件。生成的代码无需在商业应用程序中为您的客户提供免版税部署。
GPU编码器的成功故事
了解在各种行业的工程师和科学家如何使用GPU编码器为他们的应用程序生成CUDA代码。
从支持的工具箱和函数生成代码万博1manbetx
GPU编码器从广泛的MATLAB语言功能生成代码,该功能设计设计工程师用于开发算法作为较大系统的组件。这包括来自Matlab和Companion工具箱的数百个运营商和函数。
将遗留代码
使用遗留码集成功能将可信或高度优化的CUDA代码合并到MATLAB算法中以进行MATLAB测试。然后从生成的代码调用相同的CUDA代码。
运行模拟并为NVIDIA GPU生成优化代码
与Simulink Coder万博1manbetx™一起使用时,GPU编码器在NVIDIA GPU上的Simulink模型中加速了MATLAB功能块的计算密集部分。然后,您可以从Simulink模型生成优化的CUDA代码,并将其部署到您的NVIDIA GPU目标。万博1manbetx
部署端到端深度学习算法
在Simulink模型中使用深度学习工具箱™中的各种训练有素的深度学习网络(包括ResNet-50、SegNet和LSTM),并部署到NVIDIA gpu。万博1manbetx生成预处理和后处理代码与您训练的深度学习网络一起部署完整的算法。
日志信号,调谐参数和数字验证代码行为
当与Simulink Code万博1manbetxr一起使用时,GPU Coder使您能够使用外部模式模拟实时记录信号和调整参数。使用嵌入式编码器与GPU编码器一起运行软件在循环和处理器在循环测试,从数值上验证生成的代码与模拟行为的匹配。
部署端到端深度学习算法
将各种培训的深度学习网络(包括Reset-50,SEGNET和LSTM)从深度学习工具箱到NVIDIA GPU。使用预定义的深度学习层或定义特定应用程序的自定义图层。生成预处理和后处理代码与您训练的深度学习网络一起部署完整的算法。
生成优化的推理代码
GPU编码器与其他深度学习解决方案相比,GPU编码器产生具有较小占用的代码,因为它只生成使用特定算法运行推断所需的代码。万博 尤文图斯生成的代码调用优化的库,包括TensorRT和CUDNN。
使用张力进一步优化
生成与NVIDIA TensorRT集成的代码,TensorRT是一个高性能的深度学习推理优化器和运行时。使用INT8或FP16数据类型可以提高标准FP32数据类型的性能。
深度学习量化
量化您的深度学习网络以降低内存使用率并提高推理性能。使用Deep Network Standizer应用程序分析和可视化性能和推理准确性之间的折衷。
最小化CPU-GPU存储器传输并优化内存使用情况
GPU编码器自动分析、识别和划分MATLAB代码段,以便在CPU或GPU上运行。它还将CPU和GPU之间的数据拷贝数量降到最低。使用分析工具来识别其他潜在的瓶颈。
调用优化的库
使用GPU编码器生成的代码呼叫优化的NVIDIA CUDA库,包括图特子,CUDNN,CUSOLVER,袖口,CUBLA和推力。尽可能从MATLAB工具箱函数生成的代码映射到优化库。
原型在NVIDIA Jetson和驱动平台上
使用NVIDIA GPU的GPU编码器支持包,在NVIDIA Jetson和DRIVE平台上自动交叉编译和部署生成的代码。万博1manbetx
访问外设和传感器从MATLAB和生成的代码
远程与Matlab的NVIDIA目标通信,从网络摄像头和其他支持的外围设备获取早期原型的数据。万博1manbetx将算法与外设接口代码一起部署到主板以进行独立执行。
从原型化到生产
使用GPU编码器与嵌入式编码器与生成的CUDA代码并排以交互方式跟踪MATLAB代码。验证使用循环(SIL)和循环处理器(PIL)测试的硬件上运行的生成代码的数值行为。
在MATLAB中使用gpu加速算法
将生成的CUDA代码作为MAX功能从MATLAB代码到速度执行,但效果会根据MATLAB代码的性质而有所不同。配置文件生成MEX函数以识别瓶颈并关注您的优化工作。
使用NVIDIA GP万博1manbetxU加速Simulink模拟
与Simulink编码器一起使万博1manbetx用时,GPU编码器在NVIDIA GPU上的Simulink模型中加速了MATLAB功能块的计算密集部分。