一半精度是多少?
这段视频介绍了精密或float16一半的概念,一个相对较新的浮点数据。它可以用来减少内存使用量减半,已经成为非常受欢迎的加速深度学习培训和推理。我们还看的优势以及权衡相对于传统的32位单精度或64位双精度的数据类型传统控制应用程序。
精密或float16一半是一个相对较新的浮点数据类型使用16位,与传统的32位单精度或64位双精度的数据类型。
所以,当你声明一个变量在MATLAB一半,说π数量,你可能会注意到一些精度损失相比,我们在这里看到的单引号或双表示。
的区别来自于有限数量的比特所使用的精密的一半。我们只有10位精度和5位指数与23位精度和8位单指数。因此,每股收益更大的动态范围是有限的。
为什么很重要呢?一半最近的流行是因为它的实用性在促进深度学习培训和推理主要NVIDIA gpu中提到的文章。此外,英特尔和ARM平台还支持半加速计算。万博1manbetx
使用半精密的显而易见的好处是减少内存和数据带宽减少50%作为Resnet50我们看到。此外,硬件厂商也提供硬件加速等计算一半NVIDIA gpu的CUDA intrinsic中。
我们看到动力总成控制系统等传统应用程序做同样的事情,你可能有数据查找表的形式,一个简单的例子所示。通过使用一半的存储类型,你可以减少内存占用的二维查找表4 x。
然而,重要的是要理解权衡精度有限的精度和范围的一半。例如,在深入学习网络,订单的量化误差是10 ^ 4和一个分析如何影响网络的整体精度。
这是一个简短的介绍一半精度。请参考下面的链接了解更多关于如何模拟和生成C / c++或者CUDA代码在MATLAB和Simulink一半。万博1manbetx
相关产品s manbetx 845
了解更多
你们可以合理选择联合国网站web在liste如下:
优化器les表演du网站发表评论
倒优化器les表演du网站,selectionnez洛杉矶地区中国(en考点或英语)。Les网站de MathWorks倒变量支付不是优化倒Les visites provenant您的地区。