Posts 11 - 20 of 27

Results for: Precision

Greg Searle, Fractal Art and Design

如果您定期关注此博客,您会知道我喜欢分形。我最近在新罕布什尔州纳舒厄度过了一个愉快的下午,我的女儿特雷莎(Teresa)在那儿向我介绍了分形艺术家和计算机极客的格雷戈里·塞尔(Gregory Searle)。这是他的徽标。阅读更多>>

半精度浮点对象中的错误

我在5月8日的帖子大约是“半精确”和“四分之一精确”算术。我还添加了对象的代码FP16andFP8Cleve's Laboratory。几天前,我从皮埃尔·布兰查德(Pierre Blanchard)和曼彻斯特大学(University of Manchester)的好朋友尼克·海姆(Nick Higham)听到了这些物体的严重虫子。阅读更多>>

ULP图揭示了数学功能精度 2

“ ULP”代表“最后一个位置”。一个ulps plot样本一个基本的数学功能,例如$ \ sin {x} $,或像贝塞尔功能一样更深奥的函数。将样品与从更高的精度计算获得的更精确值进行比较。在ULP中测量的精度图揭示了有关基础算法的宝贵信息。阅读更多>>

Posts 11 - 20 of 27