浮动点:IEEE标准的统一计算模型

由克里夫硅藻土,MathWorks

计算与实际数字不是很实用,因为它涉及到限制和无穷大。相反,MATLAB^®和大多数其他技术计算环境中使用浮点运算,其中包括一组有限的数字与有限的精度。这就导致了像舍入误差的现象,下溢,溢出。大多数时候,MATLAB可以有效地使用而不用担心这些细节,但每隔一段时间,是值得了解的属性和浮点数的局限性。

在本文中,最早出版于1996年,克里夫硅藻土解释使用浮点数的优缺点。