减少工作精度
10视图(30天)
显示旧的评论
我有一些2 dimesional数组(变量),像一个(100、100)、B (100、100)。Matlab将16位小数计算。但是,我只需要解决六十进制取代我所有的计算(数值模拟)。我怎么解决我所有的我会提取我的代码只有6或8位小数。
0评论
答案(2)
安迪·巴特利特
2021年6月7日
我猜你想要模拟代码更小、更快。
单精度浮点提供大约7小数位数的准确性和可以实现这一目标。
确保你的算法的关键入口点是单身。
如果输入都是单身,你的计算会产生单精度的结果。
一个=(兰德(3 2));
B =单(兰德(2、4));
C = A * B
C =
3×4单矩阵
0.68457 0.23552 0.11531 1.2855
0.39312 0.13022 0.069436 0.83144
0.59251 0.20564 0.098654 1.0794
