简单的加减法也可以算错?
mathcad吧
全部回复
仅看楼主
level 1
circlex 楼主
2.2+10.7-12.9结果是非零值,请问这是什么原因,是bug吗?
2022年10月14日 15点10分 1
level 13
应该是浮点数的精度控制问题,用符号计算的等号好一点儿[呵呵]
2022年10月15日 04点10分 2
level 1
这个数值计算真是玄
2023年02月15日 08点02分 3
1