简单的加减法也可以算错?
mathcad吧
全部回复
仅看楼主
level 1
circlex
楼主
2.2+10.7-12.9结果是非零值,请问这是什么原因,是bug吗?
2022年10月14日 15点10分
1
level 13
ctc2000thl
应该是浮点数的精度控制问题,用符号计算的等号好一点儿
2022年10月15日 04点10分
2
level 1
心的简约
这个数值计算真是玄
2023年02月15日 08点02分
3
1