所有的数据都一样,但是前后的计算结果不同,请问怎么解决?
mathcad吧
全部回复
仅看楼主
level 2
bigprogram 楼主
源文档
链接:百度网盘
提取码:tth5
2023年12月09日 17点12分 1
level 13
发个回复还给拒了[汗]
这个是显示数值和实际数值有区别
2023年12月10日 02点12分 3
啊? 不好意思,不常用贴吧,不清楚您的回复为什么被拒绝了
2023年12月10日 20点12分
这种情况会对后续运算有影响吗?
2023年12月10日 20点12分
level 13
你是手动截断了数值精度[哈哈]
Mathcad是32位软件,她的浮点数计算好像精确到小数点后15位,默认显示3位,对计算的影响需要自己评估[呵呵]
2023年12月11日 02点12分 4
[大拇指],明白了,谢谢
2023年12月11日 05点12分
我又想了一下,如果计算精度是小数点后15位,那么计算已经足够精确,为啥显示的数值差的那么大。 会不会是计算过程中出现了数据丢失
2023年12月11日 16点12分
level 13
具体的精度控制不很清楚[哈哈]
对于需要迭代的计算,可以去看帮助文件关于TOL内置变量的描述
2023年12月12日 04点12分 5
👌🏻,我看看
2023年12月12日 08点12分
1