请教一个问题,为何计算结果不对啊,非小数点位数,具体看图
mathcad吧
全部回复
仅看楼主
level 1
这是mathcad15版
2017年07月28日 08点07分 1
level 15
您这里的h.T1=1.412和at.T1=17.61用的是=号,可见,是前面计算过程所得到的结果。它们的实际结果的值有17位有效数字,其中有15位是准确的。根据MC的默认设置,只显示结果的小数点后的前3位。但是后续计算仍然是用17位有效数字在计算。而您直接用1.412和17.61计算乘积,1.412和17.61的有效数字个数只有4位,它们的乘积的有效数字的个数也就只有4位。这两个数与h.T1=1.412和at.T1=17.61的对应值并不相等。h.T1*at.T1的小数的有效数字位数有17位,其中15位是准确的。供参考。我的说法不专业。权威的解释,请看MC自带的帮助。
2017年07月28日 13点07分 2
谢谢解答辛苦辛苦,我明白了,我看看能否改正
2017年07月29日 08点07分
1