level 1
sss668800
楼主
如题,想了一天都没有理解清楚,按我现在的理解,对于非机器数,Precision是有效数字的个数,而Accuracy是小数点后所有有效位数(包括0与1位估读数),二者关系为Accuracy[x]==Precision[x]-RealExponent[x],
【1】

表的前面两行分别是精确数10与机器数10.0,后面两行分别设定Precision=6与Accuracy=4,我们发现虽然x在小数点后分别显示4个0与3个0,但是Accuracy却是5与4,由此我推测Accuracy包含了未显示的一位数(我称之为估读数),不知道是否准确。
【2】
如果设定小数对应的RealExponent[x]不是整数,则Precision=4或Accuracy=4得到的Accuracy或Precision不再是整数,此时第二行我还能理解,Precision=3.79239<4,因此有效数字显示3位也就是0.620,但是第1行的Accuracy=4.20761怎么理解?明明小数点后只有4个数字6200,前面我还能说Accuracy多出来的一位是估读数,那现在理解多出来的0.20761是估读数么?

【3】
默认精度的理解:如果按照MachinePrecision=15.9546也就是15位理解,为啥下表第一行0.012345678912345678已经17位有效数字了,MachinePrecision还没有爆掉?又为啥显示时,MachinePrecision最后一位是错的?8显示成9。。。
第二行是我设定0.0123456789123456789,发现Accuracy=19,这个也有点难理解,,,
另一个问题是,如果将这个数字限定15位有效数字,是否在参与运算时以0.0123456789123457代入?

2018年01月11日 08点01分
1
【1】

表的前面两行分别是精确数10与机器数10.0,后面两行分别设定Precision=6与Accuracy=4,我们发现虽然x在小数点后分别显示4个0与3个0,但是Accuracy却是5与4,由此我推测Accuracy包含了未显示的一位数(我称之为估读数),不知道是否准确。【2】
如果设定小数对应的RealExponent[x]不是整数,则Precision=4或Accuracy=4得到的Accuracy或Precision不再是整数,此时第二行我还能理解,Precision=3.79239<4,因此有效数字显示3位也就是0.620,但是第1行的Accuracy=4.20761怎么理解?明明小数点后只有4个数字6200,前面我还能说Accuracy多出来的一位是估读数,那现在理解多出来的0.20761是估读数么?

【3】默认精度的理解:如果按照MachinePrecision=15.9546也就是15位理解,为啥下表第一行0.012345678912345678已经17位有效数字了,MachinePrecision还没有爆掉?又为啥显示时,MachinePrecision最后一位是错的?8显示成9。。。
第二行是我设定0.0123456789123456789,发现Accuracy=19,这个也有点难理解,,,
另一个问题是,如果将这个数字限定15位有效数字,是否在参与运算时以0.0123456789123457代入?

