level 6
sgylvqº
楼主
0.4694817600789397`
0.4694817600789395`
理论上是相等的,但是因为原始数据的偏差而等到差距极小的两个数
Chop[0.4694817600789397`, 10^-12] ===
Chop[0.4694817600789395`, 10^-12]
NumberForm[0.4694817600789397`, 10^-10] ===
NumberForm[0.4694817600789395`, 10^-10]
N[0.4694817600789397`, 12] === NumberForm[0.4694817600789395`, 12]
都是返回false
2021年07月06日 01点07分
1
0.4694817600789395`
理论上是相等的,但是因为原始数据的偏差而等到差距极小的两个数
Chop[0.4694817600789397`, 10^-12] ===
Chop[0.4694817600789395`, 10^-12]
NumberForm[0.4694817600789397`, 10^-10] ===
NumberForm[0.4694817600789395`, 10^-10]
N[0.4694817600789397`, 12] === NumberForm[0.4694817600789395`, 12]
都是返回false