为什么两列数的合计数相同,但用这两个数作差时,结果不为0?
excel吧
全部回复
仅看楼主
level 1
sdfsdfsd239
楼主
如下图,J2,K2分别为J列的合计数(其他行有数据未列出),L2为两个合计值的差,此时不为0,用会计专用格式保留10为小数显示为上图所示数值,当我删除选中单元格的值时,两个合计值的差会发生变化,实际上选中的区域J列,K列的值是相等的,但为什么L2会发生变化呢?
2025年12月27日 08点12分
1
level 12
锰
浮点运算
2025年12月27日 10点12分
2
level 13
🎶虚空蛋黄酱
经典浮点误差,可以理解为一个涉及底层逻辑无法修复的bug。尽量不要用两个大数去相减或相除得到一个很小的数,如果没办法优化必须要算,需要再套一个round
2025年12月27日 14点12分
3
sdfsdfsd239
好的,谢谢
2025年12月27日 22点12分
1