math库函数取整的一些疑问
lua吧
全部回复
仅看楼主
level 1
zxcvbnm3057
楼主
如图 为什么math.floor(0.1*10)=1，而这样计算的却不是1，难道modf函数会导致变量对实际值偏小吗
2020年10月25日 22点10分
1
level 6
斗谷虎
小数在计算机中是不能精确表示的。这和modf无关，甚至和lua无关。这是计算机底层的问题。
2020年10月27日 04点10分
2
1
