C# 中为什么用float运算的结果不对 有图
c#吧
全部回复
仅看楼主
level 6
冥想宇宙- 楼主
使用double结果是对的,但我想知道为什么,用float结果会不对。求大神
2014年01月07日 01点01分 1
level 6
冥想宇宙- 楼主
float num1=-12.6f;
float num2 = 12;
float num3 = num1+num2;
2014年01月07日 01点01分 2
level 15
2014年01月07日 01点01分 3
level 1
因为浮点数使用的是二进制的科学计数法,运算精度有误差。计算的时候会先转换成二进制。如果是高精度计算请使用Decimal。
2014年01月07日 01点01分 5
[大拇指]
2016年10月14日 08点10分
level 9
你可以看一点数据结构的问题。反正是精度问题。
2014年01月07日 03点01分 7
level 6
。。。大家说的对
2014年01月07日 05点01分 8
level 4
num2 损失精度
2016年10月14日 09点10分 9
level 11
int计算也有误差,这是位移算法的问题
2016年10月15日 04点10分 10
level 8
楼上说的都对……
2016年10月15日 04点10分 11
level 10
求vs字体
2016年10月15日 09点10分 12
我用的 Arial
2016年11月16日 06点11分
1