真的离谱！1.1字符串转小数DBL会变成1.10000000000000009
labview吧
全部回复
仅看楼主
level 6
侦哲优论 楼主
2023年09月01日 06点09分 1
level 10
我是沙漠里的树
很正常，可以看一下浮点数表示原理
2023年09月03日 01点09分 2
侦哲优论
做累加的时候会出现错误，比如1+0.1会不等于1.1，这种情况你一般怎么处理？我一般加补偿，有没有更好的方法？
2023年09月03日 06点09分
level 6
侦哲优论 楼主
C++好像没有这个问题
2023年09月03日 06点09分 3
level 5
lesterlai2000
DBL和SGL的原理先搞清楚
2023年09月03日 08点09分 4
贴吧用户_aEMEGeD
你好，请问一下sgl和double有啥区别，我最近在使用labview读取tcp数据时候，读取字符数好像不太对，0.7892和1233.1344，是不是读取TCP时候位数不一样，麻烦了
2023年09月04日 15点09分
lesterlai2000
@贴吧用户_aEMEGeD sgl是32位的，dbl是64位的，差别很大
2023年09月04日 15点09分
1