科学计算器对超小数的支持问题
mfp吧
全部回复
仅看楼主
level 1
AUHHUU
楼主
目前的智慧计算器最小数只能算到10^-47这个量级,再小就会归零。这样的话某些需要用到普朗克常数的公式代入数值后就会无法计算。希望编者大大能够拓展一下智慧计算器数值数量级的下限,能像卡西欧一样到10^-99或者更小,谢谢编者大大
2021年03月01日 11点03分
1
level 1
woshiwppaa
主要是精度和准确性之间很难取舍。比如你用JAVA计算1/2.0-1/3.0-1/6.0,你会得到一个很小的数,比如10的负多少次方。这时候是该把它当作0还是不是0,真的很难处理。
2021年03月01日 11点03分
2
level 2
Eletac
这门编程语言是少数几个能0.1+0.2==0.3的,已经够精确了
2021年03月31日 15点03分
3
1