LABVIEW新手求助
labview吧
全部回复
仅看楼主
level 1
4D弟弟 楼主
问题是使用LABVIEW通过以下算法来得到自然对数e的值:
我使用的是for循环,程序如下:
当我的循环次数小于等于34时,输出的结果是具体的数值,但是当循环次数大于等于35时,输出的结果变成了Inf,如果我想循环次数多点的话该怎么办?还有一个问题,输出的e的值最多只能显示小数点后11位,如何显示更多的数位?
2022年09月08日 03点09分 1
level 7
有没有考虑,数字超过double类型的最大值了呢?考虑换个上限更高的数据类型
2022年09月16日 12点09分 2
1