关于浮点数的几点问题我做了一个整合数组相关模组用于后续新的应
vb吧
全部回复
仅看楼主
level 11
余思培 楼主
关于浮点数的几点问题
我做了一个整合数组相关模组用于后续新的应用算法实现时可以便捷测试。
在做这个功能模块的时候,我采用了用命令的方式来测试这个整合模块,但这中间产生了一个问题,我想要浮点数数组添加一个新成员时(我设计的命令为NewV = [Value],value为一个值),我如何判断新成员的范围是否在浮点数的范围以内,以单精度浮点数为例,他的范围约为[-3.4*10^38,-1.5*10^-45]∪[1.5*10^-45,3.4*10^38],但由于精度原因,是不是可以直接省略中间部分(两个范围以内,VB会收束为0),是不是直接判断[-3.4*10^38,3.4*10^38]就可以了。
另,对于这种级别的数,判断的时候使用if判断比较好还是错误陷阱捕获比较好。
另,错误陷阱的布设是否需要专门的语句来表示错误处理结束
归纳起来,想要问的问题有3个:
1.对赋值浮点数前,是用其值域判断是否超出范围,还是使用错误陷阱捕获超出范围情况
2.如果使用值域判断,是否可以省略掉两个超高精度小数边界
3.如果使用错误陷阱捕获,在错误处理结束后是否需要专门的语句用以结束错误处理
2020年08月02日 05点08分 1
1