浮点型有误差
usrbin吧
全部回复
仅看楼主
level 7
岸边拾贝壳 楼主
程序步骤稍微一复杂，就会出现诸如2.98023e-008这种数，实际上是0。即使变成double也不行。看得好难受啊。有啥好方法么[惊讶]
2011年09月12日 13点09分 1
level 7
岸边拾贝壳 楼主
把输出格式设置成定点计数，再设置精度，倒是可以让输出变得好看一点。不过也不解决根本问题。
2011年09月12日 13点09分 2
level 11
usrbin
根本解决需要改进数值计算的算法[惊讶]
2011年09月12日 13点09分 3
level 7
岸边拾贝壳 楼主
[不要]那就设置精度将就一下吧。
2011年09月12日 13点09分 4
level 14
灌水四人组之蛋
你用的是Matlab，还是c？
2011年09月12日 13点09分 5
level 7
岸边拾贝壳 楼主
回复5楼：
C++
2011年09月12日 14点09分 6
level 14
灌水四人组之蛋
除非你的精确度很敏感或者算法本身就很好，其实matlab本身也有这个问题，例如这个行列式：https://tieba.baidu.com/p/1195922218?pid=14056391671&cid=0#14056391671，你可以输入试试。
2011年09月13日 01点09分 7
level 14
灌水四人组之蛋
这就是为什么在数值计算的内容中有一章叫做扰动，和适定性问题的研究了
2011年09月13日 01点09分 8
level 7
岸边拾贝壳 楼主
回复8楼：
把矩阵稍微变换几下就得考虑这么多问题，情何以堪。
2011年09月13日 02点09分 9
level 7
岸边拾贝壳 楼主
回复8楼：
把矩阵稍微变换几下就得考虑这么多问题，情何以堪[]
2011年09月13日 02点09分 10
level 14
灌水四人组之蛋
即便是奇异的系数矩阵，matlab都能解出来
2011年09月13日 02点09分 11
1