为什么用MATLAB编程求sin(π)不等于0 ?

如题所述

我理解matlab是插值计算,数值计算的精度取决于数据格式的设置,所以它没有绝对的零,只能是在某个精度下的逼近,就行迭代计算一样。
format long
1.224646799147353e-016

format short
1.2246e-016
温馨提示:内容为网友见解,仅供参考
第1个回答  2012-06-28
不管是matlab还是c语言,对于浮点数都没有绝对的相等,只是在一定程度上非常逼近于你自己的计算结果。这是由于0101机器码造成的。
第2个回答  2012-06-28
路过~
相似回答