避免浮点操作的四舍五入错误
【打印文章】
Single, Double和Extended型的浮点变量存在着四舍五入问题。举个例子,假设我们用电脑使用4位数字,那么:
1 / 3 = 0.3333
我们知道3 * 1/3 = 1,但如果我们这样:
X := 1 / 3;
X := X * 3;
if X = 1 then //结果将会不正确
为什么?因为X = 0.9999而不是1。
电脑不会有无限的小数位。从Single到Double到Extended ,浮点类型可以给你更好的精确度,但是上述的四舍五入错误依然存在。
不要再作相等比较了,我们需要确定要多精确才够。
用下面的例程实现:
var
ESBTolerance: Extended = 0.00000001; //设定所要的精确度
function SameFloat (const X1, X2: Extended): Boolean;
begin
Result := abs (X1 - X2) < ESBTolerance
end;
function FloatIsZero (const X: Extended): Boolean;
begin
Result := abs (X) < ESBTolerance
end;
function FloatIsPositive (const X: Extended): Boolean;
begin
Result := (X >= ESBTolerance);
end;
function FloatIsNegative (const X: Extended): Boolean;
begin
Result := (X <= -ESBTolerance);
end;
1 / 3 = 0.3333
我们知道3 * 1/3 = 1,但如果我们这样:
X := 1 / 3;
X := X * 3;
if X = 1 then //结果将会不正确
为什么?因为X = 0.9999而不是1。
电脑不会有无限的小数位。从Single到Double到Extended ,浮点类型可以给你更好的精确度,但是上述的四舍五入错误依然存在。
不要再作相等比较了,我们需要确定要多精确才够。
用下面的例程实现:
var
ESBTolerance: Extended = 0.00000001; //设定所要的精确度
function SameFloat (const X1, X2: Extended): Boolean;
begin
Result := abs (X1 - X2) < ESBTolerance
end;
function FloatIsZero (const X: Extended): Boolean;
begin
Result := abs (X) < ESBTolerance
end;
function FloatIsPositive (const X: Extended): Boolean;
begin
Result := (X >= ESBTolerance);
end;
function FloatIsNegative (const X: Extended): Boolean;
begin
Result := (X <= -ESBTolerance);
end;
本栏文章均来自于互联网,版权归原作者和各发布网站所有,本站收集这些文章仅供学习参考之用。任何人都不能将这些文章用于商业或者其他目的。( Pfan.cn )
【编程爱好者论坛】