〖浮点数的精度控制问题〗

浮点数的精度控制问题

我们在教科书上经常看到，想判断两个浮点数是否相等，往往不能直接用 == 判断。这是因为浮点数的运算经常有误差，导致结果有细小的误差，在判断相等时需要忽略这些误差。比如判断 a==b 经常被写作 fabs(a-b)<0.00001 这样的形式。

其实，这里可以用更高效率的方式，即直接降低精度，只需要做一个 & 操作就可以了。

比如想对 double f 降低精度，只需要做 *((__int64*)&f)&=~0xf; 0xf 是可调整的，这一句就是把底数最后几位清为 0 而已。

x86 用的浮点数是 IEEE 754 标准.

一个 double 有 64 bit. 最高一个 bit 是符号位. (浮点数的正负不是用补码表示的) 低 52 [0,51] bits 是底数, 所有的浮点数都是 1.xxxxxx * 2^n 表示的. 这个 xxxxx 就是底数.1 是省略不写的.

[52,62] 表示的这个 n, 也就是指数. 这个 n 有 11 bits, 是用移码表示的. 为什么用移码？因为最终想用 8 字节的 0 表示浮点数的 0. 而且可以直接用整数的大小比较, 比较浮点数. 11 bits 的 0 表示的是负无穷, 0 其实是用 1*2^(-无穷大) 表示出来的。

名字: 自动排版密码:

回复 | (412) | 云风 | 2004-07-17 01:49:15

吖恶俗牙色阿欢欢 - 回复 | (1980) | 好人和坏人大河人云亦 | 2008-06-06 03:12:20
```
我觉得降低精度的方法有问题。
二进制数：
1.00000 和 0.11111比较
	『More Lines』
```
- 回复 | (962) | kaikai | 2006-02-14 09:39:59
- 有什么问题呢? 1.00000 和 0.11111 不应该不同吗? - 回复 | (963) | 云风 | 2006-02-14 12:49:30
  - ```
  因为用降低精度的方法，可以使得1.00000和1.00001比较的结果是相等，但却不能使得相差一样多的1.00000和0.11111比较的结果是相等。
```
  - 回复 | (964) | kaikai | 2006-02-14 01:59:58
  - 我明白你的意思了。不过这种情况出现的几率很小，而且并不影响使用，只是不对等而已, 不会引起bug。相比较 fabs(a-b)<0.0001 这种方案，并没有坏到哪去。
    如果需要更严格的检查，我想两个方案都需要改进，做更复杂的运算。 - 回复 | (965) | 云风 | 2006-02-14 02:18:27
    - 我觉得你给的链接里提供的Comparing with epsilon – relative error这个方法还是不错的。刚刚好浮点数本身的误差也是相对误差。 - 回复 | (966) | kaikai | 2006-02-14 02:31:39
如果有人对浮点数比较的问题有兴趣, 这里给个参考链接 :) 当然如上面我的一个回帖所说, 我的原意倒并非讨论浮点数比较的.
http://www.cygnus-software.com/papers/comparingfloats/comparingfloats.htm - 回复 | (415) | 云风 | 2004-07-18 12:53:15
对于一个除了奔腾之外其它什么硬件都不用的程序员来说，这种说法是傻不啦叽。
你自己也知道，对于奔腾系列来说 fabs(a-b)<0.00001 语句最终汇编� 『More』 - 回复 | (413) | BenevolentLiao | 2004-07-17 05:49:53
- fabs(a-b)<0.00001 这种方法其实是很不负责任的. 今年我在 GDC2005 上听了一个session 就是关于浮点运算的 robust.
  0.00001 在任何地方都可以用的吗? 当 a 本� 『More』 - 回复 | (632) | 云风 | 2005-03-15 12:55:34
- 纠正一个错误, FCMP 的结果并不能影响标记寄存器，然后用于条件跳转。还需要做一次对 ax 的整数比较.
  & 操作只需要一条整数指令就可以完成, 不� 『More』 - 回复 | (414) | 云风 | 2004-07-18 12:34:57
  - 云风真有趣，还跟我说些“纠正你的一个错误”这样的话。古人云“曲有误，周郎顾”。弹琴时一个偶然的花音能够博得周郎的回头一笑，也算是意外� 『More』 - 回复 | (416) | BenevolentLiao | 2004-07-18 01:52:40
    - 我们公司不是几十号人. 是上千号人. 我是公司最底层程序员. 公司战略发展什么的是公司里至少比我高 3 个级别的人考虑的. - 回复 | (417) | 云风 | 2004-07-18 02:30:56
      - 一个“协助制作人”，还称自己是底层？你与丁磊之间的差距，能够比得上王进喜与毛泽东之间的差距大吗？王进喜的工作思路，曾经对整个中国的命� 『More』 - 回复 | (418) | BenevolentLiao | 2004-07-18 03:34:50