2020-11-15(IEEE浮点数计算)
生活随笔
收集整理的這篇文章主要介紹了
2020-11-15(IEEE浮点数计算)
小編覺得挺不錯的,現在分享給大家,幫大家做個參考.
V=2^E*M(符號位另算)
eg:
0 0110 . 0100
s E M
f是小數位真正的值(不分規格化和規格化)
規格化數
E=e-(2^ (k-1) -1)=6-(2^(4-1)-1)=6-7=-1
e=6
k=4
M=1+f
非規格化數 eg: 0 1111 0100 | 0 0000 0100
M=f
E=1-(2^(k-1)-1)
E全為0時,只用計算尾數M就行
NaN不是一個數,浮點數對比時,查看PF,如果為1,
則其中有一個浮點數為NaN,則此比較恒為0
32位 float s=1 k=8 n=32
64位 double s=1 k=11 n=52
總結
以上是生活随笔為你收集整理的2020-11-15(IEEE浮点数计算)的全部內容,希望文章能夠幫你解決所遇到的問題。
- 上一篇: 2020-11-14(移位运算)
- 下一篇: 2020-11-15(getinstan