关于定点机中的比例因子
生活随笔
收集整理的這篇文章主要介紹了
关于定点机中的比例因子
小編覺得挺不錯的,現在分享給大家,幫大家做個參考.
???????計算機采用定點數表示時,對于既有整數又有小數的原始數據,需要設定一個比例因子,數據按比例因子縮小成定點小數或擴大成定點整數再參加運算,結果輸出時再按比例折算成實際值。
比例因子必須選擇恰當。選擇不當,將會影響運算精度,或者會使運算結果超出機器所能表示的數據范圍,即出現溢出。
【例題】在定點小數機器中計算 11.01+10.01 選擇比例因子2-2=0.01,可將兩操作數變換為0.1101+0.1001 但 0.1101+0.1001=1.0110,運算結果不是純小數,出現了機器數不能表示的數,
即出現了正溢出。 如果選擇比例因子 2-3=0.001,可將兩操作數變換為 0.01101+0.01001 則運算結果 0.01101+0.01001=0.10110 為正常結果。將0.10110除以比例因子2-3,可得到正確結果 101.10
轉載:定點數中的比例因子
總結
以上是生活随笔為你收集整理的关于定点机中的比例因子的全部內容,希望文章能夠幫你解決所遇到的問題。
- 上一篇: 为啥八位的计算机可以用补码表示-128
- 下一篇: 报错“Error running ‘To