定点c程序之五:定点数的字长效应
生活随笔
收集整理的這篇文章主要介紹了
定点c程序之五:定点数的字长效应
小編覺得挺不錯的,現在分享給大家,幫大家做個參考.
由于定點數的字長效應,其數值表示的動態范圍較小,在運算過程中需要進行: 飽和處理(Saturation) 當運算(如累加、乘法等)超出最大、最小范圍時,將超出最大值的數置為最大能表示的數值(如MAX16、MAX32等);將小于最小值的數表示為最小能表示的數值(如MIN16、MIN32等)。
在累加和乘運算中,結果往往會超出原操作數的字長。例如,兩個16位的數相乘得到的是32位的乘積,而結果保存只希望高16比特被存儲,即將累加器中的高16比特數存儲到普通存儲單元,這時,需要對低位比特進行處理:
截尾處理 直接丟棄低16比特。簡單,但誤差較大; 四舍五入處理(Rounding) X+0.5,然后做截尾處理 歸一化處理 通常對定標浮點數每做一次變化都要重新進行歸一化,歸一化是為了使其尾數的絕對值在16384~32767之間,從而保證最大的精度。有的DSP處理器提供歸一化的指令,能在單指令周期內完成累加器中數值的歸一化,一般是norm指令。轉載于:https://www.cnblogs.com/c6000/archive/2010/08/22/1806044.html
總結
以上是生活随笔為你收集整理的定点c程序之五:定点数的字长效应的全部內容,希望文章能夠幫你解決所遇到的問題。
- 上一篇: 多表连接的三种方式详解 HASH JOI
- 下一篇: 鞭策你一辈子的好文章