double类型计算
生活随笔
收集整理的這篇文章主要介紹了
double类型计算
小編覺得挺不錯的,現在分享給大家,幫大家做個參考.
由于double類型轉換成二進制時可能出現不能被精確的表示,導致我們在進行double類型的計算時,會出現數值不正確的情況。
解決以上問題,我們都很知道應該使用BigDecimal來處理,通常的操作是
double multi(double first, int secord) {BigDecimal firstBig = new BigDecimal(first); // 使用double類型參數構造BigDecial實例BigDecimal secondBig = new BigDecimal(second);return firstBig.multiply(secondBig).doubleValue(); }實際使用過程中貌似也都聽正常的,但是當我們計算result = multi(0.3, 3) 時會發現,result!=0.9,而是0.89999....
Why!!?
此時查看BigDecimal(double)構造函數的注釋:
即當我們使用double類型作為構造函數的參數時,所生成的BigDecimal實例的值與double類型是一直的!如注釋中所說,此時0.1的實際值并非是0.1!
按照注釋中的推薦,為了在構造BigDecimal實例時,所得到的值就是我們所傳進去的參數的值,我們改用BigDecimal(String)作為構造函數。
修改以上代碼如下:
double multi(double first, int secord) {BigDecimal firstBig = new BigDecimal(Double.toString(first)); // 使用String類型參數構造BigDecial實例BigDecimal secondBig = new BigDecimal(Double.toString(second));return firstBig.multiply(secondBig).doubleValue(); }此時進行計算result = multi(0.3, 3) 所得的結果result就為0.9了
轉載于:https://www.cnblogs.com/ivan-aldrich/p/5522378.html
總結
以上是生活随笔為你收集整理的double类型计算的全部內容,希望文章能夠幫你解決所遇到的問題。
- 上一篇: flex datagrid 导出csv
- 下一篇: 5.2jquery案例2