3-2.6==0.4
生活随笔
收集整理的這篇文章主要介紹了
3-2.6==0.4
小編覺得挺不錯的,現在分享給大家,幫大家做個參考.
這里考察的就是浮點數計算會出現精度缺失的問題
在浮點數計算里面,其實,3-2.6=0.399999999999999,
那這個時候應該怎么辦呢?
我知道兩個辦法
1,使用java自帶的BigDecimal,這個是不可變的,任意精度的整數,這個能夠使結果精確
2,將浮點數乘以倍數之后變成整數計算,最后再除
轉載于:https://www.cnblogs.com/shiwanming/p/9789306.html
總結
以上是生活随笔為你收集整理的3-2.6==0.4的全部內容,希望文章能夠幫你解決所遇到的問題。
- 上一篇: 设计模式学习---策略模式
- 下一篇: 获取某个view的高度或者宽度