日韩av黄I国产麻豆传媒I国产91av视频在线观看I日韩一区二区三区在线看I美女国产在线I麻豆视频国产在线观看I成人黄色短片

歡迎訪問 生活随笔!

生活随笔

當(dāng)前位置: 首頁 >

老板,用float存储金额为什么要扣我工资

發(fā)布時間:2025/3/20 37 豆豆
生活随笔 收集整理的這篇文章主要介紹了 老板,用float存储金额为什么要扣我工资 小編覺得挺不錯的,現(xiàn)在分享給大家,幫大家做個參考.
點擊上方?好好學(xué)java?,選擇?星標(biāo)?公眾號重磅資訊,干貨,第一時間送達今日推薦:分享一套基于SpringBoot和Vue的企業(yè)級中后臺開源項目,這個項目有點哇塞!個人原創(chuàng)100W +訪問量博客:點擊前往,查看更多

背景

公司最近在做交易系統(tǒng),交易系統(tǒng)肯定是要和錢打交道的,和錢有關(guān),自然而然很容易想到用float存儲,但是使用float存儲金額做的計算是近似計算。

老板:?用float做計算造成公司損失的錢都往你工資里扣

哼,扣工資就扣工資。但還是得靜下心來想想為什么不能用float

為什么不能使用float存儲金額

首先看個例子:FloatTest.java

public?class?FloatTest?{public?static?void?main(String[]?args)?{float?f1?=?6.6f;float?f2?=?1.3f;System.out.println(f1?+?f2);} }

結(jié)果:7.8999996 和自己口算的值竟然不一樣

計算機只認識0?和?1,所有類型的計算首先會轉(zhuǎn)化為二進制的計算

從計算機二進制角度計算 6.6 + 1.3 的過程

float底層存儲

計算是由CPU來完成的,CPU表示浮點數(shù)由三部分組成 分為三個部分,符號位(sign),指數(shù)部分(exponent)和有效部分(fraction, mantissa)。其中float總共占用32位,符號位,指數(shù)部分,有效部分各占1位,8位,23位

二進制的轉(zhuǎn)化

對于實數(shù),轉(zhuǎn)化為二進制分為兩部分,第一部分整數(shù)部分,第二部分是小數(shù)部分。整數(shù)部分計算二進制大家都很熟悉。

整數(shù)部分的計算:6轉(zhuǎn)化為二進制

除以2

結(jié)果

小數(shù)部分




6

3

0

3

1

1

1

0

1

所以6最終的二進制為110

小數(shù)部分的計算:將小數(shù)乘以2,取整數(shù)部分作為二進制的值,然后再將小數(shù)乘以2,再取整數(shù)部分,以此往復(fù)循環(huán)

0.6 轉(zhuǎn)化為二進制

乘以2

整數(shù)部分

小數(shù)部分




1.2

1

0.2

0.4

0

0.4

0.8

0

0.8

1.6

1

0.6

1.2

1

0.2

...進入循環(huán),循環(huán)體為1001 所以0.6轉(zhuǎn)化為二進制為0.10011001... 6.6轉(zhuǎn)化為二進制為110.10011001...

規(guī)約化

通過規(guī)約化將小數(shù)轉(zhuǎn)為規(guī)約形式,類似科學(xué)計數(shù)法,就是保證小數(shù)點前面有一個有效數(shù)字。在二進制里面,就是保證整數(shù)位是一個1。110.10011001規(guī)約化為:1.1010011001*2^2

指數(shù)偏移值

指數(shù)偏移值?=?固定值?+?規(guī)約化的指數(shù)值

固定值=2^(e-1)-1,其中的e為存儲指數(shù)部分的比特位數(shù),前面提到的float為8位,所以float中規(guī)定化值為127

6.6的二進制值規(guī)約化以后為1.1010011001*2^2,指數(shù)是2,所以偏移值就是127+2=129,轉(zhuǎn)換為二進制就是10000001,

拼接6.6

6.6為正數(shù),符號位為0,指數(shù)部分為偏移值的二進制10000001。

有效部分為規(guī)約形式的小數(shù)部分,取小數(shù)的前23位即10100110011001100110011。

最后拼接到一起即?01000000110100110011001100110011。

到這里已經(jīng)大致可以知道float為什么不精確了,首先在存儲的時候就會造成精度損失了,在這里小數(shù)部分的二進制是循環(huán)的,但是仍然只能取前23位。

double造成精度損失的原因也是如此

那用什么類型存儲金額?

  • 1、使用int:數(shù)據(jù)庫存儲的是金額的分值,顯示的時候在轉(zhuǎn)化為元

  • 2、使用decimal:mysql中decimal存儲類型的使用

舉個decimal的例子

column_name??decimal(P,D);

D:代表小數(shù)點后的位數(shù)

P:有效數(shù)字數(shù)的精度,小數(shù)點也算一位

測試例子 數(shù)據(jù)表的創(chuàng)建:

?CREATE?TABLE?`test_decimal`?(`id`?int(11)?NOT?NULL,`amount`?decimal(10,2)?NOT?NULL )?ENGINE=InnoDB?DEFAULT?CHARSET=utf8mb4

對應(yīng)的DAO層代碼:TestDecimalDao.java

/***?@description?dao層*/ @Repository public?interface?TestDecimalDao?{@Select("select?*?from?test_decimal?where?id?=?#{id}")TestDecimal?getTestDecimal(int?id); }

測試類:TestDecimalDaoTest.java

/***?@description?測試類*/ public?class?TestDecimalDaoTest?extends?BaseTest?{@Resourceprivate?TestDecimalDao?testDecimalDao;@Testpublic?void?test()?{TestDecimal?testDecimal1?=?testDecimalDao.getTestDecimal(1);TestDecimal?testDecimal2?=?testDecimalDao.getTestDecimal(2);BigDecimal?result?=???testDecimal1.getAmount().add(testDecimal2.getAmount());System.out.println(result.floatValue());} }

說明:jdbcType為decimal轉(zhuǎn)化為javaType為BigDecimal

測試結(jié)果:

是符合預(yù)期的7.9

使用decimal存儲類型的缺點

  • 占用存儲空間。浮點類型在存儲同樣范圍的值時,通常比decimal使用更少的空間

  • 使用decimal計算效率不高

因為使用decimal時間和空間開銷較大,選用int作為數(shù)據(jù)庫存儲格式比較合適。

可以同時避免浮點存儲計算的不精確和decimal的缺點。

對于存儲數(shù)值較大或者保留小數(shù)較多的數(shù)字,數(shù)據(jù)庫存儲結(jié)構(gòu)可以選擇bigint。

可以同時避免?浮點?存儲計算不精準(zhǔn) 和?DECIMAL?精度計算代價高的問題

源于:juejin.cn/post/6844903732497350663

推薦文章
  • 今天給大家推薦6個Spring Boot項目,拿來就可以賺錢!

  • 分享一套基于SpringBoot和Vue的企業(yè)級中后臺開源項目,這個項目有點哇塞!

  • 圈子哥推薦一種基于Spring Boot開發(fā)OA開源產(chǎn)品,學(xué)習(xí)/搞外快都是不二選擇!

  • 硬剛一周,3W字總結(jié),一年的經(jīng)驗告訴你如何準(zhǔn)備校招!

原創(chuàng)電子書歷時整整一年總結(jié)的?Java面試+ Java入門技術(shù)學(xué)習(xí)指南,這是本人這幾年及校招的總結(jié),各種異步面試題已經(jīng)全部進行總結(jié),按照章節(jié)復(fù)習(xí)即可,已經(jīng)拿到了了大廠提供。 原創(chuàng)思維導(dǎo)圖掃碼或者微信搜?程序員的技術(shù)圈子?回復(fù)?面試?領(lǐng)取原創(chuàng)電子書和思維導(dǎo)圖。

總結(jié)

以上是生活随笔為你收集整理的老板,用float存储金额为什么要扣我工资的全部內(nèi)容,希望文章能夠幫你解決所遇到的問題。

如果覺得生活随笔網(wǎng)站內(nèi)容還不錯,歡迎將生活随笔推薦給好友。