老板,用float存储金额为什么要扣我工资
背景
公司最近在做交易系統,交易系統肯定是要和錢打交道的,和錢有關,自然而然很容易想到用float存儲,但是使用float存儲金額做的計算是近似計算。
老板:?用float做計算造成公司損失的錢都往你工資里扣
哼,扣工資就扣工資。但還是得靜下心來想想為什么不能用float
為什么不能使用float存儲金額
首先看個例子:FloatTest.java
public?class?FloatTest?{public?static?void?main(String[]?args)?{float?f1?=?6.6f;float?f2?=?1.3f;System.out.println(f1?+?f2);} }結果:7.8999996 和自己口算的值竟然不一樣
計算機只認識0?和?1,所有類型的計算首先會轉化為二進制的計算
從計算機二進制角度計算 6.6 + 1.3 的過程
float底層存儲
計算是由CPU來完成的,CPU表示浮點數由三部分組成 分為三個部分,符號位(sign),指數部分(exponent)和有效部分(fraction, mantissa)。其中float總共占用32位,符號位,指數部分,有效部分各占1位,8位,23位
二進制的轉化
對于實數,轉化為二進制分為兩部分,第一部分整數部分,第二部分是小數部分。整數部分計算二進制大家都很熟悉。
整數部分的計算:6轉化為二進制
除以2
結果
小數部分
6 | 3 | 0 |
3 | 1 | 1 |
1 | 0 | 1 |
所以6最終的二進制為110
小數部分的計算:將小數乘以2,取整數部分作為二進制的值,然后再將小數乘以2,再取整數部分,以此往復循環
0.6 轉化為二進制
乘以2
整數部分
小數部分
1.2 | 1 | 0.2 |
0.4 | 0 | 0.4 |
0.8 | 0 | 0.8 |
1.6 | 1 | 0.6 |
1.2 | 1 | 0.2 |
...進入循環,循環體為1001 所以0.6轉化為二進制為0.10011001... 6.6轉化為二進制為110.10011001...
規約化
通過規約化將小數轉為規約形式,類似科學計數法,就是保證小數點前面有一個有效數字。在二進制里面,就是保證整數位是一個1。110.10011001規約化為:1.1010011001*2^2
指數偏移值
指數偏移值?=?固定值?+?規約化的指數值
固定值=2^(e-1)-1,其中的e為存儲指數部分的比特位數,前面提到的float為8位,所以float中規定化值為127
6.6的二進制值規約化以后為1.1010011001*2^2,指數是2,所以偏移值就是127+2=129,轉換為二進制就是10000001,
拼接6.6
6.6為正數,符號位為0,指數部分為偏移值的二進制10000001。
有效部分為規約形式的小數部分,取小數的前23位即10100110011001100110011。
最后拼接到一起即?01000000110100110011001100110011。
到這里已經大致可以知道float為什么不精確了,首先在存儲的時候就會造成精度損失了,在這里小數部分的二進制是循環的,但是仍然只能取前23位。
double造成精度損失的原因也是如此
那用什么類型存儲金額?
1、使用int:數據庫存儲的是金額的分值,顯示的時候在轉化為元
2、使用decimal:mysql中decimal存儲類型的使用
舉個decimal的例子
column_name??decimal(P,D);D:代表小數點后的位數
P:有效數字數的精度,小數點也算一位
測試例子 數據表的創建:
?CREATE?TABLE?`test_decimal`?(`id`?int(11)?NOT?NULL,`amount`?decimal(10,2)?NOT?NULL )?ENGINE=InnoDB?DEFAULT?CHARSET=utf8mb4對應的DAO層代碼:TestDecimalDao.java
/***?@description?dao層*/ @Repository public?interface?TestDecimalDao?{@Select("select?*?from?test_decimal?where?id?=?#{id}")TestDecimal?getTestDecimal(int?id); }測試類:TestDecimalDaoTest.java
/***?@description?測試類*/ public?class?TestDecimalDaoTest?extends?BaseTest?{@Resourceprivate?TestDecimalDao?testDecimalDao;@Testpublic?void?test()?{TestDecimal?testDecimal1?=?testDecimalDao.getTestDecimal(1);TestDecimal?testDecimal2?=?testDecimalDao.getTestDecimal(2);BigDecimal?result?=???testDecimal1.getAmount().add(testDecimal2.getAmount());System.out.println(result.floatValue());} }說明:jdbcType為decimal轉化為javaType為BigDecimal
測試結果:
是符合預期的7.9
使用decimal存儲類型的缺點
占用存儲空間。浮點類型在存儲同樣范圍的值時,通常比decimal使用更少的空間
使用decimal計算效率不高
因為使用decimal時間和空間開銷較大,選用int作為數據庫存儲格式比較合適。
可以同時避免浮點存儲計算的不精確和decimal的缺點。
對于存儲數值較大或者保留小數較多的數字,數據庫存儲結構可以選擇bigint。
可以同時避免?浮點?存儲計算不精準 和?DECIMAL?精度計算代價高的問題
源于:juejin.cn/post/6844903732497350663
推薦文章今天給大家推薦6個Spring Boot項目,拿來就可以賺錢!
分享一套基于SpringBoot和Vue的企業級中后臺開源項目,這個項目有點哇塞!
圈子哥推薦一種基于Spring Boot開發OA開源產品,學習/搞外快都是不二選擇!
硬剛一周,3W字總結,一年的經驗告訴你如何準備校招!
總結
以上是生活随笔為你收集整理的老板,用float存储金额为什么要扣我工资的全部內容,希望文章能夠幫你解決所遇到的問題。
- 上一篇: 这样调优:让你的 IDEA 快到飞起来,
- 下一篇: Spring 中经典的 9 种设计模式,