清官谈mysql中utf8和utf8mb4区别,请使用utf8mb4
一、簡介
? ?MySQL在5.5.3之后增加了這個utf8mb4的編碼,mb4就是most bytes 4的意思,專門用來兼容四字節的unicode。好在utf8mb4是utf8的超集,除了將編碼改為utf8mb4外不需要做其他轉換。當然,為了節省空間,一般情況下使用utf8也就夠了。
? ?二、內容描述
? ?那上面說了既然utf8能夠存下大部分中文漢字,那為什么還要使用utf8mb4呢? 原來mysql支持的 utf8 編碼最大字符長度為 3 字節,如果遇到 4 字節的寬字符就會插入異常了。三個字節的 UTF-8 最大能編碼的 Unicode 字符是 0xffff,也就是 Unicode 中的基本多文種平面(BMP)。也就是說,任何不在基本多文本平面的 Unicode字符,都無法使用 Mysql 的 utf8 字符集存儲。包括 Emoji 表情(Emoji 是一種特殊的 Unicode 編碼,常見于 ios 和 android 手機上),和很多不常用的漢字,以及任何新增的 Unicode 字符等等。
? ?三、問題根源
? ?最初的 UTF-8 格式使用一至六個字節,最大能編碼 31 位字符。最新的 UTF-8 規范只使用一到四個字節,最大能編碼21位,正好能夠表示所有的 17個 Unicode 平面。
? ?utf8 是 Mysql 中的一種字符集,只支持最長三個字節的 UTF-8字符,也就是 Unicode 中的基本多文本平面。
? ?Mysql 中的 utf8 為什么只支持持最長三個字節的 UTF-8字符呢?我想了一下,可能是因為 Mysql 剛開始開發那會,Unicode 還沒有輔助平面這一說呢。那時候,Unicode 委員會還做著 “65535 個字符足夠全世界用了”的美夢。Mysql 中的字符串長度算的是字符數而非字節數,對于 CHAR 數據類型來說,需要為字符串保留足夠的長。當使用 utf8 字符集時,需要保留的長度就是 utf8 最長字符長度乘以字符串長度,所以這里理所當然的限制了 utf8 最大長度為 3,比如 CHAR(100) ?Mysql 會保留 300字節長度。至于后續的版本為什么不對 4 字節長度的 UTF-8 字符提供支持,我想一個是為了向后兼容性的考慮,還有就是基本多文種平面之外的字符確實很少用到。
? ?要在 Mysql 中保存 4 字節長度的 UTF-8 字符,需要使用 utf8mb4 字符集,但只有 5.5.3 版本以后的才支持(查看版本: select version();)。我覺得,為了獲取更好的兼容性,應該總是使用 utf8mb4 而非 utf8. ?對于 CHAR 類型數據,utf8mb4 會多消耗一些空間,根據 Mysql 官方建議,使用 VARCHAR ?替代 CHAR。
?
問題的癥結在于,MySQL的“utf8”實際上不是真正的UTF-8。
?
“utf8”只支持每個字符最多三個字節,而真正的UTF-8是每個字符最多四個字節。
MySQL一直沒有修復這個bug,他們在2010年發布了一個叫作“utf8mb4”的字符集,繞過了這個問題。
?
當然,他們并沒有對新的字符集廣而告之(可能是因為這個bug讓他們覺得很尷尬),以致于現在網絡上仍然在建議開發者使用“utf8”,但這些建議都是錯誤的。
簡單概括如下:
1.MySQL的“utf8mb4”是真正的“UTF-8”。
2.MySQL的“utf8”是一種“專屬的編碼”,它能夠編碼的Unicode字符并不多。
題外:
我們都知道,計算機使用0和1來存儲文本。比如字符“C”被存成“01000011”,那么計算機在顯示這個字符時需要經過兩個步驟:
1、計算機讀取“01000011”,得到數字67,因為67被編碼成“01000011”。
2、計算機在Unicode字符集中查找67,找到了“C”。
同樣的:
1、我的電腦將“C”映射成Unicode字符集中的67。
2、我的電腦將67編碼成“01000011”,并發送給Web服務器。
幾乎所有的網絡應用都使用了Unicode字符集,因為沒有理由使用其他字符集。
Unicode字符集包含了上百萬個字符。最簡單的編碼是UTF-32,每個字符使用32位。這樣做最簡單,因為一直以來,計算機將32位視為數字,而計算機最在行的就是處理數字。但問題是,這樣太浪費空間了。
UTF-8可以節省空間,在UTF-8中,字符“C”只需要8位,一些不常用的字符,比如“”需要32位。其他的字符可能使用16位或24位。一篇類似本文這樣的文章,如果使用UTF-8編碼,占用的空間只有UTF-32的四分之一左右。
MySQL的“utf8”字符集與其他程序不兼容,它所謂的“”,可能真的是一坨……
MySQL簡史
?
為什么MySQL開發者會讓“utf8”失效?我們或許可以從提交日志中尋找答案。
?
MySQL從4.1版本開始支持UTF-8,也就是2003年,而今天使用的UTF-8標準(RFC?3629)是隨后才出現的。
?
舊版的UTF-8標準(RFC?2279)最多支持每個字符6個字節。2002年3月28日,MySQL開發者在第一個MySQL?4.1預覽版中使用了RFC?2279。
?
同年9月,他們對MySQL源代碼進行了一次調整:“UTF8現在最多只支持3個字節的序列”。
?
是誰提交了這些代碼?他為什么要這樣做?這個問題不得而知。在遷移到Git后(MySQL最開始使用的是BitKeeper),MySQL代碼庫中的很多提交者的名字都丟失了。2003年9月的郵件列表中也找不到可以解釋這一變更的線索。
?
不過我可以試著猜測一下。
?
2002年,MySQL做出了一個決定:如果用戶可以保證數據表的每一行都使用相同的字節數,那么MySQL就可以在性能方面來一個大提升。為此,用戶需要將文本列定義為“CHAR”,每個“CHAR”列總是擁有相同數量的字符。如果插入的字符少于定義的數量,MySQL就會在后面填充空格,如果插入的字符超過了定義的數量,后面超出部分會被截斷。
?
MySQL開發者在最開始嘗試UTF-8時使用了每個字符6個字節,CHAR(1)使用6個字節,CHAR(2)使用12個字節,并以此類推。
?
應該說,他們最初的行為才是正確的,可惜這一版本一直沒有發布。但是文檔上卻這么寫了,而且廣為流傳,所有了解UTF-8的人都認同文檔里寫的東西。
不過很顯然,MySQL開發者或廠商擔心會有用戶做這兩件事:
?
1、使用CHAR定義列(在現在看來,CHAR已經是老古董了,但在那時,在MySQL中使用CHAR會更快,不過從2005年以后就不是這樣子了)。
?
2、將CHAR列的編碼設置為“utf8”。
?
我的猜測是MySQL開發者本來想幫助那些希望在空間和速度上雙贏的用戶,但他們搞砸了“utf8”編碼。
?
所以結果就是沒有贏家。那些希望在空間和速度上雙贏的用戶,當他們在使用“utf8”的CHAR列時,實際上使用的空間比預期的更大,速度也比預期的慢。而想要正確性的用戶,當他們使用“utf8”編碼時,卻無法保存像“”這樣的字符。
?
在這個不合法的字符集發布了之后,MySQL就無法修復它,因為這樣需要要求所有用戶重新構建他們的數據庫。最終,MySQL在2010年重新發布了“utf8mb4”來支持真正的UTF-8。
?
為什么這件事情會讓人如此抓狂
?
因為這個問題,我整整抓狂了一個禮拜。我被“utf8”愚弄了,花了很多時間才找到這個bug。但我一定不是唯一的一個,網絡上幾乎所有的文章都把“utf8”當成是真正的UTF-8。
?
“utf8”只能算是個專有的字符集,它給我們帶來了新問題,卻一直沒有得到解決。
?
總結
以上是生活随笔為你收集整理的清官谈mysql中utf8和utf8mb4区别,请使用utf8mb4的全部內容,希望文章能夠幫你解決所遇到的問題。
- 上一篇: 汽车gps灯亮着怎么关闭?
- 下一篇: 点阵激光间隔多久做一次?