清官谈mysql中utf8和utf8mb4区别,请使用utf8mb4
一、簡介
? ?MySQL在5.5.3之后增加了這個utf8mb4的編碼,mb4就是most bytes 4的意思,專門用來兼容四字節(jié)的unicode。好在utf8mb4是utf8的超集,除了將編碼改為utf8mb4外不需要做其他轉(zhuǎn)換。當(dāng)然,為了節(jié)省空間,一般情況下使用utf8也就夠了。
? ?二、內(nèi)容描述
? ?那上面說了既然utf8能夠存下大部分中文漢字,那為什么還要使用utf8mb4呢? 原來mysql支持的 utf8 編碼最大字符長度為 3 字節(jié),如果遇到 4 字節(jié)的寬字符就會插入異常了。三個字節(jié)的 UTF-8 最大能編碼的 Unicode 字符是 0xffff,也就是 Unicode 中的基本多文種平面(BMP)。也就是說,任何不在基本多文本平面的 Unicode字符,都無法使用 Mysql 的 utf8 字符集存儲。包括 Emoji 表情(Emoji 是一種特殊的 Unicode 編碼,常見于 ios 和 android 手機上),和很多不常用的漢字,以及任何新增的 Unicode 字符等等。
? ?三、問題根源
? ?最初的 UTF-8 格式使用一至六個字節(jié),最大能編碼 31 位字符。最新的 UTF-8 規(guī)范只使用一到四個字節(jié),最大能編碼21位,正好能夠表示所有的 17個 Unicode 平面。
? ?utf8 是 Mysql 中的一種字符集,只支持最長三個字節(jié)的 UTF-8字符,也就是 Unicode 中的基本多文本平面。
? ?Mysql 中的 utf8 為什么只支持持最長三個字節(jié)的 UTF-8字符呢?我想了一下,可能是因為 Mysql 剛開始開發(fā)那會,Unicode 還沒有輔助平面這一說呢。那時候,Unicode 委員會還做著 “65535 個字符足夠全世界用了”的美夢。Mysql 中的字符串長度算的是字符數(shù)而非字節(jié)數(shù),對于 CHAR 數(shù)據(jù)類型來說,需要為字符串保留足夠的長。當(dāng)使用 utf8 字符集時,需要保留的長度就是 utf8 最長字符長度乘以字符串長度,所以這里理所當(dāng)然的限制了 utf8 最大長度為 3,比如 CHAR(100) ?Mysql 會保留 300字節(jié)長度。至于后續(xù)的版本為什么不對 4 字節(jié)長度的 UTF-8 字符提供支持,我想一個是為了向后兼容性的考慮,還有就是基本多文種平面之外的字符確實很少用到。
? ?要在 Mysql 中保存 4 字節(jié)長度的 UTF-8 字符,需要使用 utf8mb4 字符集,但只有 5.5.3 版本以后的才支持(查看版本: select version();)。我覺得,為了獲取更好的兼容性,應(yīng)該總是使用 utf8mb4 而非 utf8. ?對于 CHAR 類型數(shù)據(jù),utf8mb4 會多消耗一些空間,根據(jù) Mysql 官方建議,使用 VARCHAR ?替代 CHAR。
?
問題的癥結(jié)在于,MySQL的“utf8”實際上不是真正的UTF-8。
?
“utf8”只支持每個字符最多三個字節(jié),而真正的UTF-8是每個字符最多四個字節(jié)。
MySQL一直沒有修復(fù)這個bug,他們在2010年發(fā)布了一個叫作“utf8mb4”的字符集,繞過了這個問題。
?
當(dāng)然,他們并沒有對新的字符集廣而告之(可能是因為這個bug讓他們覺得很尷尬),以致于現(xiàn)在網(wǎng)絡(luò)上仍然在建議開發(fā)者使用“utf8”,但這些建議都是錯誤的。
簡單概括如下:
1.MySQL的“utf8mb4”是真正的“UTF-8”。
2.MySQL的“utf8”是一種“專屬的編碼”,它能夠編碼的Unicode字符并不多。
題外:
我們都知道,計算機使用0和1來存儲文本。比如字符“C”被存成“01000011”,那么計算機在顯示這個字符時需要經(jīng)過兩個步驟:
1、計算機讀取“01000011”,得到數(shù)字67,因為67被編碼成“01000011”。
2、計算機在Unicode字符集中查找67,找到了“C”。
同樣的:
1、我的電腦將“C”映射成Unicode字符集中的67。
2、我的電腦將67編碼成“01000011”,并發(fā)送給Web服務(wù)器。
幾乎所有的網(wǎng)絡(luò)應(yīng)用都使用了Unicode字符集,因為沒有理由使用其他字符集。
Unicode字符集包含了上百萬個字符。最簡單的編碼是UTF-32,每個字符使用32位。這樣做最簡單,因為一直以來,計算機將32位視為數(shù)字,而計算機最在行的就是處理數(shù)字。但問題是,這樣太浪費空間了。
UTF-8可以節(jié)省空間,在UTF-8中,字符“C”只需要8位,一些不常用的字符,比如“”需要32位。其他的字符可能使用16位或24位。一篇類似本文這樣的文章,如果使用UTF-8編碼,占用的空間只有UTF-32的四分之一左右。
MySQL的“utf8”字符集與其他程序不兼容,它所謂的“”,可能真的是一坨……
MySQL簡史
?
為什么MySQL開發(fā)者會讓“utf8”失效?我們或許可以從提交日志中尋找答案。
?
MySQL從4.1版本開始支持UTF-8,也就是2003年,而今天使用的UTF-8標(biāo)準(zhǔn)(RFC?3629)是隨后才出現(xiàn)的。
?
舊版的UTF-8標(biāo)準(zhǔn)(RFC?2279)最多支持每個字符6個字節(jié)。2002年3月28日,MySQL開發(fā)者在第一個MySQL?4.1預(yù)覽版中使用了RFC?2279。
?
同年9月,他們對MySQL源代碼進行了一次調(diào)整:“UTF8現(xiàn)在最多只支持3個字節(jié)的序列”。
?
是誰提交了這些代碼?他為什么要這樣做?這個問題不得而知。在遷移到Git后(MySQL最開始使用的是BitKeeper),MySQL代碼庫中的很多提交者的名字都丟失了。2003年9月的郵件列表中也找不到可以解釋這一變更的線索。
?
不過我可以試著猜測一下。
?
2002年,MySQL做出了一個決定:如果用戶可以保證數(shù)據(jù)表的每一行都使用相同的字節(jié)數(shù),那么MySQL就可以在性能方面來一個大提升。為此,用戶需要將文本列定義為“CHAR”,每個“CHAR”列總是擁有相同數(shù)量的字符。如果插入的字符少于定義的數(shù)量,MySQL就會在后面填充空格,如果插入的字符超過了定義的數(shù)量,后面超出部分會被截斷。
?
MySQL開發(fā)者在最開始嘗試UTF-8時使用了每個字符6個字節(jié),CHAR(1)使用6個字節(jié),CHAR(2)使用12個字節(jié),并以此類推。
?
應(yīng)該說,他們最初的行為才是正確的,可惜這一版本一直沒有發(fā)布。但是文檔上卻這么寫了,而且廣為流傳,所有了解UTF-8的人都認(rèn)同文檔里寫的東西。
不過很顯然,MySQL開發(fā)者或廠商擔(dān)心會有用戶做這兩件事:
?
1、使用CHAR定義列(在現(xiàn)在看來,CHAR已經(jīng)是老古董了,但在那時,在MySQL中使用CHAR會更快,不過從2005年以后就不是這樣子了)。
?
2、將CHAR列的編碼設(shè)置為“utf8”。
?
我的猜測是MySQL開發(fā)者本來想幫助那些希望在空間和速度上雙贏的用戶,但他們搞砸了“utf8”編碼。
?
所以結(jié)果就是沒有贏家。那些希望在空間和速度上雙贏的用戶,當(dāng)他們在使用“utf8”的CHAR列時,實際上使用的空間比預(yù)期的更大,速度也比預(yù)期的慢。而想要正確性的用戶,當(dāng)他們使用“utf8”編碼時,卻無法保存像“”這樣的字符。
?
在這個不合法的字符集發(fā)布了之后,MySQL就無法修復(fù)它,因為這樣需要要求所有用戶重新構(gòu)建他們的數(shù)據(jù)庫。最終,MySQL在2010年重新發(fā)布了“utf8mb4”來支持真正的UTF-8。
?
為什么這件事情會讓人如此抓狂
?
因為這個問題,我整整抓狂了一個禮拜。我被“utf8”愚弄了,花了很多時間才找到這個bug。但我一定不是唯一的一個,網(wǎng)絡(luò)上幾乎所有的文章都把“utf8”當(dāng)成是真正的UTF-8。
?
“utf8”只能算是個專有的字符集,它給我們帶來了新問題,卻一直沒有得到解決。
?
總結(jié)
以上是生活随笔為你收集整理的清官谈mysql中utf8和utf8mb4区别,请使用utf8mb4的全部內(nèi)容,希望文章能夠幫你解決所遇到的問題。
- 上一篇: 汽车gps灯亮着怎么关闭?
- 下一篇: 点阵激光间隔多久做一次?