深入理解 MySQL 索引底层原理
hi ，大家好，今天分享MySQL硬核知識，希望大家可以學習到真正的知識，慢慢積累，厚積薄發：
看完本文可以學到什么
?一步一步推導出 Mysql 索引的底層數據結構
?怎么分析回答技術選型問題
一步一步推導出 Mysql 索引的底層數據結構。
Mysql 作為互聯網中非常熱門的數據庫，其底層的存儲引擎和數據檢索引擎的設計非常重要，尤其是 Mysql 數據的存儲形式以及索引的設計，決定了 Mysql 整體的數據檢索性能。
我們知道，索引的作用是做數據的快速檢索，而快速檢索的實現的本質是數據結構。通過不同數據結構的選擇，實現各種數據快速檢索。在數據庫中，高效的查找算法是非常重要的，因為數據庫中存儲了大量數據，一個高效的索引能節省巨大的時間。比如下面這個數據表，如果 Mysql 沒有實現索引算法，那么查找 id=7 這個數據，那么只能采取暴力順序遍歷查找，找到 id=7 這個數據需要比較 7 次，如果這個表存儲的是 1000W 個數據，查找 id=1000W 這個數據那就要比較 1000W 次，這種速度是不能接受的。
Mysql 索引底層數據結構選型
哈希表（Hash）
哈希表是做數據快速檢索的有效利器。
哈希算法：也叫散列算法，就是把任意值(key)通過哈希函數變換為固定長度的 key 地址，通過這個地址進行具體數據的數據結構。
考慮這個數據庫表 user，表中一共有 7 個數據，我們需要檢索 id=7 的數據，SQL 語法是：
select \* from user where id=7;哈希算法首先計算存儲 id=7 的數據的物理地址 addr=hash(7)=4231，而 4231 映射的物理地址是 0x77，0x77 就是 id=7 存儲的額數據的物理地址，通過該獨立地址可以找到對應 user_name='g'這個數據。這就是哈希算法快速檢索數據的計算過程。
但是哈希算法有個數據碰撞的問題，也就是哈希函數可能對不同的 key 會計算出同一個結果，比如 hash(7)可能跟 hash(199)計算出來的結果一樣，也就是不同的 key 映射到同一個結果了，這就是碰撞問題。解決碰撞問題的一個常見處理方式就是鏈地址法，即用鏈表把碰撞的數據接連起來。計算哈希值之后，還需要檢查該哈希值是否存在碰撞數據鏈表，有則一直遍歷到鏈表尾，直達找到真正的 key 對應的數據為止。
從算法時間復雜度分析來看，哈希算法時間復雜度為 O（1），檢索速度非?？?。比如查找 id=7 的數據，哈希索引只需要計算一次就可以獲取到對應的數據，檢索速度非?？臁５?Mysql 并沒有采取哈希作為其底層算法，這是為什么呢？
因為考慮到數據檢索有一個常用手段就是范圍查找，比如以下這個 SQL 語句：
select \* from user where id \>3;針對以上這個語句，我們希望做的是找出 id>3 的數據，這是很典型的范圍查找。如果使用哈希算法實現的索引，范圍查找怎么做呢？一個簡單的思路就是一次把所有數據找出來加載到內存，然后再在內存里篩選篩選目標范圍內的數據。但是這個范圍查找的方法也太笨重了，沒有一點效率而言。
所以，使用哈希算法實現的索引雖然可以做到快速檢索數據，但是沒辦法做數據高效范圍查找，因此哈希索引是不適合作為 Mysql 的底層索引的數據結構。
二叉查找樹(BST)
二叉查找樹是一種支持數據快速查找的數據結構，如圖下所示:
二叉查找樹的時間復雜度是 O(lgn)，比如針對上面這個二叉樹結構，我們需要計算比較 3 次就可以檢索到 id=7 的數據，相對于直接遍歷查詢省了一半的時間，從檢索效率上看來是能做到高速檢索的。此外二叉樹的結構能不能解決哈希索引不能提供的范圍查找功能呢？
答案是可以的。觀察上面的圖，二叉樹的葉子節點都是按序排列的，從左到右依次升序排列，如果我們需要找 id>5 的數據，那我們取出節點為 6 的節點以及其右子樹就可以了，范圍查找也算是比較容易實現。
但是普通的二叉查找樹有個致命缺點：極端情況下會退化為線性鏈表，二分查找也會退化為遍歷查找，時間復雜退化為 O（N），檢索性能急劇下降。比如以下這個情況，二叉樹已經極度不平衡了，已經退化為鏈表了，檢索速度大大降低。此時檢索 id=7 的數據的所需要計算的次數已經變為 7 了。
在數據庫中，數據的自增是一個很常見的形式，比如一個表的主鍵是 id，而主鍵一般默認都是自增的，如果采取二叉樹這種數據結構作為索引，那上面介紹到的不平衡狀態導致的線性查找的問題必然出現。因此，簡單的二叉查找樹存在不平衡導致的檢索性能降低的問題，是不能直接用于實現 Mysql 底層索引的。
AVL 樹和紅黑樹
二叉查找樹存在不平衡問題，因此學者提出通過樹節點的自動旋轉和調整，讓二叉樹始終保持基本平衡的狀態，就能保持二叉查找樹的最佳查找性能了?；谶@種思路的自調整平衡狀態的二叉樹有 AVL 樹和紅黑樹。
首先簡單介紹紅黑樹，這是一顆會自動調整樹形態的樹結構，比如當二叉樹處于一個不平衡狀態時，紅黑樹就會自動左旋右旋節點以及節點變色，調整樹的形態，使其保持基本的平衡狀態（時間復雜度為 O（logn）），也就保證了查找效率不會明顯減低。比如從 1 到 7 升序插入數據節點，如果是普通的二叉查找樹則會退化成鏈表，但是紅黑樹則會不斷調整樹的形態，使其保持基本平衡狀態，如下圖所示。下面這個紅黑樹下查找 id=7 的所要比較的節點數為 4，依然保持二叉樹不錯的查找效率。
紅黑樹擁有不錯的平均查找效率，也不存在極端的 O(n)情況，那紅黑樹作為 Mysql 底層索引實現是否可以呢？其實紅黑樹也存在一些問題，觀察下面這個例子。
紅黑樹順序插入 1~7 個節點，查找 id=7 時需要計算的節點數為 4。
紅黑樹順序插入 1~16 個節點，查找 id=16 需要比較的節點數為 6 次。觀察一下這個樹的形態，是不是當數據是順序插入時，樹的形態一直處于“右傾”的趨勢呢？從根本上上看，紅黑樹并沒有完全解決二叉查找樹雖然這個“右傾”趨勢遠沒有二叉查找樹退化為線性鏈表那么夸張，但是數據庫中的基本主鍵自增操作，主鍵一般都是數百萬數千萬的，如果紅黑樹存在這種問題，對于查找性能而言也是巨大的消耗，我們數據庫不可能忍受這種無意義的等待的。
現在考慮另一種更為嚴格的自平衡二叉樹 AVL 樹。因為 AVL 樹是個絕對平衡的二叉樹，因此他在調整二叉樹的形態上消耗的性能會更多。
AVL 樹順序插入 1~7 個節點，查找 id=7 所要比較節點的次數為 3。
AVL 樹順序插入 1~16 個節點，查找 id=16 需要比較的節點數為 4。從查找效率而言，AVL 樹查找的速度要高于紅黑樹的查找效率（AVL 樹是 4 次比較，紅黑樹是 6 次比較）。從樹的形態看來，AVL 樹不存在紅黑樹的“右傾”問題。也就是說，大量的順序插入不會導致查詢性能的降低，這從根本上解決了紅黑樹的問題。
總結一下 AVL 樹的優點：
不錯的查找性能（O（logn）），不存在極端的低效查找的情況。
可以實現范圍查找、數據排序。
看起來 AVL 樹作為數據查找的數據結構確實很不錯，但是 AVL 樹并不適合做 Mysql 數據庫的索引數據結構，因為考慮一下這個問題：
數據庫查詢數據的瓶頸在于磁盤 IO，如果使用的是 AVL 樹，我們每一個樹節點只存儲了一個數據，我們一次磁盤 IO 只能取出來一個節點上的數據加載到內存里，那比如查詢 id=7 這個數據我們就要進行磁盤 IO 三次，這是多么消耗時間的。所以我們設計數據庫索引時需要首先考慮怎么盡可能減少磁盤 IO 的次數。
磁盤 IO 有個有個特點，就是從磁盤讀取 1B 數據和 1KB 數據所消耗的時間是基本一樣的，我們就可以根據這個思路，我們可以在一個樹節點上盡可能多地存儲數據，一次磁盤 IO 就多加載點數據到內存，這就是 B 樹，B+樹的的設計原理了。
B 樹
下面這個 B 樹，每個節點限制最多存儲兩個 key，一個節點如果超過兩個 key 就會自動分裂。比如下面這個存儲了 7 個數據 B 樹，只需要查詢兩個節點就可以知道 id=7 這數據的具體位置，也就是兩次磁盤 IO 就可以查詢到指定數據，優于 AVL 樹。
下面是一個存儲了 16 個數據的 B 樹，同樣每個節點最多存儲 2 個 key，查詢 id=16 這個數據需要查詢比較 4 個節點，也就是經過 4 次磁盤 IO?？雌饋聿樵冃阅芘c AVL 樹一樣。
但是考慮到磁盤 IO 讀一個數據和讀 100 個數據消耗的時間基本一致，那我們的優化思路就可以改為：盡可能在一次磁盤 IO 中多讀一點數據到內存。這個直接反映到樹的結構就是，每個節點能存儲的 key 可以適當增加。
當我們把單個節點限制的 key 個數設置為 6 之后，一個存儲了 7 個數據的 B 樹，查詢 id=7 這個數據所要進行的磁盤 IO 為 2 次。
一個存儲了 16 個數據的 B 樹，查詢 id=7 這個數據所要進行的磁盤 IO 為 2 次。相對于 AVL 樹而言磁盤 IO 次數降低為一半。
所以數據庫索引數據結構的選型而言，B 樹是一個很不錯的選擇。總結來說，B 樹用作數據庫索引有以下優點：
優秀檢索速度，時間復雜度：B 樹的查找性能等于 O（h*logn），其中 h 為樹高，n 為每個節點關鍵詞的個數；
盡可能少的磁盤 IO，加快了檢索速度；
可以支持范圍查找。
5.B+樹
B 樹和 B+樹有什么不同呢？
第一，B 樹一個節點里存的是數據，而 B+樹存儲的是索引（地址），所以 B 樹里一個節點存不了很多個數據，但是 B+樹一個節點能存很多索引，B+樹葉子節點存所有的數據。
第二，B+樹的葉子節點是數據階段用了一個鏈表串聯起來，便于范圍查找。
通過 B 樹和 B+樹的對比我們看出，B+樹節點存儲的是索引，在單個節點存儲容量有限的情況下，單節點也能存儲大量索引，使得整個 B+樹高度降低，減少了磁盤 IO。其次，B+樹的葉子節點是真正數據存儲的地方，葉子節點用了鏈表連接起來，這個鏈表本身就是有序的，在數據范圍查找時，更具備效率。因此 Mysql 的索引用的就是 B+樹，B+樹在查找效率、范圍查找中都有著非常不錯的性能。
Innodb 引擎和 Myisam 引擎的實現
Mysql 底層數據引擎以插件形式設計，最常見的是 Innodb 引擎和 Myisam 引擎，用戶可以根據個人需求選擇不同的引擎作為 Mysql 數據表的底層引擎。我們剛分析了，B+樹作為 Mysql 的索引的數據結構非常合適，但是數據和索引到底怎么組織起來也是需要一番設計，設計理念的不同也導致了 Innodb 和 Myisam 的出現，各自呈現獨特的性能。
MyISAM 雖然數據查找性能極佳，但是不支持事務處理。Innodb 最大的特色就是支持了 ACID 兼容的事務功能，而且他支持行級鎖。Mysql 建立表的時候就可以指定引擎，比如下面的例子，就是分別指定了 Myisam 和 Innodb 作為 user 表和 user2 表的數據引擎。
執行這兩個指令后，系統出現了以下的文件，說明這兩個引擎數據和索引的組織方式是不一樣的。
Innodb 創建表后生成的文件有：
frm:創建表的語句
idb:表里面的數據+索引文件
Myisam 創建表后生成的文件有
frm:創建表的語句
MYD:表里面的數據文件（myisam data）
MYI:表里面的索引文件（myisam index）
從生成的文件看來，這兩個引擎底層數據和索引的組織方式并不一樣，MyISAM 引擎把數據和索引分開了，一人一個文件，這叫做非聚集索引方式；Innodb 引擎把數據和索引放在同一個文件里了，這叫做聚集索引方式。下面將從底層實現角度分析這兩個引擎是怎么依靠 B+樹這個數據結構來組織引擎實現的。
MyISAM 引擎的底層實現（非聚集索引方式）
MyISAM 用的是非聚集索引方式，即數據和索引落在不同的兩個文件上。MyISAM 在建表時以主鍵作為 KEY 來建立主索引 B+樹，樹的葉子節點存的是對應數據的物理地址。我們拿到這個物理地址后，就可以到 MyISAM 數據文件中直接定位到具體的數據記錄了。
當我們為某個字段添加索引時，我們同樣會生成對應字段的索引樹，該字段的索引樹的葉子節點同樣是記錄了對應數據的物理地址，然后也是拿著這個物理地址去數據文件里定位到具體的數據記錄。
Innodb 引擎的底層實現（聚集索引方式）
InnoDB 是聚集索引方式，因此數據和索引都存儲在同一個文件里。首先 InnoDB 會根據主鍵 ID 作為 KEY 建立索引 B+樹，如左下圖所示，而 B+樹的葉子節點存儲的是主鍵 ID 對應的數據，比如在執行 select * from user_info where id=15 這個語句時，InnoDB 就會查詢這顆主鍵 ID 索引 B+樹，找到對應的 user_name='Bob'。
這是建表的時候 InnoDB 就會自動建立好主鍵 ID 索引樹，這也是為什么 Mysql 在建表時要求必須指定主鍵的原因。當我們為表里某個字段加索引時 InnoDB 會怎么建立索引樹呢？比如我們要給 user_name 這個字段加索引，那么 InnoDB 就會建立 user_name 索引 B+樹，節點里存的是 user_name 這個 KEY，葉子節點存儲的數據的是主鍵 KEY。注意，葉子存儲的是主鍵 KEY！拿到主鍵 KEY 后，InnoDB 才會去主鍵索引樹里根據剛在 user_name 索引樹找到的主鍵 KEY 查找到對應的數據。
問題來了，為什么 InnoDB 只在主鍵索引樹的葉子節點存儲了具體數據，但是其他索引樹卻不存具體數據呢，而要多此一舉先找到主鍵，再在主鍵索引樹找到對應的數據呢?
其實很簡單，因為 InnoDB 需要節省存儲空間。一個表里可能有很多個索引，InnoDB 都會給每個加了索引的字段生成索引樹，如果每個字段的索引樹都存儲了具體數據，那么這個表的索引數據文件就變得非常巨大（數據極度冗余了）。從節約磁盤空間的角度來說，真的沒有必要每個字段索引樹都存具體數據，通過這種看似“多此一舉”的步驟，在犧牲較少查詢的性能下節省了巨大的磁盤空間，這是非常有值得的。
在進行 InnoDB 和 MyISAM 特點對比時談到，MyISAM 查詢性能更好，從上面索引文件數據文件的設計來看也可以看出原因：MyISAM 直接找到物理地址后就可以直接定位到數據記錄，但是 InnoDB 查詢到葉子節點后，還需要再查詢一次主鍵索引樹，才可以定位到具體數據。等于 MyISAM 一步就查到了數據，但是 InnoDB 要兩步，那當然 MyISAM 查詢性能更高。
本文首先探討了哪種數據結構更適合作為 Mysql 底層索引的實現，然后再介紹了 Mysql 兩種經典數據引擎 MyISAM 和 InnoDB 的底層實現。最后再總結一下什么時候需要給你的表里的字段加索引吧：
較頻繁的作為查詢條件的字段應該創建索引；
唯一性太差的字段不適合單獨創建索引，即使該字段頻繁作為查詢條件；
更新非常頻繁的字段不適合創建索引。
- END -
看完一鍵三連在看，轉發，點贊
是對文章最大的贊賞，極客重生感謝你
推薦閱讀
深入理解數據結構和算法
深入理解Kafka的設計思想
如何成為技術大神
總結
以上是生活随笔為你收集整理的深入理解 MySQL 索引底层原理的全部內容，希望文章能夠幫你解決所遇到的問題。
