MYSQL专题-由简到繁理解索引结构
大家可能都聽過數據庫索引,當然作為開發者來說其實大部分時間也用過索引。但是可能有的人知道索引是干什么的,但是對于索引的結構卻不是很了解。所以這篇博客我會談談對索引結構的一些知識以及分享如何從零開始一層一層向上最終理解索引結構。
我們從一個簡單的表開始,建表語句如下:
CREATE TABLE `user` (`id` INT NOT NULL,`age` INT NULL,`height` INT NULL,`weight` INT NULL,`name` VARCHAR(45) NULL,PRIMARY KEY (`id`)) ENGINE = InnoDB DEFAULT CHARACTER SET = utf8mb4;這是一條簡單的SQL,相信大家都可以理解,接下里我們往數據庫表中插入幾條數據:
INSERT INTO user(id,age,height,weight,name)VALUES(2,1,2,7,'小吉'); INSERT INTO user(id,age,height,weight,name)VALUES(5,2,1,8,'小尼'); INSERT INTO user(id,age,height,weight,name)VALUES(1,4,3,1,'小泰'); INSERT INTO user(id,age,height,weight,name)VALUES(4,1,5,2,'小美'); INSERT INTO user(id,age,height,weight,name)VALUES(3,5,6,7,'小蔡');然后查找一下數據庫中是否已經插入成功了:
可以看到,數據已經完整地放到了我們創建的user表中。但是不知道大家發現了什么沒有,好像發生了一件非常詭異的事情,我們插入的數據好像亂序了,MySQL好像悄悄的給我們按照id排了個序。為什么會出現MySQL在我們沒有顯式排序的情況下,默默幫我們排了序呢?它是在什么時候進行排序的?
頁的引入
頁的概念
在操作系統的概念中,當我們往磁盤中取數據,假設要取出的數據的大小是1KB,但是操作系統并不會只取出這1kb的數據,而是會取出4KB的數據,因為操作系統的一個頁表項的大小是4KB。那為什么我們只需要1KB的數據,但是操作系統要取出4KB的數據呢?這就涉及到一個程序局部性的概念,“一個程序在訪問了一條數據之后,在之后會有極大的可能再次訪問這條數據和訪問這條數據的相鄰數據”,所以索性直接加載4KB的數據到內存中,下次要訪問這一頁的數據時,直接從內存中找,可以減少磁盤IO次數,我們知道,磁盤IO是影響程序性能主要的因素,因為磁盤IO和內存IO的速度是不可同日而語的。
或許看完上面那一大段描述,還是有些抽象,所以我們索性回到數據庫層面中,重新理解頁的概念。拋開所有東西不談,假設還是我們剛才插入的那些數據,我們現在要找id = 5的數據,依照最原始的方式,我們一定會想到的就是——遍歷,沒錯,這也是我們剛開始學計算機的時候最常用的尋找數據的方式。那么我們就來看看,以遍歷的方式,我們找到id=5的數據,需要經歷幾次磁盤IO:
在引入頁的概念之后,MySQL會將多條數據存在一個叫“頁”的數據結構中,當MySQL讀取id=1的數據時,會將id=1數據所在的頁整頁讀到內存中,然后在內存中進行遍歷判斷,由于內存的IO速度比磁盤高很多,所以相對于磁盤IO,幾乎可以忽略不計,那么我們來看看這樣讀取數據我們需要經歷幾次磁盤IO(假設每一頁可以存4條數據):
但其實,在MySQL的InnoDb引擎中,頁的大小是16KB,是操作系統的4倍,而int類型的數據是4個字節,其它類型的數據的字節數通常也在4000字節以內,所以一頁是可以存放很多很多條數據的,而MySQL的數據正是以頁為基本單位組合而成的。
上圖就是我們目前為止所理解的頁的結構,他包含我們的多條數據,另外,MySQL的數據以頁組成,那么它有指向下一頁的指針和指向上一頁的指針。那么說到這里,其實可以回答第一個問題了,MySQL實際上就是在我們插入數據的時候,就幫我們在頁中排好了序,至于為什么要排序,這里先賣個關子,接著往下看。
上文中我們提了一個問題,為什么數據庫在插入數據時要對其進行排序呢?我們按正常順序插入數據不是也挺好的嗎?這就要涉及到一個數據庫查詢流程的問題了,無論如何,我們是絕對不會去平白無故地在插入數據時增加一個操作來讓流程復雜化的,所以插入數據時排序一定有其目的,就是優化查詢的效率。而我們不難看出,頁內部存放數據的模塊,實質上就是一個鏈表的結構,鏈表的特點也就是增刪快,查詢慢,所以優化查詢的效率是必須的。
基于單頁模式存儲的查詢流程
還是基于我們第一節中的那張頁圖來談,我們插入了五條數據,id分別是從1-5,那么假設我要找一個表中不存在的id,假設id=-1,那么現在的查詢流程就是:
如果在插入時沒有進行排序,那毋庸置疑,我們需要再繼續往下進行尋找,逐條查找直到到結尾也沒有找到這條數據,才能返回不存在這條數據。但是基于單頁模式存儲的查詢可能帶來一定的問題,在現階段我們了解的頁模式中,只有一個功能,就是在查詢某條數據的時候直接將一整頁的數據加載到內存中,以減少硬盤IO次數,從而提高性能。但是,我們也可以看到,現在的頁模式內部,實際上是采用了鏈表的結構,前一條數據指向后一條數據,本質上還是通過數據的逐條比較來取出特定的數據。那么假設,我們這一頁中有一百萬條數據,我們要查的數據正好在最后一個,那么我們是不是一定要從前往后找到這一條數據呢?如果是這樣,我們需要查找的次數就達到了一百萬次,即使是在內存中查找,這個效率也是不高的。那么有什么辦法來優化這種情況下的查找效率呢?
頁目錄的引入
頁目錄概念
我們可以打個比方,我們在看書的時候,如果要找到某一節,而這一節我們并不知道在哪一頁,我們是不是就要從前往后,一節一節地去尋找我們需要的內容的頁碼呢?答案是否定的,因為在書的前面,存在目錄,它會告訴你這一節在哪一頁,例如,第一節在第1頁、第二節在第13頁。在數據庫的頁中,實際上也使用了這種目錄的結構,這就是頁目錄。引入頁目錄之后,我們所理解的頁結構,就變成了這樣:
分析一下這張圖,實際上頁目錄就像是我們在看書的時候書本的目錄一樣,目錄項1就相當于第一節,目錄項2就相當于第二節,而每一條數據就相當于書本的每一頁,這張圖就可以解釋成,第一節從第一頁開始,第二節從第三頁開始,而實際上,每個目錄項會存放自己這個目錄項當中最小的id,也就是說,目錄項1中會存放1,而目錄項2會存放3。對比一下數據庫在沒有頁目錄時候的查找流程:
- 假設要查找id=3的數據,在沒有頁目錄的情況下,需要查找id=1、id=2、id=3,三次才能找到該數據;
- 有頁目錄之后,只需要先查看一下id=3存在于哪個目錄項下,然后直接通過目錄項進行數據的查找即可,如果在該目錄項下沒有找到這條數據,那么就可以直接確定這條數據不存在,這樣就大大提升了數據庫的查找效率,但是這種頁目錄的實現,首先就需要基于數據是在已經進行過排序的的場景下,才可以發揮其作用。
所以看到這里,大家應該明白第二個問題了,為什么數據庫在插入時會進行排序,這才是真正發揮排序的作用的地方。
頁的擴展
在上文中,我們基本上說明白了MySQL數據庫中頁的概念,以及它是如何基于頁來減少磁盤IO次數的,以及排序是如何優化查詢的效率的。那么我們現在再來思考第三個問題:在開頭說頁的概念的時候,我們有說過,MySQL中每一頁的大小只有16KB,不會隨著數據的插入而自動擴容,所以這16KB不可能存下我們所有的數據,那么必定會有多個頁來存儲數據,那么在多頁的情況下,MySQL中又是怎么組織這些頁的呢?
針對這個問題,我們繼續來畫出我們現在所了解的多頁的結構圖:
可以看到,在數據不斷變多的情況下,MySQL會再去開辟新的頁來存放新的數據,而每個頁都有指向下一頁的指針和指向上一頁的指針,將所有頁組織起來(這里修改了一下數據,將每一列的數據都放到了數據區中,其中第一個空格之前的代表id),第一頁中存放id為1-5的數據,第二頁存放id為6-10的數據,第三頁存放id為11-15的數據,需要注意的是在開辟新頁的時候,我們插入的數據不一定是放在新開辟的頁上,而是要進行所有頁的數據比較,來決定這條插入的數據放在哪一頁上,而完成數據插入之后,最終的多頁結構就會像上圖中畫的那樣。
多頁模式
多頁模式概述
在多頁模式下,MySQL終于可以完成多數據的存儲了,就是采用開辟新頁的方式,將多條數據放在不同的頁中,然后同樣采用鏈表的數據結構,將每一頁連接起來。那么可以思考第四個問題:多頁情況下是否對查詢效率有影響呢?針對這個問題,既然問出來了,那么答案是肯定的,多頁會對查詢效率產生一定的影響,影響主要就體現在,多頁其本質也是一個鏈表結構,只要是鏈表結構,查詢效率一定不會高。假設數據又非常多條,數據庫就會開辟非常多的新頁,而這些新頁就會像鏈表一樣連接在一起,當我們要在這么多頁中查詢某條數據時,它還是會從頭節點遍歷到存在我們要查找的那條數據所存在的頁上,我們好不容易通過頁目錄優化了頁中數據的查詢效率,現在又出現了以頁為單位的鏈表,這不是前功盡棄了嗎?
優化多頁模式
由于多頁模式會影響查詢的效率,那么肯定需要有一種方式來優化多頁模式下的查詢。相信有同學已經猜出來了,既然我們可以用頁目錄來優化頁內的數據區,那么我們也可以采取類似的方式來優化這種多頁的情況。是的,頁內數據區和多頁模式本質上都是鏈表,那么的確可以采用相同的方式來對其進行優化,它就是目錄頁。
我們對比頁內數據區,來分析如何優化多頁結構。在單頁時,我們采用了頁目錄的目錄項來指向一行數據,這條數據就是存在于這個目錄項中的最小數據,那么就可以通過頁目錄來查找所需數據。所以對于多頁結構也可以采用這種方式,使用一個目錄項來指向某一頁,而這個目錄項存放的就是這一頁中存放的最小數據的索引值。和頁目錄不同的地方在于,這種目錄管理的級別是頁,而頁目錄管理的級別是行。分析到這里,我們多頁模式的結構就會是下圖所示的這樣:
存在一個目錄頁來管理頁目錄,目錄頁中的數據存放的就是指向的那一頁中最小的數據。這里要注意的一點是:其實目錄頁的本質也是頁,普通頁中存的數據是項目數據,而目錄頁中存的數據是普通頁的地址。
假設我們要查找id=19的數據,那么按照以前的查找方式,我們需要從第一頁開始查找,發現不存在那么再到第二頁查找,一直找到第四頁才能找到id=19的數據,但是如果有了目錄頁,就可以使用id=19與目錄頁中存放的數據進行比較,發現19大于任何一條數據,于是進入id=16指向的頁進行查找,直接然后再通過頁內的頁目錄行級別的數據的查找,很快就可以找到id為19的數據了。隨著數據越來越多,這種結構的效率相對于普通的多頁模式,優勢也就越來越明顯。
相信有對MySQL比較了解的同學已經發現了,我們畫的最終的這幅圖,就是MySQL中的一種索引結構——B+樹。
頁的完整結構
說完了頁的概念和頁是如何一步一步地組合稱為B+樹的結構之后,相信大家對于頁都有了一個比較清楚的認知,所以這里就要開始說說官方概念了,基于我們上文所說的,給出一個完整的頁結構,也算是對上文中自己理解頁結構的一種補充。下圖為 Page 數據結構:
- File Header 字段用于記錄 Page 的頭信息,其中比較重要的是 FIL_PAGE_PREV 和 FIL_PAGE_NEXT 字段,通過這兩個字段,我們可以找到該頁的上一頁和下一頁,實際上所有頁通過兩個字段可以形成一條雙向鏈表。
- Page Header 字段用于記錄 Page 的狀態信息。接下來的 Infimum 和 Supremum 是兩個偽行記錄,- Infimum(下確界)記錄比該頁中任何主鍵值都要小的值,Supremum (上確界)記錄比該頁中任何主鍵值都要大的值,這個偽記錄分別構成了頁中記錄的邊界。
- User Records 中存放的是實際的數據行記錄,具體的行記錄結構將在本文的第二節中詳細介紹。Free Space 中存放的是空閑空間,被刪除的行記錄會被記錄成空閑空間。Page Directory 記錄著與二叉查找相關的信息。File Trailer 存儲用于檢測數據完整性的校驗和等數據。
本篇文章著重聊了一下關于MySQL的索引結構,從零開始慢慢構建了一個B+樹索引,希望對大家理解索引有所幫助。
猜你感興趣:
MYSQL專題-絕對實用的MYSQL優化總結
MYSQL專題-MySQL事務實現原理
MYSQL專題-MVCC多版本并發控制
MYSQL專題-MySQL三大日志binlog、redo log和undo log
更多文章請點擊:更多…
參考文章:
https://mp.weixin.qq.com/s?__biz=MzI4Njc5NjM1NQ==&mid=2247490706&idx=1&sn=d98cd10845923c2bf5d933a8fd963cb5&chksm=ebd623bedca1aaa87256f9729192d024897ba70bc38a0abc314cd59b1a1349c52ec33f1074a1&scene=21#wechat_redirect
https://www.cnblogs.com/bdsir/p/8745553.html
總結
以上是生活随笔為你收集整理的MYSQL专题-由简到繁理解索引结构的全部內容,希望文章能夠幫你解決所遇到的問題。
- 上一篇: Redis专题-缓存穿透、缓存雪崩、缓存
- 下一篇: Netty专题-(1)初识Netty