MySQL之锁、事务、优化、OLAP、OLTP
本節(jié)目錄
-
一 鎖的分類及特性
-
二 表級(jí)鎖定(MyISAM舉例)
-
三 行級(jí)鎖定
-
四 查看死鎖、解除鎖
-
五 事務(wù)
-
六 慢日志、執(zhí)行計(jì)劃、sql優(yōu)化
-
七 OLTP與OLAP的介紹和對(duì)比
-
八 關(guān)于autocommit的測(cè)試
?
一 鎖的分類及特性
數(shù)據(jù)庫(kù)鎖定機(jī)制簡(jiǎn)單來(lái)說(shuō),就是數(shù)據(jù)庫(kù)為了保證數(shù)據(jù)的一致性,而使各種共享資源在被并發(fā)訪問(wèn)變得有序所設(shè)計(jì)的一種規(guī)則。對(duì)于任何一種數(shù)據(jù)庫(kù)來(lái)說(shuō)都需要有相應(yīng)的鎖定機(jī)制,所以MySQL自然也不能例外。MySQL數(shù)據(jù)庫(kù)由于其自身架構(gòu)的特點(diǎn),存在多種數(shù)據(jù)存儲(chǔ)引擎,每種存儲(chǔ)引擎所針對(duì)的應(yīng)用場(chǎng)景特點(diǎn)都不太一樣,為了滿足各自特定應(yīng)用場(chǎng)景的需求,每種存儲(chǔ)引擎的鎖定機(jī)制都是為各自所面對(duì)的特定場(chǎng)景而優(yōu)化設(shè)計(jì),所以各存儲(chǔ)引擎的鎖定機(jī)制也有較大區(qū)別。MySQL各存儲(chǔ)引擎使用了三種類型(級(jí)別)的鎖定機(jī)制:表級(jí)鎖定,行級(jí)鎖定和頁(yè)級(jí)鎖定。
1.表級(jí)鎖定(table-level)
表級(jí)別的鎖定是MySQL各存儲(chǔ)引擎中最大顆粒度的鎖定機(jī)制。該鎖定機(jī)制最大的特點(diǎn)是實(shí)現(xiàn)邏輯非常簡(jiǎn)單,帶來(lái)的系統(tǒng)負(fù)面影響最小。所以獲取鎖和釋放鎖的速度很快。由于表級(jí)鎖一次會(huì)將整個(gè)表鎖定,所以可以很好的避免困擾我們的死鎖問(wèn)題。
當(dāng)然,鎖定顆粒度大所帶來(lái)最大的負(fù)面影響就是出現(xiàn)鎖定資源爭(zhēng)用的概率也會(huì)最高,致使并大度大打折扣。
使用表級(jí)鎖定的主要是MyISAM,MEMORY,CSV等一些非事務(wù)性存儲(chǔ)引擎。
2.行級(jí)鎖定(row-level)
行級(jí)鎖定最大的特點(diǎn)就是鎖定對(duì)象的顆粒度很小,也是目前各大數(shù)據(jù)庫(kù)管理軟件所實(shí)現(xiàn)的鎖定顆粒度最小的。由于鎖定顆粒度很小,所以發(fā)生鎖定資源爭(zhēng)用的概率也最小,能夠給予應(yīng)用程序盡可能大的并發(fā)處理能力而提高一些需要高并發(fā)應(yīng)用系統(tǒng)的整體性能。
雖然能夠在并發(fā)處理能力上面有較大的優(yōu)勢(shì),但是行級(jí)鎖定也因此帶來(lái)了不少弊端。由于鎖定資源的顆粒度很小,所以每次獲取鎖和釋放鎖需要做的事情也更多,帶來(lái)的消耗自然也就更大了。此外,行級(jí)鎖定也最容易發(fā)生死鎖。
使用行級(jí)鎖定的主要是InnoDB存儲(chǔ)引擎。
3.頁(yè)級(jí)鎖定(page-level)
頁(yè)級(jí)鎖定是MySQL中比較獨(dú)特的一種鎖定級(jí)別,在其他數(shù)據(jù)庫(kù)管理軟件中也并不是太常見(jiàn)。頁(yè)級(jí)鎖定的特點(diǎn)是鎖定顆粒度介于行級(jí)鎖定與表級(jí)鎖之間,所以獲取鎖定所需要的資源開(kāi)銷,以及所能提供的并發(fā)處理能力也同樣是介于上面二者之間。另外,頁(yè)級(jí)鎖定和行級(jí)鎖定一樣,會(huì)發(fā)生死鎖。
在數(shù)據(jù)庫(kù)實(shí)現(xiàn)資源鎖定的過(guò)程中,隨著鎖定資源顆粒度的減小,鎖定相同數(shù)據(jù)量的數(shù)據(jù)所需要消耗的內(nèi)存數(shù)量是越來(lái)越多的,實(shí)現(xiàn)算法也會(huì)越來(lái)越復(fù)雜。不過(guò),隨著鎖定資源顆粒度的減小,應(yīng)用程序的訪問(wèn)請(qǐng)求遇到鎖等待的可能性也會(huì)隨之降低,系統(tǒng)整體并發(fā)度也隨之提升。
使用頁(yè)級(jí)鎖定的主要是BerkeleyDB存儲(chǔ)引擎。
總的來(lái)說(shuō),MySQL這3種鎖的特性可大致歸納如下:
表級(jí)鎖:開(kāi)銷小,加鎖快;不會(huì)出現(xiàn)死鎖;鎖定粒度大,發(fā)生鎖沖突的概率最高,并發(fā)度最低;
行級(jí)鎖:開(kāi)銷大,加鎖慢;會(huì)出現(xiàn)死鎖;鎖定粒度最小,發(fā)生鎖沖突的概率最低,并發(fā)度也最高;????
頁(yè)面鎖:開(kāi)銷和加鎖時(shí)間界于表鎖和行鎖之間;會(huì)出現(xiàn)死鎖;鎖定粒度界于表鎖和行鎖之間,并發(fā)度一般。
適用:從鎖的角度來(lái)說(shuō),表級(jí)鎖更適合于以查詢?yōu)橹?#xff0c;只有少量按索引條件更新數(shù)據(jù)的應(yīng)用,如Web應(yīng)用;而行級(jí)鎖則更適合于有大量按索引條件并發(fā)更新少量不同數(shù)據(jù),同時(shí)又有并發(fā)查詢的應(yīng)用,如一些在線事務(wù)處理(OLTP)系統(tǒng)。
?
二 表級(jí)鎖定(MyISAM舉例)
由于MyISAM存儲(chǔ)引擎使用的鎖定機(jī)制完全是由MySQL提供的表級(jí)鎖定實(shí)現(xiàn),所以下面我們將以MyISAM存儲(chǔ)引擎作為示例存儲(chǔ)引擎。
1.MySQL表級(jí)鎖的鎖模式
MySQL的表級(jí)鎖有兩種模式:表共享讀鎖(Table Read Lock)和表獨(dú)占寫(xiě)鎖(Table Write Lock)。鎖模式的兼容性:
對(duì)MyISAM表的讀操作,不會(huì)阻塞其他用戶對(duì)同一表的讀請(qǐng)求,但會(huì)阻塞對(duì)同一表的寫(xiě)請(qǐng)求;
對(duì)MyISAM表的寫(xiě)操作,則會(huì)阻塞其他用戶對(duì)同一表的讀和寫(xiě)操作;
MyISAM表的讀操作與寫(xiě)操作之間,以及寫(xiě)操作之間是串行的。當(dāng)一個(gè)線程獲得對(duì)一個(gè)表的寫(xiě)鎖后,只有持有鎖的線程可以對(duì)表進(jìn)行更新操作。其他線程的讀、寫(xiě)操作都會(huì)等待,直到鎖被釋放為止。
總結(jié):表鎖,讀鎖會(huì)阻塞寫(xiě),不會(huì)阻塞讀。而寫(xiě)鎖則會(huì)把讀寫(xiě)都阻塞。
2.如何加表鎖
MyISAM在執(zhí)行查詢語(yǔ)句(SELECT)前,會(huì)自動(dòng)給涉及的所有表加讀鎖,在執(zhí)行更新操作(UPDATE、DELETE、INSERT等)前,會(huì)自動(dòng)給涉及的表加寫(xiě)鎖,這個(gè)過(guò)程并不需要用戶干預(yù),因此,用戶一般不需要直接用LOCK TABLE命令給MyISAM表顯式加鎖。
顯示加鎖:
共享讀鎖:lock table tableName read;
獨(dú)占寫(xiě)鎖:lock table tableName write;
? ? ? ? ? ? ? ? ? ? ? 同時(shí)加多鎖:lock table t1 write,t2 read;
批量解鎖:unlock tables;
3.MyISAM表鎖優(yōu)化建議
對(duì)于MyISAM存儲(chǔ)引擎,雖然使用表級(jí)鎖定在鎖定實(shí)現(xiàn)的過(guò)程中比實(shí)現(xiàn)行級(jí)鎖定或者頁(yè)級(jí)鎖所帶來(lái)的附加成本都要小,鎖定本身所消耗的資源也是最少。但是由于鎖定的顆粒度比較到,所以造成鎖定資源的爭(zhēng)用情況也會(huì)比其他的鎖定級(jí)別都要多,從而在較大程度上會(huì)降低并發(fā)處理能力。所以,在優(yōu)化MyISAM存儲(chǔ)引擎鎖定問(wèn)題的時(shí)候,最關(guān)鍵的就是如何讓其提高并發(fā)度。由于鎖定級(jí)別是不可能改變的了,所以我們首先需要盡可能讓鎖定的時(shí)間變短,然后就是讓可能并發(fā)進(jìn)行的操作盡可能的并發(fā)。
(1)查詢表級(jí)鎖爭(zhēng)用情況
MySQL內(nèi)部有兩組專門(mén)的狀態(tài)變量記錄系統(tǒng)內(nèi)部鎖資源爭(zhēng)用情況:
?
這里有兩個(gè)狀態(tài)變量記錄MySQL內(nèi)部表級(jí)鎖定的情況,兩個(gè)變量說(shuō)明如下:
Table_locks_immediate:產(chǎn)生表級(jí)鎖定的次數(shù);
Table_locks_waited:出現(xiàn)表級(jí)鎖定爭(zhēng)用而發(fā)生等待的次數(shù);此值越高則說(shuō)明存在著越嚴(yán)重的表級(jí)鎖爭(zhēng)用情況。此外,MyISAM的讀寫(xiě)鎖調(diào)度是寫(xiě)優(yōu)先,這也是MyISAM不適合做寫(xiě)為主表的存儲(chǔ)引擎。因?yàn)閷?xiě)鎖后,其他線程不能做任何操作,大量的更新會(huì)使查詢很難得到鎖,從而造成永久阻塞。
兩個(gè)狀態(tài)值都是從系統(tǒng)啟動(dòng)后開(kāi)始記錄,出現(xiàn)一次對(duì)應(yīng)的事件則數(shù)量加1。如果這里的Table_locks_waited狀態(tài)值比較高,那么說(shuō)明系統(tǒng)中表級(jí)鎖定爭(zhēng)用現(xiàn)象比較嚴(yán)重,就需要進(jìn)一步分析為什么會(huì)有較多的鎖定資源爭(zhēng)用了。
(2)縮短鎖定時(shí)間
如何讓鎖定時(shí)間盡可能的短呢?唯一的辦法就是讓我們的Query執(zhí)行時(shí)間盡可能的短。
a)盡兩減少大的復(fù)雜Query,將復(fù)雜Query分拆成幾個(gè)小的Query分布進(jìn)行;
b)盡可能的建立足夠高效的索引,讓數(shù)據(jù)檢索更迅速;
c)盡量讓MyISAM存儲(chǔ)引擎的表只存放必要的信息,控制字段類型;
d)利用合適的機(jī)會(huì)優(yōu)化MyISAM表數(shù)據(jù)文件。
(3)分離能并行的操作
說(shuō)到MyISAM的表鎖,而且是讀寫(xiě)互相阻塞的表鎖,可能有些人會(huì)認(rèn)為在MyISAM存儲(chǔ)引擎的表上就只能是完全的串行化,沒(méi)辦法再并行了。大家不要忘記了,MyISAM的存儲(chǔ)引擎還有一個(gè)非常有用的特性,那就是ConcurrentInsert(并發(fā)插入)的特性。
MyISAM存儲(chǔ)引擎有一個(gè)控制是否打開(kāi)Concurrent Insert功能的參數(shù)選項(xiàng):concurrent_insert,可以設(shè)置為0,1或者2。三個(gè)值的具體說(shuō)明如下:
concurrent_insert=2,無(wú)論MyISAM表中有沒(méi)有空洞,都允許在表尾并發(fā)插入記錄;
concurrent_insert=1,如果MyISAM表中沒(méi)有空洞(即表的中間沒(méi)有被刪除的行),MyISAM允許在一個(gè)進(jìn)程讀表的同時(shí),另一個(gè)進(jìn)程從表尾插入記錄。這也是MySQL的默認(rèn)設(shè)置;
concurrent_insert=0,不允許并發(fā)插入。
可以利用MyISAM存儲(chǔ)引擎的并發(fā)插入特性,來(lái)解決應(yīng)用中對(duì)同一表查詢和插入的鎖爭(zhēng)用。例如,將concurrent_insert系統(tǒng)變量設(shè)為2,總是允許并發(fā)插入;同時(shí),通過(guò)定期在系統(tǒng)空閑時(shí)段執(zhí)行OPTIMIZE TABLE語(yǔ)句來(lái)整理空間碎片,收回因刪除記錄而產(chǎn)生的中間空洞。
(4)合理利用讀寫(xiě)優(yōu)先級(jí)
MyISAM存儲(chǔ)引擎的是讀寫(xiě)互相阻塞的,那么,一個(gè)進(jìn)程請(qǐng)求某個(gè)MyISAM表的讀鎖,同時(shí)另一個(gè)進(jìn)程也請(qǐng)求同一表的寫(xiě)鎖,MySQL如何處理呢?
答案是寫(xiě)進(jìn)程先獲得鎖。不僅如此,即使讀請(qǐng)求先到鎖等待隊(duì)列,寫(xiě)請(qǐng)求后到,寫(xiě)鎖也會(huì)插到讀鎖請(qǐng)求之前。
這是因?yàn)镸ySQL的表級(jí)鎖定對(duì)于讀和寫(xiě)是有不同優(yōu)先級(jí)設(shè)定的,默認(rèn)情況下是寫(xiě)優(yōu)先級(jí)要大于讀優(yōu)先級(jí)。
所以,如果我們可以根據(jù)各自系統(tǒng)環(huán)境的差異決定讀與寫(xiě)的優(yōu)先級(jí):
通過(guò)執(zhí)行命令SET LOW_PRIORITY_UPDATES=1,使該連接讀比寫(xiě)的優(yōu)先級(jí)高。如果我們的系統(tǒng)是一個(gè)以讀為主,可以設(shè)置此參數(shù),如果以寫(xiě)為主,則不用設(shè)置;
通過(guò)指定INSERT、UPDATE、DELETE語(yǔ)句的LOW_PRIORITY屬性,降低該語(yǔ)句的優(yōu)先級(jí)。
雖然上面方法都是要么更新優(yōu)先,要么查詢優(yōu)先的方法,但還是可以用其來(lái)解決查詢相對(duì)重要的應(yīng)用(如用戶登錄系統(tǒng))中,讀鎖等待嚴(yán)重的問(wèn)題。
另外,MySQL也提供了一種折中的辦法來(lái)調(diào)節(jié)讀寫(xiě)沖突,即給系統(tǒng)參數(shù)max_write_lock_count設(shè)置一個(gè)合適的值,當(dāng)一個(gè)表的讀鎖達(dá)到這個(gè)值后,MySQL就暫時(shí)將寫(xiě)請(qǐng)求的優(yōu)先級(jí)降低,給讀進(jìn)程一定獲得鎖的機(jī)會(huì)。
這里還要強(qiáng)調(diào)一點(diǎn):一些需要長(zhǎng)時(shí)間運(yùn)行的查詢操作,也會(huì)使寫(xiě)進(jìn)程“餓死”,因此,應(yīng)用中應(yīng)盡量避免出現(xiàn)長(zhǎng)時(shí)間運(yùn)行的查詢操作,不要總想用一條SELECT語(yǔ)句來(lái)解決問(wèn)題,因?yàn)檫@種看似巧妙的SQL語(yǔ)句,往往比較復(fù)雜,執(zhí)行時(shí)間較長(zhǎng),在可能的情況下可以通過(guò)使用中間表等措施對(duì)SQL語(yǔ)句做一定的“分解”,使每一步查詢都能在較短時(shí)間完成,從而減少鎖沖突。如果復(fù)雜查詢不可避免,應(yīng)盡量安排在數(shù)據(jù)庫(kù)空閑時(shí)段執(zhí)行,比如一些定期統(tǒng)計(jì)可以安排在夜間執(zhí)行。
?
InnoDB默認(rèn)采用行鎖,在未使用索引字段查詢時(shí)升級(jí)為表鎖。MySQL這樣設(shè)計(jì)并不是給你挖坑。它有自己的設(shè)計(jì)目的。
即便你在條件中使用了索引字段,MySQL會(huì)根據(jù)自身的執(zhí)行計(jì)劃,考慮是否使用索引(所以explain命令中會(huì)有possible_key 和 key)。如果MySQL認(rèn)為全表掃描效率更高,它就不會(huì)使用索引,這種情況下InnoDB將使用表鎖,而不是行鎖。因此,在分析鎖沖突時(shí),別忘了檢查SQL的執(zhí)行計(jì)劃,以確認(rèn)是否真正使用了索引。關(guān)于執(zhí)行計(jì)劃
第一種情況:全表更新。事務(wù)需要更新大部分或全部數(shù)據(jù),且表又比較大。若使用行鎖,會(huì)導(dǎo)致事務(wù)執(zhí)行效率低,從而可能造成其他事務(wù)長(zhǎng)時(shí)間鎖等待和更多的鎖沖突。
第二種情況:多表級(jí)聯(lián)。事務(wù)涉及多個(gè)表,比較復(fù)雜的關(guān)聯(lián)查詢,很可能引起死鎖,造成大量事務(wù)回滾。這種情況若能一次性鎖定事務(wù)涉及的表,從而可以避免死鎖、減少數(shù)據(jù)庫(kù)因事務(wù)回滾帶來(lái)的開(kāi)銷。
?
?
三 行級(jí)鎖定
?
行級(jí)鎖定不是MySQL自己實(shí)現(xiàn)的鎖定方式,而是由其他存儲(chǔ)引擎自己所實(shí)現(xiàn)的,如廣為大家所知的InnoDB存儲(chǔ)引擎,以及MySQL的分布式存儲(chǔ)引擎NDBCluster等都是實(shí)現(xiàn)了行級(jí)鎖定。考慮到行級(jí)鎖定君由各個(gè)存儲(chǔ)引擎自行實(shí)現(xiàn),而且具體實(shí)現(xiàn)也各有差別,而InnoDB是目前事務(wù)型存儲(chǔ)引擎中使用最為廣泛的存儲(chǔ)引擎,所以這里我們就主要分析一下InnoDB的鎖定特性。
1.InnoDB鎖定模式及實(shí)現(xiàn)機(jī)制
考慮到行級(jí)鎖定君由各個(gè)存儲(chǔ)引擎自行實(shí)現(xiàn),而且具體實(shí)現(xiàn)也各有差別,而InnoDB是目前事務(wù)型存儲(chǔ)引擎中使用最為廣泛的存儲(chǔ)引擎,所以這里我們就主要分析一下InnoDB的鎖定特性。
總的來(lái)說(shuō),InnoDB的鎖定機(jī)制和Oracle數(shù)據(jù)庫(kù)有不少相似之處。InnoDB的行級(jí)鎖定同樣分為兩種類型,共享鎖和排他鎖,而在鎖定機(jī)制的實(shí)現(xiàn)過(guò)程中為了讓行級(jí)鎖定和表級(jí)鎖定共存,InnoDB也同樣使用了意向鎖(表級(jí)鎖定)的概念,也就有了意向共享鎖和意向排他鎖這兩種。
當(dāng)一個(gè)事務(wù)需要給自己需要的某個(gè)資源加鎖的時(shí)候,如果遇到一個(gè)共享鎖正鎖定著自己需要的資源的時(shí)候,自己可以再加一個(gè)共享鎖,不過(guò)不能加排他鎖。但是,如果遇到自己需要鎖定的資源已經(jīng)被一個(gè)排他鎖占有之后,則只能等待該鎖定釋放資源之后自己才能獲取鎖定資源并添加自己的鎖定。而意向鎖的作用就是當(dāng)一個(gè)事務(wù)在需要獲取資源鎖定的時(shí)候,如果遇到自己需要的資源已經(jīng)被排他鎖占用的時(shí)候,該事務(wù)可以需要鎖定行的表上面添加一個(gè)合適的意向鎖。如果自己需要一個(gè)共享鎖,那么就在表上面添加一個(gè)意向共享鎖。而如果自己需要的是某行(或者某些行)上面添加一個(gè)排他鎖的話,則先在表上面添加一個(gè)意向排他鎖。意向共享鎖可以同時(shí)并存多個(gè),但是意向排他鎖同時(shí)只能有一個(gè)存在。所以,可以說(shuō)InnoDB的鎖定模式實(shí)際上可以分為四種:共享鎖(S),排他鎖(X),意向共享鎖(IS)和意向排他鎖(IX),我們可以通過(guò)以下表格來(lái)總結(jié)上面這四種所的共存邏輯關(guān)系:
如果一個(gè)事務(wù)請(qǐng)求的鎖模式與當(dāng)前的鎖兼容,InnoDB就將請(qǐng)求的鎖授予該事務(wù);反之,如果兩者不兼容,該事務(wù)就要等待鎖釋放。
意向鎖是InnoDB自動(dòng)加的,不需用戶干預(yù)。對(duì)于UPDATE、DELETE和INSERT語(yǔ)句,InnoDB會(huì)自動(dòng)給涉及數(shù)據(jù)集加排他鎖(X);對(duì)于普通SELECT語(yǔ)句,InnoDB不會(huì)加任何鎖;事務(wù)可以通過(guò)以下語(yǔ)句顯示給記錄集加共享鎖或排他鎖。
用SELECT ... IN SHARE MODE獲得共享鎖,主要用在需要數(shù)據(jù)依存關(guān)系時(shí)來(lái)確認(rèn)某行記錄是否存在,并確保沒(méi)有人對(duì)這個(gè)記錄進(jìn)行UPDATE或者DELETE操作。
但是如果當(dāng)前事務(wù)也需要對(duì)該記錄進(jìn)行更新操作,則很有可能造成死鎖,對(duì)于鎖定行記錄后需要進(jìn)行更新操作的應(yīng)用,應(yīng)該使用SELECT... FOR UPDATE方式獲得排他鎖。
2.InnoDB行鎖實(shí)現(xiàn)方式
InnoDB行鎖是通過(guò)給索引上的索引項(xiàng)加鎖來(lái)實(shí)現(xiàn)的,只有通過(guò)索引條件檢索數(shù)據(jù),InnoDB才使用行級(jí)鎖,否則,InnoDB將使用表鎖
在實(shí)際應(yīng)用中,要特別注意InnoDB行鎖的這一特性,不然的話,可能導(dǎo)致大量的鎖沖突,從而影響并發(fā)性能。下面通過(guò)一些實(shí)際例子來(lái)加以說(shuō)明。
(1)在不通過(guò)索引條件查詢的時(shí)候,InnoDB確實(shí)使用的是表鎖,而不是行鎖。
(2)由于MySQL的行鎖是針對(duì)索引加的鎖,不是針對(duì)記錄加的鎖,所以雖然是訪問(wèn)不同行的記錄,但是如果是使用相同的索引鍵,是會(huì)出現(xiàn)鎖沖突的。
(3)當(dāng)表有多個(gè)索引的時(shí)候,不同的事務(wù)可以使用不同的索引鎖定不同的行,另外,不論是使用主鍵索引、唯一索引或普通索引,InnoDB都會(huì)使用行鎖來(lái)對(duì)數(shù)據(jù)加鎖。
(4)即便在條件中使用了索引字段,但是否使用索引來(lái)檢索數(shù)據(jù)是由MySQL通過(guò)判斷不同執(zhí)行計(jì)劃的代價(jià)來(lái)決定的,如果MySQL認(rèn)為全表掃描效率更高,比如對(duì)一些很小的表,它就不會(huì)使用索引,這種情況下InnoDB將使用表鎖,而不是行鎖。因此,在分析鎖沖突時(shí),別忘了檢查SQL的執(zhí)行計(jì)劃,以確認(rèn)是否真正使用了索引。
3.間隙鎖(Next-Key鎖)
當(dāng)我們用范圍條件而不是相等條件檢索數(shù)據(jù),并請(qǐng)求共享或排他鎖時(shí),InnoDB會(huì)給符合條件的已有數(shù)據(jù)記錄的索引項(xiàng)加鎖;
對(duì)于鍵值在條件范圍內(nèi)但并不存在的記錄,叫做“間隙(GAP)”,InnoDB也會(huì)對(duì)這個(gè)“間隙”加鎖,這種鎖機(jī)制就是所謂的間隙鎖(Next-Key鎖)。
例:
假如emp表中只有101條記錄,其empid的值分別是 1,2,...,100,101,下面的SQL:
是一個(gè)范圍條件的檢索,InnoDB不僅會(huì)對(duì)符合條件的empid值為101的記錄加鎖,也會(huì)對(duì)empid大于101(這些記錄并不存在)的“間隙”加鎖。
InnoDB使用間隙鎖的目的:
(1)防止幻讀,以滿足相關(guān)隔離級(jí)別的要求(關(guān)于事務(wù)的隔離級(jí)別)。對(duì)于上面的例子,要是不使用間隙鎖,如果其他事務(wù)插入了empid大于100的任何記錄,那么本事務(wù)如果再次執(zhí)行上述語(yǔ)句,就會(huì)發(fā)生幻讀;
(2)為了滿足其恢復(fù)和復(fù)制的需要。
很顯然,在使用范圍條件檢索并鎖定記錄時(shí),即使某些不存在的鍵值也會(huì)被無(wú)辜的鎖定,而造成在鎖定的時(shí)候無(wú)法插入鎖定鍵值范圍內(nèi)的任何數(shù)據(jù)。在某些場(chǎng)景下這可能會(huì)對(duì)性能造成很大的危害。
除了間隙鎖給InnoDB帶來(lái)性能的負(fù)面影響之外,通過(guò)索引實(shí)現(xiàn)鎖定的方式還存在其他幾個(gè)較大的性能隱患:
(1)當(dāng)Query無(wú)法利用索引的時(shí)候,InnoDB會(huì)放棄使用行級(jí)別鎖定而改用表級(jí)別的鎖定,造成并發(fā)性能的降低;
(2)當(dāng)Query使用的索引并不包含所有過(guò)濾條件的時(shí)候,數(shù)據(jù)檢索使用到的索引鍵所只想的數(shù)據(jù)可能有部分并不屬于該Query的結(jié)果集的行列,但是也會(huì)被鎖定,因?yàn)殚g隙鎖鎖定的是一個(gè)范圍,而不是具體的索引鍵;
(3)當(dāng)Query在使用索引定位數(shù)據(jù)的時(shí)候,如果使用的索引鍵一樣但訪問(wèn)的數(shù)據(jù)行不同的時(shí)候(索引只是過(guò)濾條件的一部分),一樣會(huì)被鎖定。
因此,在實(shí)際應(yīng)用開(kāi)發(fā)中,尤其是并發(fā)插入比較多的應(yīng)用,我們要盡量?jī)?yōu)化業(yè)務(wù)邏輯,盡量使用相等條件來(lái)訪問(wèn)更新數(shù)據(jù),避免使用范圍條件。
還要特別說(shuō)明的是,InnoDB除了通過(guò)范圍條件加鎖時(shí)使用間隙鎖外,如果使用相等條件請(qǐng)求給一個(gè)不存在的記錄加鎖,InnoDB也會(huì)使用間隙鎖。
4.死鎖
上文講過(guò),MyISAM表鎖是deadlock free的,這是因?yàn)镸yISAM總是一次獲得所需的全部鎖,要么全部滿足,要么等待,因此不會(huì)出現(xiàn)死鎖。但在InnoDB中,除單個(gè)SQL組成的事務(wù)外,鎖是逐步獲得的,當(dāng)兩個(gè)事務(wù)都需要獲得對(duì)方持有的排他鎖才能繼續(xù)完成事務(wù),這種循環(huán)鎖等待就是典型的死鎖。
在InnoDB的事務(wù)管理和鎖定機(jī)制中,有專門(mén)檢測(cè)死鎖的機(jī)制,會(huì)在系統(tǒng)中產(chǎn)生死鎖之后的很短時(shí)間內(nèi)就檢測(cè)到該死鎖的存在。當(dāng)InnoDB檢測(cè)到系統(tǒng)中產(chǎn)生了死鎖之后,InnoDB會(huì)通過(guò)相應(yīng)的判斷來(lái)選這產(chǎn)生死鎖的兩個(gè)事務(wù)中較小的事務(wù)來(lái)回滾,而讓另外一個(gè)較大的事務(wù)成功完成。
那InnoDB是以什么來(lái)為標(biāo)準(zhǔn)判定事務(wù)的大小的呢?MySQL官方手冊(cè)中也提到了這個(gè)問(wèn)題,實(shí)際上在InnoDB發(fā)現(xiàn)死鎖之后,會(huì)計(jì)算出兩個(gè)事務(wù)各自插入、更新或者刪除的數(shù)據(jù)量來(lái)判定兩個(gè)事務(wù)的大小。也就是說(shuō)哪個(gè)事務(wù)所改變的記錄條數(shù)越多,在死鎖中就越不會(huì)被回滾掉。
但是有一點(diǎn)需要注意的就是,當(dāng)產(chǎn)生死鎖的場(chǎng)景中涉及到不止InnoDB存儲(chǔ)引擎的時(shí)候,InnoDB是沒(méi)辦法檢測(cè)到該死鎖的,這時(shí)候就只能通過(guò)鎖定超時(shí)限制參數(shù)InnoDB_lock_wait_timeout來(lái)解決。
需要說(shuō)明的是,這個(gè)參數(shù)并不是只用來(lái)解決死鎖問(wèn)題,在并發(fā)訪問(wèn)比較高的情況下,如果大量事務(wù)因無(wú)法立即獲得所需的鎖而掛起,會(huì)占用大量計(jì)算機(jī)資源,造成嚴(yán)重性能問(wèn)題,甚至拖跨數(shù)據(jù)庫(kù)。我們通過(guò)設(shè)置合適的鎖等待超時(shí)閾值,可以避免這種情況發(fā)生。
通常來(lái)說(shuō),死鎖都是應(yīng)用設(shè)計(jì)的問(wèn)題,通過(guò)調(diào)整業(yè)務(wù)流程、數(shù)據(jù)庫(kù)對(duì)象設(shè)計(jì)、事務(wù)大小,以及訪問(wèn)數(shù)據(jù)庫(kù)的SQL語(yǔ)句,絕大部分死鎖都可以避免。下面就通過(guò)實(shí)例來(lái)介紹幾種避免死鎖的常用方法:
(1)在應(yīng)用中,如果不同的程序會(huì)并發(fā)存取多個(gè)表,應(yīng)盡量約定以相同的順序來(lái)訪問(wèn)表,這樣可以大大降低產(chǎn)生死鎖的機(jī)會(huì)。
(2)在程序以批量方式處理數(shù)據(jù)的時(shí)候,如果事先對(duì)數(shù)據(jù)排序,保證每個(gè)線程按固定的順序來(lái)處理記錄,也可以大大降低出現(xiàn)死鎖的可能。
(3)在事務(wù)中,如果要更新記錄,應(yīng)該直接申請(qǐng)足夠級(jí)別的鎖,即排他鎖,而不應(yīng)先申請(qǐng)共享鎖,更新時(shí)再申請(qǐng)排他鎖,因?yàn)楫?dāng)用戶申請(qǐng)排他鎖時(shí),其他事務(wù)可能又已經(jīng)獲得了相同記錄的共享鎖,從而造成鎖沖突,甚至死鎖。
(4)在REPEATABLE-READ隔離級(jí)別下,如果兩個(gè)線程同時(shí)對(duì)相同條件記錄用SELECT...FOR UPDATE加排他鎖,在沒(méi)有符合該條件記錄情況下,兩個(gè)線程都會(huì)加鎖成功。程序發(fā)現(xiàn)記錄尚不存在,就試圖插入一條新記錄,如果兩個(gè)線程都這么做,就會(huì)出現(xiàn)死鎖。這種情況下,將隔離級(jí)別改成READ COMMITTED,就可避免問(wèn)題。
(5)當(dāng)隔離級(jí)別為READ COMMITTED時(shí),如果兩個(gè)線程都先執(zhí)行SELECT...FOR UPDATE,判斷是否存在符合條件的記錄,如果沒(méi)有,就插入記錄。此時(shí),只有一個(gè)線程能插入成功,另一個(gè)線程會(huì)出現(xiàn)鎖等待,當(dāng)?shù)?個(gè)線程提交后,第2個(gè)線程會(huì)因主鍵重出錯(cuò),但雖然這個(gè)線程出錯(cuò)了,卻會(huì)獲得一個(gè)排他鎖。這時(shí)如果有第3個(gè)線程又來(lái)申請(qǐng)排他鎖,也會(huì)出現(xiàn)死鎖。對(duì)于這種情況,可以直接做插入操作,然后再捕獲主鍵重異常,或者在遇到主鍵重錯(cuò)誤時(shí),總是執(zhí)行ROLLBACK釋放獲得的排他鎖。
5.什么時(shí)候使用表鎖
對(duì)于InnoDB表,在絕大部分情況下都應(yīng)該使用行級(jí)鎖,因?yàn)槭聞?wù)和行鎖往往是我們之所以選擇InnoDB表的理由。但在個(gè)別特殊事務(wù)中,也可以考慮使用表級(jí)鎖:
(1)事務(wù)需要更新大部分或全部數(shù)據(jù),表又比較大,如果使用默認(rèn)的行鎖,不僅這個(gè)事務(wù)執(zhí)行效率低,而且可能造成其他事務(wù)長(zhǎng)時(shí)間鎖等待和鎖沖突,這種情況下可以考慮使用表鎖來(lái)提高該事務(wù)的執(zhí)行速度。
(2)事務(wù)涉及多個(gè)表,比較復(fù)雜,很可能引起死鎖,造成大量事務(wù)回滾。這種情況也可以考慮一次性鎖定事務(wù)涉及的表,從而避免死鎖、減少數(shù)據(jù)庫(kù)因事務(wù)回滾帶來(lái)的開(kāi)銷。
當(dāng)然,應(yīng)用中這兩種事務(wù)不能太多,否則,就應(yīng)該考慮使用MyISAM表了。
在InnoDB下,使用表鎖要注意以下兩點(diǎn)。
(1)使用LOCK TABLES雖然可以給InnoDB加表級(jí)鎖,但必須說(shuō)明的是,表鎖不是由InnoDB存儲(chǔ)引擎層管理的,而是由其上一層──MySQL Server負(fù)責(zé)的,僅當(dāng)autocommit=0(不自動(dòng)提交,默認(rèn)是自動(dòng)提交的)、InnoDB_table_locks=1(默認(rèn)設(shè)置)時(shí),InnoDB層才能知道MySQL加的表鎖,MySQL Server也才能感知InnoDB加的行鎖,這種情況下,InnoDB才能自動(dòng)識(shí)別涉及表級(jí)鎖的死鎖,否則,InnoDB將無(wú)法自動(dòng)檢測(cè)并處理這種死鎖。
(2)在用 LOCK TABLES對(duì)InnoDB表加鎖時(shí)要注意,要將AUTOCOMMIT設(shè)為0,否則MySQL不會(huì)給表加鎖;事務(wù)結(jié)束前,不要用UNLOCK TABLES釋放表鎖,因?yàn)閁NLOCK TABLES會(huì)隱含地提交事務(wù);COMMIT或ROLLBACK并不能釋放用LOCK TABLES加的表級(jí)鎖,必須用UNLOCK TABLES釋放表鎖。正確的方式見(jiàn)如下語(yǔ)句:
例如,如果需要寫(xiě)表t1并從表t讀,可以按如下做:
6.InnoDB行鎖優(yōu)化建議
InnoDB存儲(chǔ)引擎由于實(shí)現(xiàn)了行級(jí)鎖定,雖然在鎖定機(jī)制的實(shí)現(xiàn)方面所帶來(lái)的性能損耗可能比表級(jí)鎖定會(huì)要更高一些,但是在整體并發(fā)處理能力方面要遠(yuǎn)遠(yuǎn)優(yōu)于MyISAM的表級(jí)鎖定的。當(dāng)系統(tǒng)并發(fā)量較高的時(shí)候,InnoDB的整體性能和MyISAM相比就會(huì)有比較明顯的優(yōu)勢(shì)了。但是,InnoDB的行級(jí)鎖定同樣也有其脆弱的一面,當(dāng)我們使用不當(dāng)?shù)臅r(shí)候,可能會(huì)讓InnoDB的整體性能表現(xiàn)不僅不能比MyISAM高,甚至可能會(huì)更差。
(1)要想合理利用InnoDB的行級(jí)鎖定,做到揚(yáng)長(zhǎng)避短,我們必須做好以下工作:
a)盡可能讓所有的數(shù)據(jù)檢索都通過(guò)索引來(lái)完成,從而避免InnoDB因?yàn)闊o(wú)法通過(guò)索引鍵加鎖而升級(jí)為表級(jí)鎖定;
b)合理設(shè)計(jì)索引,讓InnoDB在索引鍵上面加鎖的時(shí)候盡可能準(zhǔn)確,盡可能的縮小鎖定范圍,避免造成不必要的鎖定而影響其他Query的執(zhí)行;
c)盡可能減少基于范圍的數(shù)據(jù)檢索過(guò)濾條件,避免因?yàn)殚g隙鎖帶來(lái)的負(fù)面影響而鎖定了不該鎖定的記錄;
d)盡量控制事務(wù)的大小,減少鎖定的資源量和鎖定時(shí)間長(zhǎng)度;
e)在業(yè)務(wù)環(huán)境允許的情況下,盡量使用較低級(jí)別的事務(wù)隔離,以減少M(fèi)ySQL因?yàn)閷?shí)現(xiàn)事務(wù)隔離級(jí)別所帶來(lái)的附加成本。
(2)由于InnoDB的行級(jí)鎖定和事務(wù)性,所以肯定會(huì)產(chǎn)生死鎖,下面是一些比較常用的減少死鎖產(chǎn)生概率的小建議:
a)類似業(yè)務(wù)模塊中,盡可能按照相同的訪問(wèn)順序來(lái)訪問(wèn),防止產(chǎn)生死鎖;
b)在同一個(gè)事務(wù)中,盡可能做到一次鎖定所需要的所有資源,減少死鎖產(chǎn)生概率;
c)對(duì)于非常容易產(chǎn)生死鎖的業(yè)務(wù)部分,可以嘗試使用升級(jí)鎖定顆粒度,通過(guò)表級(jí)鎖定來(lái)減少死鎖產(chǎn)生的概率。
(3)可以通過(guò)檢查InnoDB_row_lock狀態(tài)變量來(lái)分析系統(tǒng)上的行鎖的爭(zhēng)奪情況:
?
InnoDB 的行級(jí)鎖定狀態(tài)變量不僅記錄了鎖定等待次數(shù),還記錄了鎖定總時(shí)長(zhǎng),每次平均時(shí)長(zhǎng),以及最大時(shí)長(zhǎng),此外還有一個(gè)非累積狀態(tài)量顯示了當(dāng)前正在等待鎖定的等待數(shù)量。對(duì)各個(gè)狀態(tài)量的說(shuō)明如下:
InnoDB_row_lock_current_waits:當(dāng)前正在等待鎖定的數(shù)量;
InnoDB_row_lock_time:從系統(tǒng)啟動(dòng)到現(xiàn)在鎖定總時(shí)間長(zhǎng)度;
InnoDB_row_lock_time_avg:每次等待所花平均時(shí)間;
InnoDB_row_lock_time_max:從系統(tǒng)啟動(dòng)到現(xiàn)在等待最常的一次所花的時(shí)間;
InnoDB_row_lock_waits:系統(tǒng)啟動(dòng)后到現(xiàn)在總共等待的次數(shù);
對(duì)于這5個(gè)狀態(tài)變量,比較重要的主要是InnoDB_row_lock_time_avg(等待平均時(shí)長(zhǎng)),InnoDB_row_lock_waits(等待總次數(shù))以及InnoDB_row_lock_time(等待總時(shí)長(zhǎng))這三項(xiàng)。尤其是當(dāng)?shù)却螖?shù)很高,而且每次等待時(shí)長(zhǎng)也不小的時(shí)候,我們就需要分析系統(tǒng)中為什么會(huì)有如此多的等待,然后根據(jù)分析結(jié)果著手指定優(yōu)化計(jì)劃。
如果發(fā)現(xiàn)鎖爭(zhēng)用比較嚴(yán)重,如InnoDB_row_lock_waits和InnoDB_row_lock_time_avg的值比較高,還可以通過(guò)設(shè)置InnoDB Monitors 來(lái)進(jìn)一步觀察發(fā)生鎖沖突的表、數(shù)據(jù)行等,并分析鎖爭(zhēng)用的原因。
鎖沖突的表、數(shù)據(jù)行等,并分析鎖爭(zhēng)用的原因。具體方法如下:
然后就可以用下面的語(yǔ)句來(lái)進(jìn)行查看:
mysql> show engine InnoDB status;監(jiān)視器可以通過(guò)發(fā)出下列語(yǔ)句來(lái)停止查看:
mysql> drop table InnoDB_monitor;設(shè)置監(jiān)視器后,會(huì)有詳細(xì)的當(dāng)前鎖等待的信息,包括表名、鎖類型、鎖定記錄的情況等,便于進(jìn)行進(jìn)一步的分析和問(wèn)題的確定。可能會(huì)有讀者朋友問(wèn)為什么要先創(chuàng)建一個(gè)叫InnoDB_monitor的表呢?因?yàn)閯?chuàng)建該表實(shí)際上就是告訴InnoDB我們開(kāi)始要監(jiān)控他的細(xì)節(jié)狀態(tài)了,然后InnoDB就會(huì)將比較詳細(xì)的事務(wù)以及鎖定信息記錄進(jìn)入MySQL的errorlog中,以便我們后面做進(jìn)一步分析使用。打開(kāi)監(jiān)視器以后,默認(rèn)情況下每15秒會(huì)向日志中記錄監(jiān)控的內(nèi)容,如果長(zhǎng)時(shí)間打開(kāi)會(huì)導(dǎo)致.err文件變得非常的巨大,所以用戶在確認(rèn)問(wèn)題原因之后,要記得刪除監(jiān)控表以關(guān)閉監(jiān)視器,或者通過(guò)使用“--console”選項(xiàng)來(lái)啟動(dòng)服務(wù)器以關(guān)閉寫(xiě)日志文件。
?
四 查看死鎖、解除鎖
?
結(jié)合上面對(duì)表鎖和行鎖的分析情況,解除正在死鎖的狀態(tài)有兩種方法:
第一種:
1.查詢是否鎖表
show OPEN TABLES where In_use > 0;
2.查詢進(jìn)程(如果您有SUPER權(quán)限,您可以看到所有線程。否則,您只能看到您自己的線程)
show processlist
3.殺死進(jìn)程id(就是上面命令的id列)
kill id
第二種:
1.查看下在鎖的事務(wù)?
SELECT * FROM INFORMATION_SCHEMA.INNODB_TRX;
2.殺死進(jìn)程id(就是上面命令的trx_mysql_thread_id列)
kill 線程ID
例子:
查出死鎖進(jìn)程:SHOW PROCESSLIST
殺掉進(jìn)程????????? KILL 420821;
其它關(guān)于查看死鎖的命令:
1:查看當(dāng)前的事務(wù)
SELECT * FROM INFORMATION_SCHEMA.INNODB_TRX;
2:查看當(dāng)前鎖定的事務(wù)
SELECT * FROM INFORMATION_SCHEMA.INNODB_LOCKS;
3:查看當(dāng)前等鎖的事務(wù)
SELECT * FROM INFORMATION_SCHEMA.INNODB_LOCK_WAITS;
?
五 事務(wù)
1.MySQL 事務(wù)屬性
事務(wù)是由一組SQL語(yǔ)句組成的邏輯處理單元,事務(wù)具有ACID屬性。
原子性(Atomicity):事務(wù)是一個(gè)原子操作單元。在當(dāng)時(shí)原子是不可分割的最小元素,其對(duì)數(shù)據(jù)的修改,要么全部成功,要么全部都不成功。
一致性(Consistent):事務(wù)開(kāi)始到結(jié)束的時(shí)間段內(nèi),數(shù)據(jù)都必須保持一致?tīng)顟B(tài)。
隔離性(Isolation):數(shù)據(jù)庫(kù)系統(tǒng)提供一定的隔離機(jī)制,保證事務(wù)在不受外部并發(fā)操作影響的"獨(dú)立"環(huán)境執(zhí)行。
持久性(Durable):事務(wù)完成后,它對(duì)于數(shù)據(jù)的修改是永久性的,即使出現(xiàn)系統(tǒng)故障也能夠保持。
2.事務(wù)常見(jiàn)問(wèn)題
更新丟失(Lost Update)
原因:當(dāng)多個(gè)事務(wù)選擇同一行操作,并且都是基于最初選定的值,由于每個(gè)事務(wù)都不知道其他事務(wù)的存在,就會(huì)發(fā)生更新覆蓋的問(wèn)題。類比github提交沖突。
臟讀(Dirty Reads)
原因:事務(wù)A讀取了事務(wù)B已經(jīng)修改但尚未提交的數(shù)據(jù)。若事務(wù)B回滾數(shù)據(jù),事務(wù)A的數(shù)據(jù)存在不一致性的問(wèn)題。
不可重復(fù)讀(Non-Repeatable Reads)
原因:事務(wù)A第一次讀取最初數(shù)據(jù),第二次讀取事務(wù)B已經(jīng)提交的修改或刪除數(shù)據(jù)。導(dǎo)致兩次讀取數(shù)據(jù)不一致。不符合事務(wù)的隔離性。
幻讀(Phantom Reads)
原因:事務(wù)A根據(jù)相同條件第二次查詢到事務(wù)B提交的新增數(shù)據(jù),兩次數(shù)據(jù)結(jié)果集不一致。不符合事務(wù)的隔離性。
幻讀和臟讀有點(diǎn)類似
臟讀是事務(wù)B里面修改了數(shù)據(jù),
幻讀是事務(wù)B里面新增了數(shù)據(jù)。
3.事務(wù)的隔離級(jí)別
數(shù)據(jù)庫(kù)的事務(wù)隔離越嚴(yán)格,并發(fā)副作用越小,但付出的代價(jià)也就越大。這是因?yàn)槭聞?wù)隔離實(shí)質(zhì)上是將事務(wù)在一定程度上"串行"進(jìn)行,這顯然與"并發(fā)"是矛盾的。根據(jù)自己的業(yè)務(wù)邏輯,權(quán)衡能接受的最大副作用。從而平衡了"隔離" 和 "并發(fā)"的問(wèn)題。MySQL默認(rèn)隔離級(jí)別是可重復(fù)讀。
臟讀,不可重復(fù)讀,幻讀,其實(shí)都是數(shù)據(jù)庫(kù)讀一致性問(wèn)題,必須由數(shù)據(jù)庫(kù)提供一定的事務(wù)隔離機(jī)制來(lái)解決。
查看當(dāng)前數(shù)據(jù)庫(kù)的事務(wù)隔離級(jí)別:show variables like 'tx_isolation';
mysql> show variables like 'tx_isolation'; +---------------+-----------------+ | Variable_name | Value | +---------------+-----------------+ | tx_isolation | REPEATABLE-READ | +---------------+-----------------+4.事務(wù)級(jí)別的設(shè)置
1.未提交讀(READ UNCOMMITED) 解決的障礙:無(wú); 引入的問(wèn)題:臟讀set SESSION TRANSACTION ISOLATION LEVEL READ UNCOMMITTED;2.已提交讀 (READ COMMITED) 解決的障礙:臟讀; 引入的問(wèn)題:不可重復(fù)讀set SESSION TRANSACTION ISOLATION LEVEL read committed;3.可重復(fù)讀(REPEATABLE READ)解決的障礙:不可重復(fù)讀; 引入的問(wèn)題:set SESSION TRANSACTION ISOLATION LEVEL repeatable read;4.可串行化(SERIALIZABLE)解決的障礙:可重復(fù)讀; 引入的問(wèn)題:鎖全表,性能低下set SESSION TRANSACTION ISOLATION LEVEL repeatable read;?
總結(jié):
事務(wù)隔離級(jí)別為可重復(fù)讀時(shí),如果有索引(包括主鍵索引)的時(shí)候,以索引列為條件更新數(shù)據(jù),會(huì)存在間隙鎖間、行鎖、頁(yè)鎖的問(wèn)題,從而鎖住一些行;如果沒(méi)有索引,更新數(shù)據(jù)時(shí)會(huì)鎖住整張表
事務(wù)隔離級(jí)別為串行化時(shí),讀寫(xiě)數(shù)據(jù)都會(huì)鎖住整張表
隔離級(jí)別越高,越能保證數(shù)據(jù)的完整性和一致性,但是對(duì)并發(fā)性能的影響也越大,對(duì)于多數(shù)應(yīng)用程序,可以優(yōu)先考慮把數(shù)據(jù)庫(kù)系統(tǒng)的隔離級(jí)別設(shè)為Read Committed,它能夠避免臟讀取,而且具有較好的并發(fā)性能。
?5.事務(wù)保存點(diǎn),實(shí)現(xiàn)部分回滾
我們可以在mysql事務(wù)處理過(guò)程中定義保存點(diǎn)(SAVEPOINT),然后回滾到指定的保存點(diǎn)前的狀態(tài)。
定義保存點(diǎn),以及回滾到指定保存點(diǎn)前狀態(tài)的語(yǔ)法如下。
1.定義保存點(diǎn)---SAVEPOINT 保存點(diǎn)名;
2.回滾到指定保存點(diǎn)---ROLLBACK TO SAVEPOINT 保存點(diǎn)名:
1、查看user表中的數(shù)據(jù)mysql> select * from user; +-----+----------+-----+------+ | mid | name | scx | word | +-----+----------+-----+------+ | 1 | zhangsan | 0 | NULL | | 2 | wangwu | 1 | NULL | +-----+----------+-----+------+ 2 rows in set (0.05 sec) 2、mysql事務(wù)開(kāi)始mysql> BEGIN; -- 或者start transaction; Query OK, 0 rows affected (0.00 sec) 3、向表user中插入2條數(shù)據(jù)mysql> INSERT INTO user VALUES ('3','one','0',''); Query OK, 1 row affected (0.08 sec) mysql> INSERT INTO user VALUES ('4,'two','0',''); Query OK, 1 row affected (0.00 sec) mysql> select * from user; +-----+----------+-----+------+ | mid | name | scx | word | +-----+----------+-----+------+ | 1 | zhangsan | 0 | NULL | | 2 | wangwu | 1 | NULL | | 3 | one | 0 | | | 4 | two | 0 | | +-----+----------+-----+------+ 4 rows in set (0.00 sec) 4、指定保存點(diǎn),保存點(diǎn)名為testmysql> SAVEPOINT test; Query OK, 0 rows affected (0.00 sec) 5、向表user中插入第3條數(shù)據(jù)mysql> INSERT INTO user VALUES ('5','three','0',''); Query OK, 1 row affected (0.00 sec) mysql> select * from user; +-----+----------+-----+------+ | mid | name | scx | word | +-----+----------+-----+------+ | 1 | zhangsan | 0 | NULL | | 2 | wangwu | 1 | NULL | | 3 | one | 0 | | | 4 | two | 0 | | | 5 | three | 0 | | +-----+----------+-----+------+ 5 rows in set (0.02 sec) 6、回滾到保存點(diǎn)testmysql> ROLLBACK TO SAVEPOINT test; Query OK, 0 rows affected (0.31 sec) mysql> select * from user; +-----+----------+-----+------+ | mid | name | scx | word | +-----+----------+-----+------+ | 1 | zhangsan | 0 | NULL | | 2 | wangwu | 1 | NULL | | 3 | one | 0 | | | 4 | two | 0 | | +-----+----------+-----+------+ 4 rows in set (0.00 sec)我們可以看到保存點(diǎn)test以后插入的記錄沒(méi)有顯示了,即成功團(tuán)滾到了定義保存點(diǎn)test前的狀態(tài)。利用保存點(diǎn)可以實(shí)現(xiàn)只提交事務(wù)中部分處理的功能。
? 6 事務(wù)控制語(yǔ)句
BEGIN或START TRANSACTION;顯式地開(kāi)啟一個(gè)事務(wù); COMMIT; 也可以使用COMMIT WORK,不過(guò)二者是等價(jià)的。COMMIT會(huì)提交事務(wù),并使已對(duì)數(shù)據(jù)庫(kù)進(jìn)行的所有修改成為永久性的; ROLLBACK; 有可以使用ROLLBACK WORK,不過(guò)二者是等價(jià)的。回滾會(huì)結(jié)束用戶的事務(wù),并撤銷正在進(jìn)行的所有未提交的修改; SAVEPOINT identifier; SAVEPOINT允許在事務(wù)中創(chuàng)建一個(gè)保存點(diǎn),一個(gè)事務(wù)中可以有多個(gè)SAVEPOINT; RELEASE SAVEPOINT identifier; 刪除一個(gè)事務(wù)的保存點(diǎn),當(dāng)沒(méi)有指定的保存點(diǎn)時(shí),執(zhí)行該語(yǔ)句會(huì)拋出一個(gè)異常; ROLLBACK TO identifier; 把事務(wù)回滾到標(biāo)記點(diǎn); SET TRANSACTION; 用來(lái)設(shè)置事務(wù)的隔離級(jí)別。InnoDB存儲(chǔ)引擎提供事務(wù)的隔離級(jí)別有READ UNCOMMITTED、READ COMMITTED、REPEATABLE READ和SERIALIZABLE。? 用 BEGIN, ROLLBACK, COMMIT來(lái)實(shí)現(xiàn)
? BEGIN 開(kāi)始一個(gè)事務(wù)
? ROLLBACK 事務(wù)回滾
? COMMIT 事務(wù)確認(rèn)
? 直接用 SET 來(lái)改變 MySQL 的自動(dòng)提交模式:
? SET AUTOCOMMIT=0或者off 禁止自動(dòng)提交
? SET AUTOCOMMIT=1或者on 開(kāi)啟自動(dòng)提交
?
?
?
?
六 慢查詢、執(zhí)行計(jì)劃、sql優(yōu)化
?
什么是慢查詢
慢查詢?nèi)罩?#xff0c;顧名思義,就是查詢慢的日志,是指mysql記錄所有執(zhí)行超過(guò)long_query_time參數(shù)設(shè)定的時(shí)間閾值的SQL語(yǔ)句的日志。該日志能為SQL語(yǔ)句的優(yōu)化帶來(lái)很好的幫助。默認(rèn)情況下,慢查詢?nèi)罩臼顷P(guān)閉的,要使用慢查詢?nèi)罩竟δ?#xff0c;首先要開(kāi)啟慢查詢?nèi)罩竟δ堋?/p>
? 慢查詢基本配置
? slow_query_log?啟動(dòng)停止技術(shù)慢查詢?nèi)罩?/p>
? slow_query_log_file?指定慢查詢?nèi)罩镜么鎯?chǔ)路徑及文件(默認(rèn)和數(shù)據(jù)文件放一起)
? long_query_time?指定記錄慢查詢?nèi)罩維QL執(zhí)行時(shí)間得伐值(單位:秒,默認(rèn)10秒)
? log_queries_not_using_indexes ?是否記錄未使用索引的SQL
? log_output?日志存放的地方【TABLE】【FILE】【FILE,TABLE】
配置了慢查詢后,它會(huì)記錄符合條件的SQL
包括:
查詢語(yǔ)句
數(shù)據(jù)修改語(yǔ)句
已經(jīng)回滾得SQL
實(shí)操:
通過(guò)下面命令查看下上面的配置:
show VARIABLES like '%slow_query_log%'
show VARIABLES like '%slow_query_log_file%'
show VARIABLES like '%long_query_time%'
show VARIABLES like '%log_queries_not_using_indexes%'
show VARIABLES like 'log_output'
set global long_query_time=0; ??---默認(rèn)10秒,這里為了演示方便設(shè)置為0
set GLOBAL ?slow_query_log = 1; --開(kāi)啟慢查詢?nèi)罩?/p>
set global log_output='FILE,TABLE' ?--項(xiàng)目開(kāi)發(fā)中日志只能記錄在日志文件中,不能記表中
設(shè)置完成后,查詢一些列表可以發(fā)現(xiàn)慢查詢的日志文件里面有數(shù)據(jù)了。
?
? 慢查詢解讀
從慢查詢?nèi)罩纠锩嬲x一條慢查詢?nèi)罩?#xff0c;數(shù)據(jù)組成如下
?
第一行:用戶名?、用戶的IP信息、線程ID號(hào)
第二行:執(zhí)行花費(fèi)的時(shí)間【單位:毫秒】
第三行:執(zhí)行獲得鎖的時(shí)間
第四行:獲得的結(jié)果行數(shù)
第五行:掃描的數(shù)據(jù)行數(shù)
第六行:這SQL執(zhí)行的具體時(shí)間
第七行:具體的SQL語(yǔ)句
?
執(zhí)行計(jì)劃(explain select...、explain extended select...)
?? 使用EXPLAIN關(guān)鍵字可以模擬優(yōu)化器執(zhí)行SQL查詢語(yǔ)句,從而知道MySQL是如何處理你的SQL語(yǔ)句的。分析你的查詢語(yǔ)句或是表結(jié)構(gòu)的性能瓶頸。
? 執(zhí)行計(jì)劃作用
? 表的讀取順序
?數(shù)據(jù)讀取操作的操作類型
? 哪些索引可以使用
? 哪些索引被實(shí)際使用
?表之間的引用
?每張表有多少行被優(yōu)化器查詢
執(zhí)行計(jì)劃的語(yǔ)法
執(zhí)行計(jì)劃的語(yǔ)法其實(shí)非常簡(jiǎn)單:?在SQL查詢的前面加上EXPLAIN關(guān)鍵字就行。
比如:EXPLAIN?select * from table1
重點(diǎn)的就是EXPLAIN后面你要分析的SQL語(yǔ)句?
?
?
ID列
ID列:描述select查詢的序列號(hào),包含一組數(shù)字,表示查詢中執(zhí)行select子句或操作表的順序
根據(jù)ID的數(shù)值結(jié)果可以分成一下三種情況
id相同:執(zhí)行順序由上至下
id不同:如果是子查詢,id的序號(hào)會(huì)遞增,id值越大優(yōu)先級(jí)越高,越先被執(zhí)行
id相同不同:同時(shí)存在
分別舉例來(lái)看
?
如上圖所示,ID列的值全為1,代表執(zhí)行的允許從t1開(kāi)始加載,依次為t3與t2
EXPLAIN? select t2.* from t1,t2,t3 ?where t1.id = t2.id and t1.id = t3.id?and t1.other_column = '';
Id不同
?
如果是子查詢,id的序號(hào)會(huì)遞增,id值越大優(yōu)先級(jí)越高,越先被執(zhí)行
EXPLAIN?select t2.* from ?t2 where id = (
select id from t1 where id = ?(select t3.id from t3 where t3.other_column='')
);
? Id相同又不同
?
id如果相同,可以認(rèn)為是一組,從上往下順序執(zhí)行;
在所有組中,id值越大,優(yōu)先級(jí)越高,越先執(zhí)行
EXPLAIN?select t2.* from (select t3.id?from t3 where t3.other_column = '') s1 ,t2 where s1.id = t2.id;
? select_type列
Select_type:查詢的類型,要是用于區(qū)別:普通查詢、聯(lián)合查詢、子查詢等的復(fù)雜查詢
類型如下
?
SIMPLE
EXPLAIN select * from t1
簡(jiǎn)單的?select?查詢,查詢中不包含子查詢或者UNION
?
PRIMARY與SUBQUERY
PRIMARY:查詢中若包含任何復(fù)雜的子部分,最外層查詢則被標(biāo)記為
SUBQUERY:在SELECT或WHERE列表中包含了子查詢
EXPLAIN?select t1.*,(select t2.id from t2 where t2.id = 1 ) from t1?
?
?
? DERIVED
在FROM列表中包含的子查詢被標(biāo)記為DERIVED(衍生)
MySQL會(huì)遞歸執(zhí)行這些子查詢,?把結(jié)果放在臨時(shí)表里。
?
.UNION RESULT?與UNION
UNION:若第二個(gè)SELECT出現(xiàn)在UNION之后,則被標(biāo)記為UNION;
UNION RESULT:從UNION表獲取結(jié)果的SELECT
#UNION RESULT ,UNION
EXPLAIN?select * from t1?UNION?select * from t2
?
? table列
顯示這一行的數(shù)據(jù)是關(guān)于哪張表的
?
Type列
type顯示的是訪問(wèn)類型,是較為重要的一個(gè)指標(biāo),結(jié)果值從最好到最壞依次是:
system > const > eq_ref > ref > fulltext > ref_or_null > index_merge > unique_subquery > index_subquery > range > index > ALL
需要記憶的
system>const>eq_ref>ref>range>index>ALL
一般來(lái)說(shuō),得保證查詢至少達(dá)到range級(jí)別,最好能達(dá)到ref。
? System與const
System:表只有一行記錄(等于系統(tǒng)表),這是const類型的特列,平時(shí)不會(huì)出現(xiàn),這個(gè)也可以忽略不計(jì)
Const:表示通過(guò)索引一次就找到了
const用于比較primary key或者unique索引。因?yàn)橹黄ヅ湟恍袛?shù)據(jù),所以很快
如將主鍵置于where列表中,MySQL就能將該查詢轉(zhuǎn)換為一個(gè)常量
?
eq_ref
? 唯一性索引掃描,對(duì)于每個(gè)索引鍵,表中只有一條記錄與之匹配。常見(jiàn)于主鍵或唯一索引掃描
?
Ref
?非唯一性索引掃描,返回匹配某個(gè)單獨(dú)值的所有行.
本質(zhì)上也是一種索引訪問(wèn),它返回所有匹配某個(gè)單獨(dú)值的行,然而,它可能會(huì)找到多個(gè)符合條件的行,所以他應(yīng)該屬于查找和掃描的混合體
?
Range
只檢索給定范圍的行,使用一個(gè)索引來(lái)選擇行。key?列顯示使用了哪個(gè)索引
一般就是在你的where語(yǔ)句中出現(xiàn)了between、<、>、in等的查詢
這種范圍掃描索引掃描比全表掃描要好,因?yàn)樗恍枰_(kāi)始于索引的某一點(diǎn),而結(jié)束語(yǔ)另一點(diǎn),不用掃描全部索引。
?
?
Index
當(dāng)查詢的結(jié)果全為索引列的時(shí)候,雖然也是全部掃描,但是只查詢的索引庫(kù),而沒(méi)有去查詢數(shù)據(jù)。
?
All
Full Table Scan,將遍歷全表以找到匹配的行
?
?
possible_keys?與Key?
possible_keys:可能使用的key
Key:實(shí)際使用的索引。如果為NULL,則沒(méi)有使用索引
查詢中若使用了覆蓋索引,則該索引和查詢的select字段重疊
?
key_len列
Key_len表示索引中使用的字節(jié)數(shù),可通過(guò)該列計(jì)算查詢中使用的索引的長(zhǎng)度。在不損失精確性的情況下,長(zhǎng)度越短越好
key_len顯示的值為索引字段的最大可能長(zhǎng)度,并非實(shí)際使用長(zhǎng)度,即key_len是根據(jù)表定義計(jì)算而得,不是通過(guò)表內(nèi)檢索出的
?
?
? key_len表示索引使用的字節(jié)數(shù),
? 根據(jù)這個(gè)值,就可以判斷索引使用情況,特別是在組合索引的時(shí)候,判斷所有的索引字段是否都被查詢用到。
? char和varchar跟字符編碼也有密切的聯(lián)系,
? latin1占用1個(gè)字節(jié),gbk占用2個(gè)字節(jié),utf8占用3個(gè)字節(jié)。(不同字符編碼占用的存儲(chǔ)空間不同)
?
?
字符類型
?
字符類型-索引字段為char類型+不可為Null時(shí)
?
name這一列為char(10),字符集為utf-8占用3個(gè)字節(jié)Keylen=10*3
字符類型-索引字段為char類型+允許為Null時(shí)
?
name這一列為char(10),字符集為utf-8占用3個(gè)字節(jié),外加需要存入一個(gè)null值
Keylen=10*3+1(null)?結(jié)果為31
索引字段為varchar類型+不可為Null時(shí)
?
Keylen=varchar(n)變長(zhǎng)字段+不允許Null=n*(utf8=3,gbk=2,latin1=1)+2
? 索引字段為varchar類型+允許為Null時(shí)
?
Keylen=varchar(n)變長(zhǎng)字段+允許Null=n*(utf8=3,gbk=2,latin1=1)+1(NULL)+2
總結(jié)
字符類型
變長(zhǎng)字段需要額外的2個(gè)字節(jié)(VARCHAR值保存時(shí)只保存需要的字符數(shù),另加一個(gè)字節(jié)來(lái)記錄長(zhǎng)度(如果列聲明的長(zhǎng)度超過(guò)255,則使用兩個(gè)字節(jié)),所以VARCAHR索引長(zhǎng)度計(jì)算時(shí)候要加2),固定長(zhǎng)度字段不需要額外的字節(jié)。
而NULL都需要1個(gè)字節(jié)的額外空間,所以索引字段最好不要為NULL,因?yàn)镹ULL讓統(tǒng)計(jì)更加復(fù)雜并且需要額外的存儲(chǔ)空間。
復(fù)合索引有最左前綴的特性,如果復(fù)合索引能全部使用上,則是復(fù)合索引字段的索引長(zhǎng)度之和,這也可以用來(lái)判定復(fù)合索引是否部分使用,還是全部使用。
整數(shù)/浮點(diǎn)數(shù)/時(shí)間類型的索引長(zhǎng)度
NOT NULL=字段本身的字段長(zhǎng)度
???????? NULL=字段本身的字段長(zhǎng)度+1(因?yàn)樾枰惺欠駷榭盏臉?biāo)記,這個(gè)標(biāo)記需要占用1個(gè)字節(jié))
datetime類型在5.6中字段長(zhǎng)度是5個(gè)字節(jié),datetime類型在5.5中字段長(zhǎng)度是8個(gè)字節(jié)
?
Ref列
顯示索引的哪一列被使用了,如果可能的話,是一個(gè)常數(shù)。哪些列或常量被用于查找索引列上的值
?
由key_len可知t1表的idx_col1_col2被充分使用,col1匹配t2表的col1,col2匹配了一個(gè)常量,即?'ac'
其中?【shared.t2.col1】 為 【數(shù)據(jù)庫(kù).表.列】
Rows列
根據(jù)表統(tǒng)計(jì)信息及索引選用情況,大致估算出找到所需的記錄所需要讀取的行數(shù)
?
Extra列
包含不適合在其他列中顯示但十分重要的額外信息。
?
Using filesort
說(shuō)明mysql會(huì)對(duì)數(shù)據(jù)使用一個(gè)外部的索引排序,而不是按照表內(nèi)的索引順序進(jìn)行讀取。MySQL中無(wú)法利用索引完成的排序操作稱為“文件排序”
當(dāng)發(fā)現(xiàn)有Using filesort?后,實(shí)際上就是發(fā)現(xiàn)了可以優(yōu)化的地方
?
上圖其實(shí)是一種索引失效的情況,后面會(huì)講,可以看出查詢中用到了個(gè)聯(lián)合索引,索引分別為col1,col2,col3
?
當(dāng)我排序新增了個(gè)col2,發(fā)現(xiàn)using filesort?就沒(méi)有了。
?
Using temporary
使了用臨時(shí)表保存中間結(jié)果,MySQL在對(duì)查詢結(jié)果排序時(shí)使用臨時(shí)表。常見(jiàn)于排序?order by?和分組查詢?group by。
?
?
尤其發(fā)現(xiàn)在執(zhí)行計(jì)劃里面有using filesort而且還有Using temporary的時(shí)候,特別需要注意
Using index
表示相應(yīng)的select操作中使用了覆蓋索引(Covering Index),避免訪問(wèn)了表的數(shù)據(jù)行,效率不錯(cuò)!
如果同時(shí)出現(xiàn)using where,表明索引被用來(lái)執(zhí)行索引鍵值的查找;
?
如果沒(méi)有同時(shí)出現(xiàn)using where,表明索引用來(lái)讀取數(shù)據(jù)而非執(zhí)行查找動(dòng)作
?
?
Using where?與?using join buffer
Using where
表明使用了where過(guò)濾
using join buffer
使用了連接緩存:
?
?impossible where
where子句的值總是false,不能用來(lái)獲取任何元組
?
? filtered列
使用explain extended時(shí)顯示,顯示針對(duì)表里符合某個(gè)條件(where子句或者聯(lián)結(jié)條件)的記錄數(shù)的百分比所做的一個(gè)悲觀估算,即mysql將要過(guò)濾行數(shù)的百分比。
sql優(yōu)化順口溜
? 全職匹配我最愛(ài),最左前綴要遵守;
? 帶頭大哥不能死,中間兄弟不能斷;
? 索引列上少計(jì)算,范圍之后全失效;
? LIKE百分寫(xiě)最右,覆蓋索引不寫(xiě)*;
?
? 全職匹配我最愛(ài)?
?
當(dāng)建立了索引列后,能在where條件中使用索引的盡量所用。
?
最左前綴要遵守,帶頭大哥不能死,中間兄弟不能斷?
?
如果索引了多列,要遵守最左前綴法則。指的是查詢從索引的最左前列開(kāi)始并且不跳過(guò)索引中的列。
?
七 OLTP與OLAP的介紹和對(duì)比
?
OLTP與OLAP的介紹
? ? 數(shù)據(jù)處理大致可以分成兩大類:聯(lián)機(jī)事務(wù)處理OLTP(on-line transaction processing)、聯(lián)機(jī)分析處理OLAP(On-Line Analytical Processing)。OLTP是傳統(tǒng)的關(guān)系型數(shù)據(jù)庫(kù)的主要應(yīng)用,主要是基本的、日常的事務(wù)處理,例如銀行交易。OLAP是數(shù)據(jù)倉(cāng)庫(kù)系統(tǒng)的主要應(yīng)用,支持復(fù)雜的分析操作,側(cè)重決策支持,并且提供直觀易懂的查詢結(jié)果。?
OLTP?系統(tǒng)強(qiáng)調(diào)數(shù)據(jù)庫(kù)內(nèi)存效率,強(qiáng)調(diào)內(nèi)存各種指標(biāo)的命令率,強(qiáng)調(diào)綁定變量,強(qiáng)調(diào)并發(fā)操作;
OLAP?系統(tǒng)則強(qiáng)調(diào)數(shù)據(jù)分析,強(qiáng)調(diào)SQL執(zhí)行市場(chǎng),強(qiáng)調(diào)磁盤(pán)I/O,強(qiáng)調(diào)分區(qū)等。?
OLTP與OLAP之間的比較: ??
OLTP,也叫聯(lián)機(jī)事務(wù)處理(Online Transaction Processing),表示事務(wù)性非常高的系統(tǒng),一般都是高可用的在線系統(tǒng),以小的事務(wù)以及小的查詢?yōu)橹?#xff0c;評(píng)估其系統(tǒng)的時(shí)候,一般看其每秒執(zhí)行的Transaction以及Execute SQL的數(shù)量。在這樣的系統(tǒng)中,單個(gè)數(shù)據(jù)庫(kù)每秒處理的Transaction往往超過(guò)幾百個(gè),或者是幾千個(gè),Select 語(yǔ)句的執(zhí)行量每秒幾千甚至幾萬(wàn)個(gè)。典型的OLTP系統(tǒng)有電子商務(wù)系統(tǒng)、銀行、證券等,如美國(guó)eBay的業(yè)務(wù)數(shù)據(jù)庫(kù),就是很典型的OLTP數(shù)據(jù)庫(kù)。
OLTP系統(tǒng)最容易出現(xiàn)瓶頸的地方就是CPU與磁盤(pán)子系統(tǒng)。
(1)CPU出現(xiàn)瓶頸常表現(xiàn)在邏輯讀總量與計(jì)算性函數(shù)或者是過(guò)程上,邏輯讀總量等于單個(gè)語(yǔ)句的邏輯讀乘以執(zhí)行次數(shù),如果單個(gè)語(yǔ)句執(zhí)行速度雖然很快,但是執(zhí)行次數(shù)非常多,那么,也可能會(huì)導(dǎo)致很大的邏輯讀總量。設(shè)計(jì)的方法與優(yōu)化的方法就是減少單個(gè)語(yǔ)句的邏輯讀,或者是減少它們的執(zhí)行次數(shù)。另外,一些計(jì)算型的函數(shù),如自定義函數(shù)、decode等的頻繁使用,也會(huì)消耗大量的CPU時(shí)間,造成系統(tǒng)的負(fù)載升高,正確的設(shè)計(jì)方法或者是優(yōu)化方法,需要盡量避免計(jì)算過(guò)程,如保存計(jì)算結(jié)果到統(tǒng)計(jì)表就是一個(gè)好的方法。
(2)磁盤(pán)子系統(tǒng)在OLTP環(huán)境中,它的承載能力一般取決于它的IOPS處理能力. 因?yàn)樵贠LTP環(huán)境中,磁盤(pán)物理讀一般都是db file sequential read,也就是單塊讀,但是這個(gè)讀的次數(shù)非常頻繁。如果頻繁到磁盤(pán)子系統(tǒng)都不能承載其IOPS的時(shí)候,就會(huì)出現(xiàn)大的性能問(wèn)題。
? ? OLTP比較常用的設(shè)計(jì)與優(yōu)化方式為Cache技術(shù)與B-tree索引技術(shù),Cache決定了很多語(yǔ)句不需要從磁盤(pán)子系統(tǒng)獲得數(shù)據(jù),所以,Web cache與Oracle data buffer對(duì)OLTP系統(tǒng)是很重要的。另外,在索引使用方面,語(yǔ)句越簡(jiǎn)單越好,這樣執(zhí)行計(jì)劃也穩(wěn)定,而且一定要使用綁定變量,減少語(yǔ)句解析,盡量減少表關(guān)聯(lián),盡量減少分布式事務(wù),基本不使用分區(qū)技術(shù)、MV技術(shù)、并行技術(shù)及位圖索引。因?yàn)椴l(fā)量很高,批量更新時(shí)要分批快速提交,以避免阻塞的發(fā)生。?
OLTP 系統(tǒng)是一個(gè)數(shù)據(jù)塊變化非常頻繁,SQL 語(yǔ)句提交非常頻繁的系統(tǒng)。 對(duì)于數(shù)據(jù)塊來(lái)說(shuō),應(yīng)盡可能讓數(shù)據(jù)塊保存在內(nèi)存當(dāng)中,對(duì)于SQL來(lái)說(shuō),盡可能使用變量綁定技術(shù)來(lái)達(dá)到SQL重用,減少物理I/O 和重復(fù)的SQL 解析,從而極大的改善數(shù)據(jù)庫(kù)的性能。
? ? 這里影響性能除了綁定變量,還有可能是熱快(hot block)。 當(dāng)一個(gè)塊被多個(gè)用戶同時(shí)讀取時(shí),Oracle 為了維護(hù)數(shù)據(jù)的一致性,需要使用Latch來(lái)串行化用戶的操作。當(dāng)一個(gè)用戶獲得了latch后,其他用戶就只能等待,獲取這個(gè)數(shù)據(jù)塊的用戶越多,等待就越明顯。 這就是熱快的問(wèn)題。 這種熱快可能是數(shù)據(jù)塊,也可能是回滾端塊。 對(duì)于數(shù)據(jù)塊來(lái)講,通常是數(shù)據(jù)庫(kù)的數(shù)據(jù)分布不均勻?qū)е?#xff0c;如果是索引的數(shù)據(jù)塊,可以考慮創(chuàng)建反向索引來(lái)達(dá)到重新分布數(shù)據(jù)的目的,對(duì)于回滾段數(shù)據(jù)塊,可以適當(dāng)多增加幾個(gè)回滾段來(lái)避免這種爭(zhēng)用。?
OLAP,也叫聯(lián)機(jī)分析處理(Online Analytical Processing)系統(tǒng),有的時(shí)候也叫DSS決策支持系統(tǒng),就是我們說(shuō)的數(shù)據(jù)倉(cāng)庫(kù)。在這樣的系統(tǒng)中,語(yǔ)句的執(zhí)行量不是考核標(biāo)準(zhǔn),因?yàn)橐粭l語(yǔ)句的執(zhí)行時(shí)間可能會(huì)非常長(zhǎng),讀取的數(shù)據(jù)也非常多。所以,在這樣的系統(tǒng)中,考核的標(biāo)準(zhǔn)往往是磁盤(pán)子系統(tǒng)的吞吐量(帶寬),如能達(dá)到多少M(fèi)B/s的流量。
? ? 磁盤(pán)子系統(tǒng)的吞吐量則往往取決于磁盤(pán)的個(gè)數(shù),這個(gè)時(shí)候,Cache基本是沒(méi)有效果的,數(shù)據(jù)庫(kù)的讀寫(xiě)類型基本上是db file scattered read與direct path read/write。應(yīng)盡量采用個(gè)數(shù)比較多的磁盤(pán)以及比較大的帶寬,如4Gb的光纖接口。
在OLAP系統(tǒng)中,常使用分區(qū)技術(shù)、并行技術(shù)。
? ? 分區(qū)技術(shù)在OLAP系統(tǒng)中的重要性主要體現(xiàn)在數(shù)據(jù)庫(kù)管理上,比如數(shù)據(jù)庫(kù)加載,可以通過(guò)分區(qū)交換的方式實(shí)現(xiàn),備份可以通過(guò)備份分區(qū)表空間實(shí)現(xiàn),刪除數(shù)據(jù)可以通過(guò)分區(qū)進(jìn)行刪除,至于分區(qū)在性能上的影響,它可以使得一些大表的掃描變得很快(只掃描單個(gè)分區(qū))。另外,如果分區(qū)結(jié)合并行的話,也可以使得整個(gè)表的掃描會(huì)變得很快。總之,分區(qū)主要的功能是管理上的方便性,它并不能絕對(duì)保證查詢性能的提高,有時(shí)候分區(qū)會(huì)帶來(lái)性能上的提高,有時(shí)候會(huì)降低。
? ? 并行技術(shù)除了與分區(qū)技術(shù)結(jié)合外,在Oracle 10g中,與RAC結(jié)合實(shí)現(xiàn)多節(jié)點(diǎn)的同時(shí)掃描,效果也非常不錯(cuò),可把一個(gè)任務(wù),如select的全表掃描,平均地分派到多個(gè)RAC的節(jié)點(diǎn)上去。
? ? 在OLAP系統(tǒng)中,不需要使用綁定(BIND)變量,因?yàn)檎麄€(gè)系統(tǒng)的執(zhí)行量很小,分析時(shí)間對(duì)于執(zhí)行時(shí)間來(lái)說(shuō),可以忽略,而且可避免出現(xiàn)錯(cuò)誤的執(zhí)行計(jì)劃。但是OLAP中可以大量使用位圖索引,物化視圖,對(duì)于大的事務(wù),盡量尋求速度上的優(yōu)化,沒(méi)有必要像OLTP要求快速提交,甚至要刻意減慢執(zhí)行的速度。
? ? 綁定變量真正的用途是在OLTP系統(tǒng)中,這個(gè)系統(tǒng)通常有這樣的特點(diǎn),用戶并發(fā)數(shù)很大,用戶的請(qǐng)求十分密集,并且這些請(qǐng)求的SQL 大多數(shù)是可以重復(fù)使用的。
? ? 對(duì)于OLAP系統(tǒng)來(lái)說(shuō),絕大多數(shù)時(shí)候數(shù)據(jù)庫(kù)上運(yùn)行著的是報(bào)表作業(yè),執(zhí)行基本上是聚合類的SQL 操作,比如group by,這時(shí)候,把優(yōu)化器模式設(shè)置為all_rows是恰當(dāng)?shù)摹?而對(duì)于一些分頁(yè)操作比較多的網(wǎng)站類數(shù)據(jù)庫(kù),設(shè)置為first_rows會(huì)更好一些。 但有時(shí)候?qū)τ贠LAP 系統(tǒng),我們又有分頁(yè)的情況下,我們可以考慮在每條SQL 中用hint。 如:
? ? Select ?a.* from table a;
分開(kāi)設(shè)計(jì)與優(yōu)化
在設(shè)計(jì)上要特別注意,如在高可用的OLTP環(huán)境中,不要盲目地把OLAP的技術(shù)拿過(guò)來(lái)用。
如分區(qū)技術(shù),假設(shè)不是大范圍地使用分區(qū)關(guān)鍵字,而采用其它的字段作為where條件,那么,如果是本地索引,將不得不掃描多個(gè)索引,而性能變得更為低下。如果是全局索引,又失去分區(qū)的意義。
并行技術(shù)也是如此,一般在完成大型任務(wù)時(shí)才使用,如在實(shí)際生活中,翻譯一本書(shū),可以先安排多個(gè)人,每個(gè)人翻譯不同的章節(jié),這樣可以提高翻譯速度。如果只是翻譯一頁(yè)書(shū),也去分配不同的人翻譯不同的行,再組合起來(lái),就沒(méi)必要了,因?yàn)樵诜峙涔ぷ鞯臅r(shí)間里,一個(gè)人或許早就翻譯完了。
位圖索引也是一樣,如果用在OLTP環(huán)境中,很容易造成阻塞與死鎖。但是,在OLAP環(huán)境中,可能會(huì)因?yàn)槠涮赜械奶匦?#xff0c;提高OLAP的查詢速度。MV也是基本一樣,包括觸發(fā)器等,在DML頻繁的OLTP系統(tǒng)上,很容易成為瓶頸,甚至是Library Cache等待,而在OLAP環(huán)境上,則可能會(huì)因?yàn)槭褂们‘?dāng)而提高查詢速度。
對(duì)于OLAP系統(tǒng),在內(nèi)存上可優(yōu)化的余地很小,增加CPU 處理速度和磁盤(pán)I/O 速度是最直接的提高數(shù)據(jù)庫(kù)性能的方法,當(dāng)然這也意味著系統(tǒng)成本的增加。 ? ? ?
比如我們要對(duì)幾億條或者幾十億條數(shù)據(jù)進(jìn)行聚合處理,這種海量的數(shù)據(jù),全部放在內(nèi)存中操作是很難的,同時(shí)也沒(méi)有必要,因?yàn)檫@些數(shù)據(jù)快很少重用,緩存起來(lái)也沒(méi)有實(shí)際意義,而且還會(huì)造成物理I/O相當(dāng)大。 所以這種系統(tǒng)的瓶頸往往是磁盤(pán)I/O上面的。
對(duì)于OLAP系統(tǒng),SQL 的優(yōu)化非常重要,因?yàn)樗臄?shù)據(jù)量很大,做全表掃描和索引對(duì)性能上來(lái)說(shuō)差異是非常大的。
其他
? ?? Oracle 10g以前的版本建庫(kù)過(guò)程中可供選擇的模板有:
? ? ? ? Data Warehouse (數(shù)據(jù)倉(cāng)庫(kù))
? ? ? ? General Purpose ?(通用目的、一般用途)
? ? ? ? New Database
? ? ? ? Transaction Processing ?(事務(wù)處理)
? ?? Oracle 11g的版本建庫(kù)過(guò)程中可供選擇的模板有:
? ? ? ? 一般用途或事務(wù)處理
? ? ? ? 定制數(shù)據(jù)庫(kù)
? ? ? ? 數(shù)據(jù)倉(cāng)庫(kù)
個(gè)人對(duì)這些模板的理解為:
? ? ? 聯(lián)機(jī)分析處理(OLAP,On-line Analytical Processing),數(shù)據(jù)量大,DML少。使用數(shù)據(jù)倉(cāng)庫(kù)模板
? ? ? 聯(lián)機(jī)事務(wù)處理(OLTP,On-line Transaction Processing),數(shù)據(jù)量少,DML頻繁,并行事務(wù)處理多,但是一般都很短。使用一般用途或事務(wù)處理模板。
? ? ? 決策支持系統(tǒng)(DDS,Decision support system),典型的操作是全表掃描,長(zhǎng)查詢,長(zhǎng)事務(wù),但是一般事務(wù)的個(gè)數(shù)很少,往往是一個(gè)事務(wù)獨(dú)占系統(tǒng)。
?
?
八 autocommit測(cè)試
MySQL是默認(rèn)提交的,也就是說(shuō)默認(rèn)保存到磁盤(pán)上的,但是如果我們將本次回話設(shè)置了set autocommit=0;取消了默認(rèn)提交的話,看一下效果:
可以通過(guò)查看“@@AUTOCOMMIT”變量來(lái)查看當(dāng)前自動(dòng)提交狀態(tài),查看此變量SELECT?@@AUTOCOMMIT。
mysql> use orm3; Database changed mysql> select * from app01_publish; +----+-----------------+--------+ | id | name | addr | +----+-----------------+--------+ | 1 | 西瓜出版社 | 北京 | | 2 | 人民出版社 | 天津 | | 3 | 清華出版社 | 北京 | | 4 | 南京出版社 | 南京 | | 5 | hah | xxxx | | 6 | 呵呵 | ssss | +----+-----------------+--------+ 6 rows in set (0.00 sec)mysql> set autocommit=0; Query OK, 0 rows affected (0.00 sec)mysql> insert into app01_publish values(7,'第七條','上海'); Query OK, 1 row affected (0.00 sec)mysql> select * from app01_publish; +----+-----------------+--------+ | id | name | addr | +----+-----------------+--------+ | 1 | 西瓜出版社 | 北京 | | 2 | 人民出版社 | 天津 | | 3 | 清華出版社 | 北京 | | 4 | 南京出版社 | 南京 | | 5 | hah | xxxx | | 6 | 呵呵 | ssss | | 7 | 第七條 | 上海 | +----+-----------------+--------+ 7 rows in set (0.00 sec)mysql> quit ByeC:\Users\zequan>mysql Welcome to the MySQL monitor. Commands end with ; or \g. Your MySQL connection id is 3 Server version: 5.6.21 MySQL Community Server (GPL)Copyright (c) 2000, 2014, Oracle and/or its affiliates. All rights reserved.Oracle is a registered trademark of Oracle Corporation and/or its affiliates. Other names may be trademarks of their respective owners.Type 'help;' or '\h' for help. Type '\c' to clear the current input statement.mysql> use orm3; Database changed mysql> select * from app01_publish; #再進(jìn)來(lái)發(fā)現(xiàn)新插入的數(shù)據(jù)沒(méi)有了 +----+-----------------+--------+ | id | name | addr | +----+-----------------+--------+ | 1 | 西瓜出版社 | 北京 | | 2 | 人民出版社 | 天津 | | 3 | 清華出版社 | 北京 | | 4 | 南京出版社 | 南京 | | 5 | hah | xxxx | | 6 | 呵呵 | ssss | +----+-----------------+--------+ 6 rows in set (0.00 sec)?
?
轉(zhuǎn)載于:https://www.cnblogs.com/yb-guanxin/p/10473371.html
創(chuàng)作挑戰(zhàn)賽新人創(chuàng)作獎(jiǎng)勵(lì)來(lái)咯,堅(jiān)持創(chuàng)作打卡瓜分現(xiàn)金大獎(jiǎng)總結(jié)
以上是生活随笔為你收集整理的MySQL之锁、事务、优化、OLAP、OLTP的全部?jī)?nèi)容,希望文章能夠幫你解決所遇到的問(wèn)題。
- 上一篇: 图片网站分享
- 下一篇: Redis 单例、主从模式、sentin