mysql 1千万 like优化_MYSQL千万级数据量的优化方法积累
1、分庫(kù)分表
很明顯,一個(gè)主表(也就是很重要的表,例如用戶表)無(wú)限制的增長(zhǎng)勢(shì)必嚴(yán)重影響性能,分庫(kù)與分表是一個(gè)很不錯(cuò)的解決途徑,也就是性能優(yōu)化途徑,現(xiàn)在的案例是我們有一個(gè)1000多萬(wàn)條記錄的用戶表members,查詢起來(lái)非常之慢,同事的做法是將其散列到100個(gè)表中,分別從members0到members99,然后根據(jù)mid分發(fā)記錄到這些表中,牛逼的代碼大概是這樣子:
for($i=0;$i< 100; $i++ ){
//echo "CREATE TABLE db2.members{$i} LIKE db1.members
";
echo "INSERT INTO members{$i} SELECT * FROM members WHERE mid0={$i}
";
}
?>
2、不停機(jī)修改mysql表結(jié)構(gòu)
同樣還是members表,前期設(shè)計(jì)的表結(jié)構(gòu)不盡合理,隨著數(shù)據(jù)庫(kù)不斷運(yùn)行,其冗余數(shù)據(jù)也是增長(zhǎng)巨大,同事使用了下面的方法來(lái)處理:
先創(chuàng)建一個(gè)臨時(shí)表:
CREATE TABLE members_tmp LIKE members
然后修改members_tmp的表結(jié)構(gòu)為新結(jié)構(gòu),接著使用上面那個(gè)for循環(huán)來(lái)導(dǎo)出數(shù)據(jù),因?yàn)?000萬(wàn)的數(shù)據(jù)一次性導(dǎo)出是不對(duì)的,mid是主鍵,一個(gè)區(qū)間一個(gè)區(qū)間的導(dǎo),基本是一次導(dǎo)出5萬(wàn)條吧,這里略去了
接著重命名將新表替換上去:
RENAME TABLE members TO members_bak,members_tmp TO members;
就是這樣,基本可以做到無(wú)損失,無(wú)需停機(jī)更新表結(jié)構(gòu),但實(shí)際上RENAME期間表是被鎖死的,所以選擇在線少的時(shí)候操作是一個(gè)技巧。經(jīng)過(guò)這個(gè)操作,使得原先8G多的表,一下子變成了2G多
另外還講到了mysql中float字段類型的時(shí)候出現(xiàn)的詭異現(xiàn)象,就是在pma中看到的數(shù)字根本不能作為條件來(lái)查詢
3、常用SQL語(yǔ)句優(yōu)化:
1.???????數(shù)據(jù)庫(kù)(表)設(shè)計(jì)合理
我們的表設(shè)計(jì)要符合3NF???3范式(規(guī)范的模式) ,?有時(shí)我們需要適當(dāng)?shù)哪娣妒?/p>
2.???????sql語(yǔ)句的優(yōu)化(索引,常用小技巧.)
3.???????數(shù)據(jù)的配置(緩存設(shè)大)
4.???????適當(dāng)硬件配置和操作系統(tǒng)?(讀寫分離.)
數(shù)據(jù)的3NF
1NF :就是具有原子性,不可分割.(只要使用的是關(guān)系性數(shù)據(jù)庫(kù),就自動(dòng)符合)
2NF:?在滿足1NF?的基礎(chǔ)上,我們考慮是否滿足2NF:?只要表的記錄滿足唯一性,也是說(shuō),你的同一張表,不可能出現(xiàn)完全相同的記錄,?一般說(shuō)我們?cè)?表中設(shè)計(jì)一個(gè)主鍵即可.
3NF:?在滿足2NF?的基礎(chǔ)上,我們考慮是否滿足3NF:即我們的字段信息可以通過(guò)關(guān)聯(lián)的關(guān)系,派生即可.(通常我們通過(guò)外鍵來(lái)處理)
逆范式:?為什么需呀逆范式:
(相冊(cè)的功能對(duì)應(yīng)數(shù)據(jù)庫(kù)的設(shè)計(jì))
適當(dāng)?shù)哪娣妒?
sql語(yǔ)句的優(yōu)化
sql語(yǔ)句有幾類
ddl (數(shù)據(jù)定義語(yǔ)言) [create alter drop]
dml(數(shù)據(jù)操作語(yǔ)言)[insert delete upate ]
select
dtl(數(shù)據(jù)事務(wù)語(yǔ)句) [commit rollback savepoint]
dcl(數(shù)據(jù)控制語(yǔ)句) [grant??revoke]
show status命令
該命令可以顯示你的mysql數(shù)據(jù)庫(kù)的當(dāng)前狀態(tài).我們主要關(guān)心的是?“com”開(kāi)頭的指令
show status like ‘Com%’??<=> show session??status like ‘Com%’??//顯示當(dāng)前控制臺(tái)的情況
show global??status like ‘Com%’ ; //顯示數(shù)據(jù)庫(kù)從啟動(dòng)到?查詢的次數(shù)
顯示連接數(shù)據(jù)庫(kù)次數(shù)
show status like??'Connections';
這里我們優(yōu)化的重點(diǎn)是在?慢查詢. (在默認(rèn)情況下是10 ) mysql5.5.19
顯示查看慢查詢的情況
show variables like ‘long_query_time’
為了教學(xué),我們搞一個(gè)海量表(mysql存儲(chǔ)過(guò)程)
目的,就是看看怎樣處理,在海量表中,查詢的速度很快!
select * from emp where empno=123456;
需求:如何在一個(gè)項(xiàng)目中,找到慢查詢的select , mysql數(shù)據(jù)庫(kù)支持把慢查詢語(yǔ)句,記錄到日志中,程序員分析. (但是注意,默認(rèn)情況下不啟動(dòng).)
步驟:
1.???????要這樣啟動(dòng)mysql
進(jìn)入到?mysql安裝目錄
2.??啟動(dòng)?xx>bin\mysqld.exe –slow-query-log???這點(diǎn)注意
測(cè)試?,比如我們把
select * from emp where empno=34678?;
用了1.5秒,我現(xiàn)在優(yōu)化.
快速體驗(yàn):?在emp表的?empno建立索引.
alter table emp add primary key(empno);
//刪除主鍵索引
alter table emp drop primary key
然后,再查速度變快.
l?????????索引的原理
介紹一款非常重要工具explain,?這個(gè)分析工具可以對(duì)?sql語(yǔ)句進(jìn)行分析,可以預(yù)測(cè)你的sql執(zhí)行的效率.
他的基本用法是:
explain sql語(yǔ)句\G
//根據(jù)返回的信息,我們可知,該sql語(yǔ)句是否使用索引,從多少記錄中取出,可以看到排序的方式.
l?????????在什么列上添加索引比較合適
①?????在經(jīng)常查詢的列上加索引.
②?????列的數(shù)據(jù),內(nèi)容就只有少數(shù)幾個(gè)值,不太適合加索引.
③?????內(nèi)容頻繁變化,不合適加索引
l?????????索引的種類
①?????主鍵索引?(把某列設(shè)為主鍵,則就是主鍵索引)
②?????唯一索引(unique)?(即該列具有唯一性,同時(shí)又是索引)
③?????index?(普通索引)
④?????全文索引(FULLTEXT)
select * from article where content like ‘%李連杰%’;
hello, i am a boy
l???????你好,我是一個(gè)男孩=>中文?sphinx
⑤?????復(fù)合索引(多列和在一起)
create index myind on?表名?(列1,列2);
l?????????如何創(chuàng)建索引
如果創(chuàng)建unique /?普通/fulltext?索引
1. create [unique|FULLTEXT] index?索引名?on?表名?(列名...)
2. alter table?表名?add index?索引名?(列名...)
//如果要添加主鍵索引
alter table?表名?add primary key (列...)
刪除索引
1.???????drop index?索引名?on?表名
2.???????alter table?表名?drop index index_name;
3.???????alter table?表名?drop primary key
顯示索引
show index(es) from?表名
show keys from?表名
desc?表名
如何查詢某表的索引
show indexes from?表名
l?????????使用索引的注意事項(xiàng)
查詢要使用索引最重要的條件是查詢條件中需要使用索引。
下列幾種情況下有可能使用到索引:1,對(duì)于創(chuàng)建的多列索引,只要查詢條件使用了最左邊的列,索引一般就會(huì)被使用。2,對(duì)于使用like的查詢,查詢?nèi)绻恰?#xfffd;a’?不會(huì)使用到索引?aaa%’?會(huì)使用到索引。
下列的表將不使用索引:1,如果條件中有or,即使其中有條件帶索引也不會(huì)使用。2,對(duì)于多列索引,不是使用的第一部分,則不會(huì)使用索引。3,like查詢是以%開(kāi)頭4,如果列類型是字符串,那一定要在條件中將數(shù)據(jù)使用引號(hào)引用起來(lái)。否則不使用索引。5,如果mysql估計(jì)使用全表掃描要比使用索引快,則不使用索引。
l?????????如何檢測(cè)你的索引是否有效
結(jié)論: Handler_read_key?越大越少
Handler_read_rnd_next?越小越好
fdisk
find
l?????????MyISAM?和?Innodb區(qū)別是什么
MyISAM?不支持外鍵, Innodb支持
MyISAM?不支持事務(wù),不支持外鍵.
對(duì)數(shù)據(jù)信息的存儲(chǔ)處理方式不同.(如果存儲(chǔ)引擎是MyISAM的,則創(chuàng)建一張表,對(duì)于三個(gè)文件..,如果是Innodb則只有一張文件?*.frm,數(shù)據(jù)存放到ibdata1)
對(duì)于?MyISAM?數(shù)據(jù)庫(kù),需要定時(shí)清理
optimize table?表名
l?????????常見(jiàn)的sql優(yōu)化手法
1.???????使用order by null??禁用排序
比如?select * from dept group by ename order by null
2.???????在精度要求高的應(yīng)用中,建議使用定點(diǎn)數(shù)(decimal)來(lái)存儲(chǔ)數(shù)值,以保證結(jié)果的準(zhǔn)確性
3.??如果字段是字符類型的索引,用作條件查詢時(shí)一定要加單引號(hào),不然索引無(wú)效。
4.??主鍵索引如果沒(méi)用到,再查詢for update這種情況,會(huì)造成表鎖定。容易造成卡死。
1000000.32?萬(wàn)
create table sal(t1 float(10,2));
create table sal2(t1 decimal(10,2));
問(wèn)?在php中?,int?如果是一個(gè)有符號(hào)數(shù),最大值. int- 4*8=32???2 31 -1
l?????????表的水平劃分
l?????????垂直分割表
如果你的數(shù)據(jù)庫(kù)的存儲(chǔ)引擎是MyISAM的,則當(dāng)創(chuàng)建一個(gè)表,后三個(gè)文件. *.frm?記錄表結(jié)構(gòu). *.myd?數(shù)據(jù)*.myi?這個(gè)是索引.
mysql5.5.19的版本,他的數(shù)據(jù)庫(kù)文件,默認(rèn)放在?(看?my.ini文件中的配置.)
l?????????讀寫分離
總結(jié)
以上是生活随笔為你收集整理的mysql 1千万 like优化_MYSQL千万级数据量的优化方法积累的全部?jī)?nèi)容,希望文章能夠幫你解決所遇到的問(wèn)題。
- 上一篇: 30 校准_校准or质控,傻傻分不清楚
- 下一篇: 多玩魔兽盒子使用方法(魔兽世界多玩盒子)