关于mysql的项目_项目中常用的MySQL 优化
本文我們來(lái)談?wù)勴?xiàng)目中常用的MySQL優(yōu)化方法,共19條,具體如下:
一、EXPLAIN
做MySQL優(yōu)化,我們要善用EXPLAIN查看SQL執(zhí)行計(jì)劃。
下面來(lái)個(gè)簡(jiǎn)單的示例,標(biāo)注(1、2、3、4、5)我們要重點(diǎn)關(guān)注的數(shù)據(jù):
type列,連接類(lèi)型。一個(gè)好的SQL語(yǔ)句至少要達(dá)到range級(jí)別。杜絕出現(xiàn)all級(jí)別。
key列,使用到的索引名。如果沒(méi)有選擇索引,值是NULL。可以采取強(qiáng)制索引方式
key_len列,索引長(zhǎng)度。
rows列,掃描行數(shù)。該值是個(gè)預(yù)估值。
extra列,詳細(xì)說(shuō)明。注意,常見(jiàn)的不太友好的值,如下:Using filesort,Using temporary。
二、SQL 語(yǔ)句中 IN 包含的值不應(yīng)過(guò)多
MySQL對(duì)于IN做了相應(yīng)的優(yōu)化,即將IN中的常量全部存儲(chǔ)在一個(gè)數(shù)組里面,而且這個(gè)數(shù)組是排好序的。但是如果數(shù)值較多,產(chǎn)生的消耗也是比較大的。再例如:select id from t where num in(1,2,3) 對(duì)于連續(xù)的數(shù)值,能用between就不要用in了;再或者使用連接來(lái)替換。
三、SELECT語(yǔ)句務(wù)必指明字段名稱(chēng)
SELECT*增加很多不必要的消耗(CPU、IO、內(nèi)存、網(wǎng)絡(luò)帶寬);增加了使用覆蓋索引的可能性;當(dāng)表結(jié)構(gòu)發(fā)生改變時(shí),前斷也需要更新。所以要求直接在select后面接上字段名。
四、當(dāng)只需要一條數(shù)據(jù)的時(shí)候,使用limit 1
這是為了使EXPLAIN中type列達(dá)到const類(lèi)型
五、如果排序字段沒(méi)有用到索引,就盡量少排序
六、如果限制條件中其他字段沒(méi)有索引,盡量少用or
or兩邊的字段中,如果有一個(gè)不是索引字段,而其他條件也不是索引字段,會(huì)造成該查詢(xún)不走索引的情況。很多時(shí)候使用union all或者是union(必要的時(shí)候)的方式來(lái)代替“or”會(huì)得到更好的效果。
七、盡量用 union all 代替 union
union和union all的差異主要是前者需要將結(jié)果集合并后再進(jìn)行唯一性過(guò)濾操作,這就會(huì)涉及到排序,增加大量的CPU運(yùn)算,加大資源消耗及延遲。當(dāng)然,union all的前提條件是兩個(gè)結(jié)果集沒(méi)有重復(fù)數(shù)據(jù)。
八、不使用ORDER BY RAND()
select?id?from?`dynamic`?order?by?rand()?limit?1000;
上面的SQL語(yǔ)句,可優(yōu)化為:
select?id?from?`dynamic`?t1?join?(select?rand()?*?(select?max(id)?from?`dynamic`)?as?nid)?t2?on?t1.id?>?t2.nidlimit?1000;
九、區(qū)分in和exists、not in和not exists
select?*?from?表A?where?id?in?(select?id?from?表B)
上面SQL語(yǔ)句相當(dāng)于
select?*?from?表A?where?exists(select?*?from?表B?where?表B.id=表A.id)
區(qū)分in和exists主要是造成了驅(qū)動(dòng)順序的改變(這是性能變化的關(guān)鍵),如果是exists,那么以外層表為驅(qū)動(dòng)表,先被訪(fǎng)問(wèn),如果是IN,那么先執(zhí)行子查詢(xún)。所以IN適合于外表大而內(nèi)表小的情況;EXISTS適合于外表小而內(nèi)表大的情況。
關(guān)于not in和not exists,推薦使用not exists,不僅僅是效率問(wèn)題,not in可能存在邏輯問(wèn)題。如何高效的寫(xiě)出一個(gè)替代not exists的SQL語(yǔ)句?
原SQL語(yǔ)句:
select?colname?…?from?A表?where?a.id?not?in?(select?b.id?from?B表)
高效的SQL語(yǔ)句:
select?colname?…?from?A表?Left?join?B表?on?where?a.id?=?b.id?where?b.id?is?null
取出的結(jié)果集如下圖表示,A表不在B表中的數(shù)據(jù):
十、使用合理的分頁(yè)方式以提高分頁(yè)的效率
select?id,name?from?product?limit?866613,?20
使用上述SQL語(yǔ)句做分頁(yè)的時(shí)候,可能有人會(huì)發(fā)現(xiàn),隨著表數(shù)據(jù)量的增加,直接使用limit分頁(yè)查詢(xún)會(huì)越來(lái)越慢。
優(yōu)化的方法如下:可以取前一頁(yè)的最大行數(shù)的id,然后根據(jù)這個(gè)最大的id來(lái)限制下一頁(yè)的起點(diǎn)。比如此列中,上一頁(yè)最大的id是866612。SQL可以采用如下的寫(xiě)法:
select?id,name?from?product?where?id>?866612?limit?20
十一、分段查詢(xún)
在一些用戶(hù)選擇頁(yè)面中,可能一些用戶(hù)選擇的時(shí)間范圍過(guò)大,造成查詢(xún)緩慢。主要的原因是掃描行數(shù)過(guò)多。這個(gè)時(shí)候可以通過(guò)程序,分段進(jìn)行查詢(xún),循環(huán)遍歷,將結(jié)果合并處理進(jìn)行展示。
如下圖這個(gè)SQL語(yǔ)句,掃描的行數(shù)成百萬(wàn)級(jí)以上的時(shí)候就可以使用分段查詢(xún):
十二、避免在 where 子句中對(duì)字段進(jìn)行 null 值判斷
對(duì)于null的判斷會(huì)導(dǎo)致引擎放棄使用索引而進(jìn)行全表掃描。
十三、不建議使用%前綴模糊查詢(xún)
例如LIKE“%name”或者LIKE“%name%”,這種查詢(xún)會(huì)導(dǎo)致索引失效而進(jìn)行全表掃描。但是可以使用LIKE “name%”。
那如何查詢(xún)%name%?
如下圖所示,雖然給secret字段添加了索引,但在explain結(jié)果并沒(méi)有使用:
那么如何解決這個(gè)問(wèn)題呢,答案:使用全文索引。
在我們查詢(xún)中經(jīng)常會(huì)用到select id,fnum,fdst from dynamic_201606 where user_name like '%zhangsan%'; 。這樣的語(yǔ)句,普通索引是無(wú)法滿(mǎn)足查詢(xún)需求的。慶幸的是在MySQL中,有全文索引來(lái)幫助我們。
創(chuàng)建全文索引的SQL語(yǔ)法是:
ALTER?TABLE?`dynamic_201606`?ADD?FULLTEXT?INDEX?`idx_user_name`?(`user_name`);
使用全文索引的SQL語(yǔ)句是:
select?id,fnum,fdst?from?dynamic_201606?where?match(user_name)?against('zhangsan'?in?boolean?mode);
注意:在需要?jiǎng)?chuàng)建全文索引之前,請(qǐng)聯(lián)系DBA確定能否創(chuàng)建。同時(shí)需要注意的是查詢(xún)語(yǔ)句的寫(xiě)法與普通索引的區(qū)別。
十四、避免在 where 子句中對(duì)字段進(jìn)行表達(dá)式操作
比如:
select?user_id,user_project?from?user_base?where?age*2=36;
中對(duì)字段就行了算術(shù)運(yùn)算,這會(huì)造成引擎放棄使用索引,建議改成:
select?user_id,user_project?from?user_base?where?age=36/2;
十五、避免隱式類(lèi)型轉(zhuǎn)換
where子句中出現(xiàn)column字段的類(lèi)型和傳入的參數(shù)類(lèi)型不一致的時(shí)候發(fā)生的類(lèi)型轉(zhuǎn)換,建議先確定where中的參數(shù)類(lèi)型。
十六、對(duì)于聯(lián)合索引來(lái)說(shuō),要遵守最左前綴法則
舉列來(lái)說(shuō)索引含有字段id、name、school,可以直接用id字段,也可以id、name這樣的順序,但是name;school都無(wú)法使用這個(gè)索引。所以在創(chuàng)建聯(lián)合索引的時(shí)候一定要注意索引字段順序,常用的查詢(xún)字段放在最前面。
十七、必要時(shí)可以使用force index來(lái)強(qiáng)制查詢(xún)走某個(gè)索引
有的時(shí)候MySQL優(yōu)化器采取它認(rèn)為合適的索引來(lái)檢索SQL語(yǔ)句,但是可能它所采用的索引并不是我們想要的。這時(shí)就可以采用forceindex來(lái)強(qiáng)制優(yōu)化器使用我們制定的索引。
十八、注意范圍查詢(xún)語(yǔ)句
對(duì)于聯(lián)合索引來(lái)說(shuō),如果存在范圍查詢(xún),比如between、>、
LEFT JOIN A表為驅(qū)動(dòng)表,INNER JOIN MySQL會(huì)自動(dòng)找出那個(gè)數(shù)據(jù)少的表作用驅(qū)動(dòng)表,RIGHT JOIN B表為驅(qū)動(dòng)表。
注意:
1)MySQL中沒(méi)有full join,可以用以下方式來(lái)解決:
select?*?from?A?left?join?B?on?B.name?=?A.namewhere?B.name?is?nullunion?allselect?*?from?B;
2)盡量使用inner join,避免left join:
參與聯(lián)合查詢(xún)的表至少為2張表,一般都存在大小之分。如果連接方式是inner join,在沒(méi)有其他過(guò)濾條件的情況下MySQL會(huì)自動(dòng)選擇小表作為驅(qū)動(dòng)表,但是left join在驅(qū)動(dòng)表的選擇上遵循的是左邊驅(qū)動(dòng)右邊的原則,即left join左邊的表名為驅(qū)動(dòng)表。
3)合理利用索引:
被驅(qū)動(dòng)表的索引字段作為on的限制字段。
4)利用小表去驅(qū)動(dòng)大表:
從原理圖能夠直觀(guān)的看出如果能夠減少驅(qū)動(dòng)表的話(huà),減少嵌套循環(huán)中的循環(huán)次數(shù),以減少 IO總量及CPU運(yùn)算的次數(shù)。
5)巧用STRAIGHT_JOIN:
inner join是由MySQL選擇驅(qū)動(dòng)表,但是有些特殊情況需要選擇另個(gè)表作為驅(qū)動(dòng)表,比如有g(shù)roup by、order by等「Using filesort」、「Using temporary」時(shí)。STRAIGHT_JOIN來(lái)強(qiáng)制連接順序,在STRAIGHT_JOIN左邊的表名就是驅(qū)動(dòng)表,右邊則是被驅(qū)動(dòng)表。在使用STRAIGHT_JOIN有個(gè)前提條件是該查詢(xún)是內(nèi)連接,也就是inner join。其他鏈接不推薦使用STRAIGHT_JOIN,否則可能造成查詢(xún)結(jié)果不準(zhǔn)確。
這個(gè)方式有時(shí)能減少3倍的時(shí)間。
-----------------------------------------------------------------------------------
另外一篇文章關(guān)于mysql數(shù)據(jù)庫(kù)優(yōu)化的
前言
數(shù)據(jù)庫(kù)優(yōu)化一方面是找出系統(tǒng)的瓶頸,提高M(jìn)ySQL數(shù)據(jù)庫(kù)的整體性能,而另一方面需要合理的結(jié)構(gòu)設(shè)計(jì)和參數(shù)調(diào)整,以提高用戶(hù)的相應(yīng)速度,同時(shí)還要盡可能的節(jié)約系統(tǒng)資源,以便讓系統(tǒng)提供更大的負(fù)荷.
1、優(yōu)化一覽圖
2、優(yōu)化
筆者將優(yōu)化分為了兩大類(lèi),軟優(yōu)化和硬優(yōu)化,軟優(yōu)化一般是操作數(shù)據(jù)庫(kù)即可,而硬優(yōu)化則是操作服務(wù)器硬件及參數(shù)設(shè)置.
2.1 軟優(yōu)化
2.1.1 查詢(xún)語(yǔ)句優(yōu)化
1、首先我們可以用EXPLAIN或DESCRIBE(簡(jiǎn)寫(xiě):DESC)命令分析一條查詢(xún)語(yǔ)句的執(zhí)行信息.
2.例:
DESC SELECT * FROM `user`
顯示:
其中會(huì)顯示索引和查詢(xún)數(shù)據(jù)讀取數(shù)據(jù)條數(shù)等信息.
2.1.2 優(yōu)化子查詢(xún)
在MySQL中,盡量使用JOIN來(lái)代替子查詢(xún).因?yàn)樽硬樵?xún)需要嵌套查詢(xún),嵌套查詢(xún)時(shí)會(huì)建立一張臨時(shí)表,臨時(shí)表的建立和刪除都會(huì)有較大的系統(tǒng)開(kāi)銷(xiāo),而連接查詢(xún)不會(huì)創(chuàng)建臨時(shí)表,因此效率比嵌套子查詢(xún)高.
2.1.3 使用索引
索引是提高數(shù)據(jù)庫(kù)查詢(xún)速度最重要的方法之一,關(guān)于索引可以參高筆者一文,介紹比較詳細(xì),此處記錄使用索引的三大注意事項(xiàng):
1、LIKE關(guān)鍵字匹配'%'開(kāi)頭的字符串,不會(huì)使用索引.
2、OR關(guān)鍵字的兩個(gè)字段必須都是用了索引,該查詢(xún)才會(huì)使用索引.
3、使用多列索引必須滿(mǎn)足最左匹配.
2.1.4 分解表
對(duì)于字段較多的表,如果某些字段使用頻率較低,此時(shí)應(yīng)當(dāng),將其分離出來(lái)從而形成新的表,
2.1.5 中間表
對(duì)于將大量連接查詢(xún)的表可以創(chuàng)建中間表,從而減少在查詢(xún)時(shí)造成的連接耗時(shí).
2.1.6 增加冗余字段
類(lèi)似于創(chuàng)建中間表,增加冗余也是為了減少連接查詢(xún).
2.1.7 分析表,檢查表,優(yōu)化表
分析表主要是分析表中關(guān)鍵字的分布,檢查表主要是檢查表中是否存在錯(cuò)誤,優(yōu)化表主要是消除刪除或更新造成的表空間浪費(fèi).
1、分析表: 使用 ANALYZE 關(guān)鍵字,如ANALYZE TABLE user;
Op:表示執(zhí)行的操作.
Msg_type:信息類(lèi)型,有status,info,note,warning,error.
Msg_text:顯示信息.
2、檢查表: 使用 CHECK關(guān)鍵字,如CHECK TABLE user [option]
option 只對(duì)MyISAM有效,共五個(gè)參數(shù)值:
QUICK:不掃描行,不檢查錯(cuò)誤的連接.
FAST:只檢查沒(méi)有正確關(guān)閉的表.
CHANGED:只檢查上次檢查后被更改的表和沒(méi)被正確關(guān)閉的表.
MEDIUM:掃描行,以驗(yàn)證被刪除的連接是有效的,也可以計(jì)算各行關(guān)鍵字校驗(yàn)和.
EXTENDED:最全面的的檢查,對(duì)每行關(guān)鍵字全面查找.
3、優(yōu)化表:使用OPTIMIZE關(guān)鍵字,如OPTIMIZE [LOCAL|NO_WRITE_TO_BINLOG] TABLE user;
LOCAL|NO_WRITE_TO_BINLOG都是表示不寫(xiě)入日志.,優(yōu)化表只對(duì)VARCHAR,BLOB和TEXT有效,通過(guò)OPTIMIZE TABLE語(yǔ)句可以消除文件碎片,在執(zhí)行過(guò)程中會(huì)加上只讀鎖.
2.2 硬優(yōu)化
2.2.1 硬件三件套
1、配置多核心和頻率高的cpu,多核心可以執(zhí)行多個(gè)線(xiàn)程.
2、配置大內(nèi)存,提高內(nèi)存,即可提高緩存區(qū)容量,因此能減少磁盤(pán)I/O時(shí)間,從而提高響應(yīng)速度.
3、配置高速磁盤(pán)或合理分布磁盤(pán):高速磁盤(pán)提高I/O,分布磁盤(pán)能提高并行操作的能力.
2.2.2 優(yōu)化數(shù)據(jù)庫(kù)參數(shù)
優(yōu)化數(shù)據(jù)庫(kù)參數(shù)可以提高資源利用率,從而提高M(jìn)ySQL服務(wù)器性能.MySQL服務(wù)的配置參數(shù)都在my.cnf或my.ini,下面列出性能影響較大的幾個(gè)參數(shù).
key_buffer_size:索引緩沖區(qū)大小
table_cache:能同時(shí)打開(kāi)表的個(gè)數(shù)
query_cache_size和query_cache_type:前者是查詢(xún)緩沖區(qū)大小,后者是前面參數(shù)的開(kāi)關(guān),0表示不使用緩沖區(qū),1表示使用緩沖區(qū),但可以在查詢(xún)中使用SQL_NO_CACHE表示不要使用緩沖區(qū),2表示在查詢(xún)中明確指出使用緩沖區(qū)才用緩沖區(qū),即SQL_CACHE.
sort_buffer_size:排序緩沖區(qū)
傳送門(mén):更多參數(shù)
https://www.mysql.com/cn/why-mysql/performance/index.html
2.2.3 分庫(kù)分表
因?yàn)閿?shù)據(jù)庫(kù)壓力過(guò)大,首先一個(gè)問(wèn)題就是高峰期系統(tǒng)性能可能會(huì)降低,因?yàn)閿?shù)據(jù)庫(kù)負(fù)載過(guò)高對(duì)性能會(huì)有影響。另外一個(gè),壓力過(guò)大把你的數(shù)據(jù)庫(kù)給搞掛了怎么辦?所以此時(shí)你必須得對(duì)系統(tǒng)做分庫(kù)分表 + 讀寫(xiě)分離,也就是把一個(gè)庫(kù)拆分為多個(gè)庫(kù),部署在多個(gè)數(shù)據(jù)庫(kù)服務(wù)上,這時(shí)作為主庫(kù)承載寫(xiě)入請(qǐng)求。然后每個(gè)主庫(kù)都掛載至少一個(gè)從庫(kù),由從庫(kù)來(lái)承載讀請(qǐng)求。
2.2.4 緩存集群
如果用戶(hù)量越來(lái)越大,此時(shí)你可以不停的加機(jī)器,比如說(shuō)系統(tǒng)層面不停加機(jī)器,就可以承載更高的并發(fā)請(qǐng)求。然后數(shù)據(jù)庫(kù)層面如果寫(xiě)入并發(fā)越來(lái)越高,就擴(kuò)容加數(shù)據(jù)庫(kù)服務(wù)器,通過(guò)分庫(kù)分表是可以支持?jǐn)U容機(jī)器的,如果數(shù)據(jù)庫(kù)層面的讀并發(fā)越來(lái)越高,就擴(kuò)容加更多的從庫(kù)。但是這里有一個(gè)很大的問(wèn)題:數(shù)據(jù)庫(kù)其實(shí)本身不是用來(lái)承載高并發(fā)請(qǐng)求的,所以通常來(lái)說(shuō),數(shù)據(jù)庫(kù)單機(jī)每秒承載的并發(fā)就在幾千的數(shù)量級(jí),而且數(shù)據(jù)庫(kù)使用的機(jī)器都是比較高配置,比較昂貴的機(jī)器,成本很高。如果你就是簡(jiǎn)單的不停的加機(jī)器,其實(shí)是不對(duì)的。所以在高并發(fā)架構(gòu)里通常都有緩存這個(gè)環(huán)節(jié),緩存系統(tǒng)的設(shè)計(jì)就是為了承載高并發(fā)而生。所以單機(jī)承載的并發(fā)量都在每秒幾萬(wàn),甚至每秒數(shù)十萬(wàn),對(duì)高并發(fā)的承載能力比數(shù)據(jù)庫(kù)系統(tǒng)要高出一到兩個(gè)數(shù)量級(jí)。所以你完全可以根據(jù)系統(tǒng)的業(yè)務(wù)特性,對(duì)那種寫(xiě)少讀多的請(qǐng)求,引入緩存集群。具體來(lái)說(shuō),就是在寫(xiě)數(shù)據(jù)庫(kù)的時(shí)候同時(shí)寫(xiě)一份數(shù)據(jù)到緩存集群里,然后用緩存集群來(lái)承載大部分的讀請(qǐng)求。這樣的話(huà),通過(guò)緩存集群,就可以用更少的機(jī)器資源承載更高的并發(fā)。
結(jié)語(yǔ)
一個(gè)完整而復(fù)雜的高并發(fā)系統(tǒng)架構(gòu)中,一定會(huì)包含:各種復(fù)雜的自研基礎(chǔ)架構(gòu)系統(tǒng)。各種精妙的架構(gòu)設(shè)計(jì).因此一篇小文頂多具有拋磚引玉的效果,但是數(shù)據(jù)庫(kù)優(yōu)化的思想差不多就這些了.
創(chuàng)作挑戰(zhàn)賽新人創(chuàng)作獎(jiǎng)勵(lì)來(lái)咯,堅(jiān)持創(chuàng)作打卡瓜分現(xiàn)金大獎(jiǎng)總結(jié)
以上是生活随笔為你收集整理的关于mysql的项目_项目中常用的MySQL 优化的全部?jī)?nèi)容,希望文章能夠幫你解決所遇到的問(wèn)題。
- 上一篇: 二十万字C/C++、嵌入式软开面试题全集
- 下一篇: oracle数据库如何授权收费吗,如何减