面试官灵魂拷问:为什么 SQL 语句不要过多的 join?
點擊上方“朱小廝的博客”,選擇“設為星標”
后臺回復"書",獲取
后臺回復“k8s”,可領取k8s資料
來源:r6d.cn/W2LN
送分題
面試官:有操作過Linux嗎?
我:有的呀
面試官:我想查看內存的使用情況該用什么命令
我:free?或者?top
面試官:那你說一下用free命令都可以看到啥信息
我:那,如下圖所示 可以看到內存以及緩存的使用情況
total 總內存
used 已用內存
free 空閑內存
buff/cache 已使用的緩存
avaiable 可用內存
面試官:那你知道怎么清理已使用的緩存嗎(buff/cache)
我:em... 不知道
面試官:sync; echo 3 > /proc/sys/vm/drop_caches就可以清理buff/cache了,你說說我在線上執行這條命令做好不好?
我:(送分題,內心大喜)好處大大的有,清理出緩存我們就有更多可用的內存空間, 就跟pc上面xx衛士的小火箭一樣,點一下,就釋放出好多的內存
面試官:em...., 回去等通知吧
再談SQL Join
面試官:換個話題,談談你對join的理解
我:好的(再答錯就徹底完了,把握住機會)
回顧
SQL中的join可以根據某些條件把指定的表給結合起來并將數據返回給客戶端
join的方式有:5 種
inner join?內連接
left join?左連接
right join?右連接
full join?全連接
面試官:在項目開發中如果需要使用join語句,如何優化提升性能?
我:分為兩種情況,數據規模小的,數據規模大的。
面試官: 然后?
我:對于
數據規模較小?全部干進內存就完事了嗷
數據規模較大
面試官:可以總結為join語句是相對比較耗費性能,對嗎?
我:是的
面試官: 為什么?
緩沖區
我: 在執行join語句的時候必然要有一個比較的過程
面試官: 是的
我:逐條比較兩個表的語句是比較慢的,因此我們可以把兩個表中數據依次讀進一個內存塊中, 以MySQL的InnoDB引擎為例,使用以下語句我們必然可以查到相關的內存區域show variables like '%buffer%'
如下圖所示join_buffer_size的大小將會影響我們join語句的執行性能
面試官: 除此之外呢?
一個大前提
我:任何項目終究要上線,不可避免的要產生數據,數據的規模又不可能太小
面試官: 是這樣的
我:大部分數據庫中的數據最終要保存到硬盤上,并且以文件的形式進行存儲。
以MySQL的InnoDB引擎為例
InnoDB以頁(page)為基本的IO單位,每個頁的大小為16KB
InnoDB會為每個表創建用于存儲數據的.ibd文件
驗證
我:這意味著我們有多少表要連接就需要讀多少個文件,雖然可以利用索引,但還是免不了頻繁的移動硬盤的磁頭
面試官:也就是說頻繁的移動磁頭會影響性能對吧
我:是的,現在的開源框架不都喜歡說自己通過順序讀寫大大的提升了性能嗎,比如hbase、kafka
面試官:說的沒錯,那你認為Linux有對此做出優化嗎?提示,你可以再執行一次free命令看一下
我:奇怪緩存怎么占用了1.2G多
面試官: 你有沒有想過
buff/cache?里面存的是什么,?
為什么buff/cache?占了那么多內存,可用內存即availlable還有1.1G?
為什么你可以通過兩條命令來清理buff/cache占用的內存,而想要釋放used只能通過結束進程來實現?
品,你細品
思考了幾分鐘后
我:這么隨便就釋放了buff/cache所占用的內存,說明它就不重要, 清除它不會對系統的運行造成影響
面試官: 不完全對
我:難道是?想起來《CSAPP》(深入理解計算機系統)里面說過一句話
存儲器層次結構的本質是,每一層存儲設備都是較低一層設備的緩存翻譯成人話,就是說Linux會把內存當作是硬盤的高速緩存
面試官:現在知道那道送分題應該怎么回答了吧
我:我....
Join算法
面試官:再給你個機會,如果讓你來實現Join算法你會怎么做?
我:無索引的話,嵌套循環就完事了嗷。有索引的話,則可以利用索引來提升性能.
面試官:說回join_buffer?你認為join_buffer里面存儲的是什么?
我:在掃描過程中,數據庫會選擇一個表把他要返回以及需要進行和其他表進行比較的數據放進join_buffer
面試官:有索引的情況下是怎么處理的?
我:這個就比較簡單了,直接讀取兩個表的索引樹進行比較就完事了嗷,我這邊介紹一下無索引的處理方式
Nested Loop Join
嵌套循環,每次只讀取表中的一行數據,也就是說如果outerTable有10萬行數據, innerTable有100行數據,需要讀取10000000次(假設這兩個表的文件沒有被操作系統給緩存到內存, 我們稱之為冷數據表)
當然現在沒啥數據庫引擎使用這種算法(太慢了)
Block nested loop
Block?塊,也就是說每次都會取一塊數據到內存以減少I/O的開銷
當沒有索引可以使用的時候,MySQL InnoDB 就會使用這種算法
考慮以下兩個表?t_a?和t_b
當無法使用索引執行join操作的時候,InnoDB會自動使用Block nested loop?算法
總結
上學時,數據庫老師最喜歡考數據庫范式,直到上班才學會一切以性能為準,能冗余就冗余,實在冗余不了的就join如果join真的影響到性能。試著調大你的join_buffer_size, 或者換固態硬盤。
想知道更多?掃描下面的二維碼關注我
后臺回復"技術",加入技術群
后臺回復“k8s”,可領取k8s資料
【精彩推薦】
原創|OpenAPI標準規范
如此簡單| ES最全詳細使用教程
ClickHouse到底是什么?為什么如此牛逼!
原來ElasticSearch還可以這么理解
面試官:InnoDB中一棵B+樹可以存放多少行數據?
微服務下如何解耦?對于已經緊耦合下如何重構?
如何構建一套高性能、高可用、低成本的視頻處理系統?
架構之道:分離業務邏輯和技術細節
星巴克不使用兩階段提交
點個贊+在看,少個 bug?????
總結
以上是生活随笔為你收集整理的面试官灵魂拷问:为什么 SQL 语句不要过多的 join?的全部內容,希望文章能夠幫你解決所遇到的問題。
- 上一篇: 中台不是万能药,关于中台的思考和尝试
- 下一篇: 好文推荐 | 分布式锁用Redis好,还