02 | 日志系统:一条 SQL 更新语句是如何执行的
??可能經常聽 DBA 同事說,MySQL 可以恢復到半個月內任意一秒的狀態,驚嘆的同時,你是不是心中也會不免會好奇,這是怎樣做到的呢?我們還是從一個表的一條更新語句說起,下面是這個表的創建語句,這個表有一個主鍵 ID和一個整型字段 c:
> create table T(ID int primary key, c int);??如果要將 ID=2 這一行的值加 1,SQL 語句就會這么寫:
mysql> update T set c=c+1 where ID=2;??前面我有跟你介紹過 SQL 語句基本的執行鏈路,這里我再把那張圖拿過來,你也可以先簡單看看這個圖回顧下。首先,可以確定的說,查詢語句的那一套流程,更新語句也是同樣會走一遍。
??你執行語句前要先連接數據庫,這是連接器的工作。
??前面我們說過,在一個表上有更新的時候,跟這個表有關的查詢緩存會失效,所以這條語句就會把表 T 上所有緩存結果都清空。這也就是我們一般不建議使用查詢緩存的原因。
??接下來,分析器會通過詞法和語法解析知道這是一條更新語句。優化器決定要使用 ID 這個索引。然后,執行器負責具體執行,找到這一行,然后更新。與查詢流程不一樣的是,更新流程還涉及兩個重要的日志模塊,它們正是我們今天要討論的主角:redo log(重做日志)和 binlog(歸檔日志)。如果接觸 MySQL,那這兩個詞肯定是繞不過的,我后面的內容里也會不斷地和你強調。不過話說回來,redo log 和 binlog在設計上有很多有意思的地方,這些設計思路也可以用到你自己的程序里。
重要的日志模塊:redo log
?? MySQL 如果每一次的更新操作都需要寫進磁盤,然后磁盤也要找到對應的那條記錄,然后再更新,整個過程 IO 成本、查找成本都很高。為了解決這個問題,MySQL 的設計者就用了類似酒店掌柜粉板的思路來提升更新效率。
?? 當有一條記錄需要更新的時候,InnoDB 引擎就會先把記錄寫到 redo log(粉板)里面,并更新內存,這個時候更新就算完成了。同時,InnoDB 引擎會在適當的時候,將這個操作記錄更新到磁盤里面,而這個更新往往是在系統比較空閑的時候做,這就像打烊以后掌柜做的事。
?? 如果今天賒賬的不多,掌柜可以等打烊后再整理。但如果某天賒賬的特別多,粉板寫滿了,又怎么辦呢?這個時候掌柜只好放下手中的活兒,把粉板中的一部分賒賬記錄更新到賬本中,然后把這些記錄從粉板上擦掉,為記新賬騰出空間。
?? 與此類似,InnoDB 的 redo log 是固定大小的,比如可以配置為一組 4 個文件,每個文件的大小是 1GB,那么這塊“粉板”總共就可以記錄 4GB 的操作。從頭開始寫,寫到末尾就又回到開頭循環寫,如下面這個圖所示。
?? write pos 是當前記錄的位置,一邊寫一邊后移,寫到第 3 號文件末尾后就回到 0 號文件開頭checkpoint 是當前要擦除的位置,也是往后推移并且循環的,擦除記錄前要把記錄更新到數據文件。
?? write pos 和 checkpoint 之間的是“粉板”上還空著的部分,可以用來記錄新的操作。如果 write pos 追上 checkpoint,表示“粉板”滿了,這時候不能再執行新的更新,得停下來先擦掉一些記錄,把 checkpoint 推進一下。
?? 有了 redo log,InnoDB 就可以保證即使數據庫發生異常重啟,之前提交的記錄都不會丟失,這個能力稱為crash-safe。
?? 要理解 crash-safe 這個概念,可以想想我們前面賒賬記錄的例子。只要賒賬記錄記在了粉板上或寫在了賬本上,之后即使掌柜忘記了,比如突然停業幾天,恢復生意后依然可以通過賬本和粉板上的數據明確賒賬賬目。
重要的日志模塊:binlog
??前面我們講過,MySQL 整體來看,其實就有兩塊:一塊是 Server 層,它主要做的是MySQL 功能層面的事情;還有一塊是引擎層,負責存儲相關的具體事宜。上面我們聊到的粉板 redo log 是 InnoDB 引擎特有的日志,而 Server 層也有自己的日志,稱binlog(歸檔日志)。
因為最開始 MySQL 里并沒有 InnoDB 引擎。
??MySQL 自帶的引擎是 MyISAM,但是MyISAM 沒有 crash-safe 的能力,binlog 日志只能用于歸檔。而InnoDB 是另一個公司以插件形式引入 MySQL 的,既然只依靠 binlog 是沒有 crash-safe 能力的,所以 InnoDB使用另外一套日志系統——也就是 redo log 來實現 crash-safe 能力。
這兩種日志有以下三點不同。
有了對這兩個日志的概念性理解,我們再來看執行器和 InnoDB 引擎在執行這個簡單的update 語句時的內部流程。
4. 執行器先找引擎取 ID=2 這一行。ID 是主鍵,引擎直接用樹搜索找到這一行。如果ID=2 這一行所在的數據頁本來就在內存中,就直接返回給執行器;否則,需要先從磁盤讀入內存,然后再返回。
5. 執行器拿到引擎給的行數據,把這個值加上 1,比如原來是 N,現在就是 N+1,得到新的一行數據,再調用引擎接口寫入這行新數據。
6. 引擎將這行新數據更新到內存中,同時將這個更新操作記錄到 redo log 里面,此時redo log 處于 prepare 狀態。然后告知執行器執行完成了,隨時可以提交事務。
7. 執行器生成這個操作的 binlog,并把 binlog 寫入磁盤。
8. 執行器調用引擎的提交事務接口,引擎把剛剛寫入的 redo log 改成提交(commit)狀態,更新完成。
?? 你可能注意到了,最后三步看上去有點“繞”,將 redo log 的寫入拆成了兩個步驟:prepare 和 commit,這就是"兩階段提交"。
兩階段提交
?? 為什么必須有“兩階段提交”呢?這是為了讓兩份日志之間的邏輯一致。要說明這個問題,我們得從文章開頭的那個問題說起:怎樣讓數據庫恢復到半個月內任意一秒的狀態?
?? 前面我們說過了,binlog 會記錄所有的邏輯操作,并且是采用“追加寫”的形式。如果你的 DBA 承諾說半個月內可以恢復,那么備份系統中一定會保存最近半個月的所有binlog,同時系統會定期做整庫備份。這里的“定期”取決于系統的重要性,可以是一天一備,也可以是一周一備。
??當需要恢復到指定的某一秒時,比如某天下午兩點發現中午十二點有一次誤刪表,需要找回數據,那你可以這么做:
??好了,說完了數據恢復過程,我們回來說說,為什么日志需要“兩階段提交”。這里不妨用反證法來進行解釋。
3. 先寫 redo log 后寫 binlog。假設在 redo log 寫完,binlog 還沒有寫完的時候,MySQL 進程異常重啟。由于我們前面說過的,redo log 寫完之后,系統即使崩潰,仍然能夠把數據恢復回來,所以恢復后這一行 c 的值是 1。但是由于 binlog 沒寫完就 crash 了,這時候 binlog 里面就沒有記錄這個語句。
因此,之后備份日志的時候,存起來的 binlog 里面就沒有這條語句。然后你會發現,如果需要用這個 binlog 來恢復臨時庫的話,由于這個語句的 binlog 丟失,這個臨時庫就會少了這一次更新,恢復出來的這一行 c 的值就是 0,與原庫的值不同。
4. 先寫 binlog 后寫 redo log。如果在 binlog 寫完之后 crash,由于 redo log 還沒寫,崩潰恢復以后這個事務無效,所以這一行 c 的值是 0。但是 binlog 里面已經記錄了“把c 從 0 改成 1”這個日志。所以,在之后用 binlog 來恢復的時候就多了一個事務出來,恢復出來的這一行 c 的值就是 1,與原庫的值不同。
小結
今天,我介紹了 MySQL 里面最重要的兩個日志,即物理日志 redo log 和邏輯日志binlog。
redo log 用于保證 crash-safe 能力innodb_flush_log_at_trx_commit 這個參數設置成1
的時候,表示每次事務的 redo log 都直接持久化到磁盤。這個參數我建議你設置成 1,這樣可以保證 MySQL 異常重啟之后數據不丟失。
sync_binlog 這個參數設置成 1 的時候,表示每次事務的 binlog 都持久化到磁盤。這個參數我也建議你設置成 1,這樣可以保證 MySQL 異常重啟之后 binlog 不丟失。
總結
以上是生活随笔為你收集整理的02 | 日志系统:一条 SQL 更新语句是如何执行的的全部內容,希望文章能夠幫你解決所遇到的問題。
- 上一篇: 01 | 基础架构:一条 SQL 查询语
- 下一篇: windows 下 logstash 安