• 上節(jié)系統(tǒng)了解了一個(gè)查詢語(yǔ)句的執(zhí)行流程，并介紹了執(zhí)行過程中涉及的出合理模塊。
• 連接器、分析器、優(yōu)化器、執(zhí)行器等功能模塊，最后到達(dá)存儲(chǔ)引擎。
• 一條SQL更新語(yǔ)句的執(zhí)行流程
• 從一個(gè)表的一條sql語(yǔ)句說起
• create table T(ID int primary key, c int);
• 表的創(chuàng)建語(yǔ)句，這個(gè)表有一個(gè)主鍵 ID 和一個(gè)整型字段 c
  • 將 ID = 2 這一行的值加1，SQL語(yǔ)句:

• update T set c = c + 1 where ID = 2

• • • 連接器：
      • 執(zhí)行語(yǔ)句前先連接數(shù)據(jù)庫(kù)。

• • • 查詢緩存：
      • 有一個(gè)表有更新的時(shí)候，跟這個(gè)表有關(guān)的查詢緩存會(huì)失效，
      • 所以這條語(yǔ)句就會(huì)把表 T 上所有的緩存的結(jié)果都清空。

• • • 不建議使用查詢緩存的原因。
    • 分析器：
      • 通過 詞法 和 語(yǔ)法 解析 知道這是一條更新語(yǔ)句。

• • • 優(yōu)化器：
      • 決定使用 ID 這個(gè) 索引

• • • 執(zhí)行器：
      • 具體執(zhí)行，找到這一行，然后更新。

• • 與查詢流程不同的是。
    • 更新流程還涉及兩個(gè)重要的日志模塊，它們正是我們今天要討論的主角：
      • redo log（ 重做日志 ）
      • binlog （ 歸檔日志 ）。

• 重要的日志模塊：redo log（重做日志）
  • EG：
    • 《孔乙己》
      • 酒店掌柜有一個(gè)粉板，專門用來記錄客人的賒賬記錄。
        • 如果賒賬的人不多，那么他可以把顧客的名和賬目寫在板上。
        • 如果賒賬的人多了。粉板總會(huì)有記不下的時(shí)候，

這個(gè)時(shí)候掌柜一定有一個(gè)專門記錄賒賬的賬本。

• • • 如果有人要賒賬或者還賬的話。掌柜一般有兩種做法：
      • 直接把賬本翻出來，把這次賒賬加上 或 扣除掉；
      • 先在粉板上記下這次的賬，等打打烊的時(shí)候翻出來核算；

• • • 生意紅火時(shí)，掌柜選擇后者，因前者操作太麻煩了。
      • 找到這人的賒賬總額那條記錄
      • 再進(jìn)行核算
      • 最后將結(jié)果寫到賬本上；
      • 效率低下；

• • 同理，MySQL也有這樣的問題：
    • 如果每次更新操作都需要寫進(jìn)磁盤，然后磁盤找到對(duì)應(yīng)記錄，再進(jìn)行更新。
    • 整個(gè)過程 IO 成本、查找成本都很高。
    • 為了解決這個(gè)問題，MySQL就用了類似掌柜的粉板思路來提升更新效率

• • 預(yù)寫日志 - Write-AheadLogging
    • 粉板 和 賬本配合的整個(gè)過程，其實(shí)就是MySQL里的 WAL 技術(shù) - 全稱：Write-AheadLogging。（預(yù)寫日志）
      • 關(guān)鍵點(diǎn)：先寫日志，再寫磁盤（先寫粉板，不忙時(shí)寫賬本）
      • 當(dāng)有一條記錄需要更新的時(shí)候，
        • InnoDB引擎會(huì)先把記錄寫到 redo log-重做日志（粉板）里面，并更新內(nèi)存，這個(gè)時(shí)候更新就算完成了。
        • InnoDB引擎會(huì)在適當(dāng)?shù)臅r(shí)候，將這個(gè)操作記錄更新到磁盤里面，而這個(gè)更新往往是再系統(tǒng)比較空閑的時(shí)候做，就像打烊后掌柜做的事。

• • 如果今天賒賬不多，可以等打烊后再整理。
    • 如果某天賒賬特別多，粉板寫滿了：
      • 這時(shí)，掌柜放下手中的活，把粉板中的一部分賒賬記錄更新到賬本中，然后把這些記錄從粉板上擦掉，為記新賬騰出空間。

• • crash-safe
    • 同理：InnoDB的 redo log 是固定大小的；
      • 比如可以配置為一組 4 個(gè)文件，每個(gè)文件的大小是 1GB，
      • 那么這塊“粉板”總共就可以記錄 4GB 的操作。
      • 從頭開始寫，寫到末尾就又回到開頭循環(huán)寫；
      • 如下面這個(gè)圖所示。

• • • • • write pos 是當(dāng)前記錄的位置，一邊寫一邊后移，

寫到第 3 號(hào)文件末尾后就回到 0 號(hào)文件開頭。

• • • • • checkpoint 是當(dāng)前要擦除的位置，也是往后推移并且循環(huán)的，

擦除記錄前要把記錄更新到數(shù)據(jù)文件。

• • • • • write pos 和 checkpoint 之間的是“粉板”上還空著的部分，可以用來記錄新的操作。
        • 如果 write pos 追上 checkpoint，表示“粉板”滿了，

這時(shí)候不能再執(zhí)行新的更新，得停下來先擦掉一些記錄，

把 checkpoint 推進(jìn)一下。

• • • • 有了 redo log
        • nnoDB 就可以保證即使數(shù)據(jù)庫(kù)發(fā)生異常重啟，
        • 之前提交的記錄都不會(huì)丟失，這個(gè)能力稱為 crash-safe。

• • • • 理解 crash-safe 這個(gè)概念，
        • 想想賒賬記錄的例子。

只要賒賬記錄記在了粉板上或?qū)懺诹速~本上，

之后即使掌柜忘記了，比如突然停業(yè)幾天，

恢復(fù)生意后依然可以通過賬本和粉板上的數(shù)據(jù)明確賒賬賬目。

• • • • • 人忘記了，但是之前的記錄還存在；

• 重要的日志模塊：binlog（歸檔日志）
  • 上節(jié)說過，MySQL整體來看，分為兩塊：
    • Server層：主要做MySQL功能層面的事情；
    • 引擎層：負(fù)責(zé)存儲(chǔ)相關(guān)的具體事宜。
    • redo log（重做日志） 是InnoDB引擎特有的日志。
    • Server層也有自己的日志，稱為binlog（歸檔日志）。
    • 為什么有兩份日志？
      • 因?yàn)樽铋_始 MySQL 里并沒有 InnoDB 引擎。
      • MySQL 自帶的引擎是 MyISAM，
        • MyISAM 沒有 crash-safe 的能力，binlog 日志只能用于歸檔。

• • • • InnoDB 是另一個(gè)公司以插件形式引入 MySQL 的，
        • 既然只依靠 binlog 是沒有 crash-safe 能力的，
        • 所以 InnoDB 使用另外一套日志系統(tǒng)——也就是 redo log 來實(shí)現(xiàn) crash-safe 能力。

• • 兩種日志區(qū)別：
    • redo log 是 InnoDB特有的；
      • binlog 是MySQL的Server層實(shí)現(xiàn)的，所有引擎都可以使用。

• • • redo log 是物理日志，記錄的是 “ 在某個(gè)數(shù)據(jù)頁(yè)上做了什么修改 ”；
      • binlog 是 邏輯日志。記錄的是這個(gè)語(yǔ)句的原始邏輯；
        • eg：“ 給 ID = 2 這一行的 c 字段 加1 ”；

• • • redo log 是循環(huán)寫的，空間固定會(huì)寫完；
      • binlog 是可以追加寫入的。
        • “ 追加寫 ”是指binlog 文件 寫到一定大小后會(huì)切換到下一個(gè)，并不會(huì)覆蓋以前的日志。

• • 執(zhí)行器 和 InnoDB 引擎在執(zhí)行 update語(yǔ)句時(shí)的內(nèi)部流程。
    • 執(zhí)行器 先 找 引擎 取 ID = 2 這一行。
      • ID 是主鍵，引擎直接用樹搜索找到這一行。
        • 如果 ID 這一行所在的數(shù)據(jù)頁(yè)本來就在內(nèi)存中，就直接返回給執(zhí)行器；
        • 否則，需要先從磁盤讀入內(nèi)存，然后在返回；

• • • • 執(zhí)行器 拿到 引擎 給的 行數(shù)據(jù)，把這個(gè)值 加上 1，得到新的一行數(shù)據(jù)，再調(diào)用引擎接口寫入這行數(shù)據(jù)。
      • 引擎將這行新數(shù)據(jù)更新到內(nèi)存中，同時(shí)將這個(gè)更新操作記錄到redo log 里面，此時(shí)redo log 處于 prepare狀態(tài)。
        • 然后告知執(zhí)行器執(zhí)行完成了，隨時(shí)可以提交事務(wù)。

• • • • 執(zhí)行器生成這個(gè)操作的 binlog，并把這binlog寫入磁盤。
      • 執(zhí)行器調(diào)用引擎的提交事務(wù)接口，引擎把剛剛寫入的 redo log 改成 提交（commit）狀態(tài)，更新完成。
      • update語(yǔ)句的執(zhí)行流程圖：淺色框表示是在 InnoDB 內(nèi)部執(zhí)行的，深色框表示是在執(zhí)行器中執(zhí)行的。

• • • • 最后三步
        • 
          將 redo log 的寫入拆成了兩個(gè)步驟：prepare 和 commit，
        • 這就是"兩階段提交"。

• 兩階段提交
  • 為什么必須有兩階段提交？
    • 這是為了讓兩份日志之間的邏輯一致。
    • 關(guān)系：怎樣讓數(shù)據(jù)庫(kù)恢復(fù)到半個(gè)月任意一秒的狀態(tài)？

• • 前面我們說過了，binlog 會(huì)記錄所有的邏輯操作，并且是采用“追加寫”的形式。
  • 如果你的 DBA 承諾說半個(gè)月內(nèi)可以恢復(fù)，那么備份系統(tǒng)中一定會(huì)保存最近半個(gè)月的所有 binlog，同時(shí)系統(tǒng)會(huì)定期做整庫(kù)備份。
  • 這里的“定期”取決于系統(tǒng)的重要性，可以是一天一備，也可以是一周一備。
  • 當(dāng)需要恢復(fù)到指定的某一秒時(shí)，
    • 比如某天下午兩點(diǎn)發(fā)現(xiàn)中午十二點(diǎn)有一次誤刪表，需要找回?cái)?shù)據(jù)，
    • 那你可以這么做：
      • 首先，找到最近的一次全量備份，如果你運(yùn)氣好，可能就是昨天晚上的一個(gè)備份，從這個(gè)備份恢復(fù)到臨時(shí)庫(kù)；
      • 然后，從備份的時(shí)間點(diǎn)開始，將備份的 binlog 依次取出來，重放到中午誤刪表之前的那個(gè)時(shí)刻。
      • 這樣你的臨時(shí)庫(kù)就跟誤刪之前的線上庫(kù)一樣了，然后你可以把表數(shù)據(jù)從臨時(shí)庫(kù)取出來，按需要恢復(fù)到線上庫(kù)去。

• • 說完了數(shù)據(jù)恢復(fù)過程，我們回來說說，為什么日志需要“兩階段提交”。
    • 這里不妨用反證法來進(jìn)行解釋。
    • 由于 redo log 和 binlog 是兩個(gè)獨(dú)立的邏輯，
      • 如果不用兩階段提交，
      • 要么就是先寫完 redo log 再寫 binlog，或者采用反過來的順序。我們看看這兩種方式會(huì)有什么問題。仍然用前面的 update 語(yǔ)句來做例子。
        • 假設(shè)當(dāng)前 ID=2 的行，字段 c 的值是 0，再假設(shè)執(zhí)行 update 語(yǔ)句過程中在寫完第一個(gè)日志后，第二個(gè)日志還沒有寫完期間發(fā)生了 crash，會(huì)出現(xiàn)什么情況呢？

先寫 redo log 后寫 binlog。假設(shè)在 redo log 寫完，binlog 還沒有寫完的時(shí)候，MySQL 進(jìn)程異常重啟。

由于我們前面說過的，redo log 寫完之后，系統(tǒng)即使崩潰，仍然能夠把數(shù)據(jù)恢復(fù)回來，所以恢復(fù)后這一行 c 的值是 1。但是由于 binlog 沒寫完就 crash 了，這時(shí)候 binlog 里面就沒有記錄這個(gè)語(yǔ)句。因此，之后備份日志的時(shí)候，存起來的 binlog 里面就沒有這條語(yǔ)句。然后你會(huì)發(fā)現(xiàn)，如果需要用這個(gè) binlog 來恢復(fù)臨時(shí)庫(kù)的話，由于這個(gè)語(yǔ)句的 binlog 丟失，這個(gè)臨時(shí)庫(kù)就會(huì)少了這一次更新，恢復(fù)出來的這一行 c 的值就是 0，與原庫(kù)的值不同。

先寫 binlog 后寫 redo log。如果在 binlog 寫完之后 crash，由于 redo log 還沒寫，崩潰恢復(fù)以后這個(gè)事務(wù)無效，所以這一行 c 的值是 0。但是 binlog 里面已經(jīng)記錄了“把 c 從 0 改成 1”這個(gè)日志

• • 如果不使用“兩階段提交”，
    • 那么數(shù)據(jù)庫(kù)的狀態(tài)就有可能和用它的日志恢復(fù)出來的庫(kù)的狀態(tài)不一致。
      • 不只是誤操作后需要用這個(gè)過程來恢復(fù)數(shù)據(jù)。
      • 當(dāng)你需要擴(kuò)容的時(shí)候，也就是需要再多搭建一些備庫(kù)來增加系統(tǒng)的讀能力的時(shí)候，
        • 現(xiàn)在常見的做法也是用全量備份加上應(yīng)用 binlog 來實(shí)現(xiàn)的，
        • 這個(gè)“不一致”就會(huì)導(dǎo)致你的線上出現(xiàn)主從數(shù)據(jù)庫(kù)不一致的情況。
        • 簡(jiǎn)單說，redo log 和 binlog 都可以用于表示事務(wù)的提交狀態(tài)，而兩階段提交就是讓這兩個(gè)狀態(tài)保持邏輯上的一致。

• 小結(jié)
  • MySQL 里面最重要的兩個(gè)日志，
    • 即物理日志 redo log 和邏輯日志 binlog。
      • redo log 用于保證 crash-safe 能力。
        • innodb_flush_log_at_trx_commit 這個(gè)參數(shù)設(shè)置成 1 的時(shí)候，表示每次事務(wù)的 redo log 都直接持久化到磁盤。這個(gè)參數(shù)我建議你設(shè)置成 1，這樣可以保證 MySQL 異常重啟之后數(shù)據(jù)不丟失。

• • • • sync_binlog 這個(gè)參數(shù)設(shè)置成 1 的時(shí)候，表示每次事務(wù)的 binlog 都持久化到磁盤。這個(gè)參數(shù)我也建議你設(shè)置成 1，這樣可以保證 MySQL 異常重啟之后 binlog 不丟失。

• • 兩階段提交”
    • 兩階段提交是跨系統(tǒng)維持?jǐn)?shù)據(jù)邏輯一致性時(shí)常用的一個(gè)方案，即使你不做數(shù)據(jù)庫(kù)內(nèi)核開發(fā)，日常開發(fā)中也有可能會(huì)用到。

• • 思考題？
    • 定期全量備份的周期“取決于系統(tǒng)重要性，有的是一天一備，有的是一周一備”。那么在什么場(chǎng)景下，一天一備會(huì)比一周一備更有優(yōu)勢(shì)呢？或者說，它影響了這個(gè)數(shù)據(jù)庫(kù)系統(tǒng)的哪個(gè)指標(biāo)？

• • Redo log 和 Binlog
    • Redo log不是記錄數(shù)據(jù)頁(yè)“更新之后的狀態(tài)”，而是記錄這個(gè)頁(yè) “做了什么改動(dòng)”。
    • Binlog有兩種模式，statement 格式的話是記sql語(yǔ)句， row格式會(huì)記錄行的內(nèi)容，記兩條，更新前和更新后都有。

• • 他人總結(jié)：
    • redo是物理的，binlog是邏輯的；
    • 現(xiàn)在由于redo是屬于InnoDB引擎，所以必須要有binlog，因?yàn)槟憧梢允褂脛e的引擎保證數(shù)據(jù)庫(kù)的一致性，必須要保證2份日志一致，使用的2階段式提交；其實(shí)感覺像事務(wù)，不是成功就是失敗，不能讓中間環(huán)節(jié)出現(xiàn)，也就是一個(gè)成功，一個(gè)失敗；
    • 如果有一天mysql只有InnoDB引擎了，有redo來實(shí)現(xiàn)復(fù)制，那么感覺oracle的DG就誕生了，物理的速度也將遠(yuǎn)超邏輯的，畢竟只記錄了改動(dòng)向量；
    • binlog幾大模式，一般采用row，因?yàn)橛龅綍r(shí)間，從庫(kù)可能會(huì)出現(xiàn)不一致的情況，但是row更新前后都有，會(huì)導(dǎo)致日志變大；
    • 最后2個(gè)參數(shù)，保證事務(wù)成功，日志必須落盤，這樣，數(shù)據(jù)庫(kù)crash后，就不會(huì)丟失某個(gè)事務(wù)的數(shù)據(jù)了；
    • 兩階段提交：

• Bin log 用于記錄了完整的邏輯記錄，所有的邏輯記錄在 bin log 里都能找到，所以在備份恢復(fù)時(shí)，是以 bin log 為基礎(chǔ)，通過其記錄的完整邏輯操作，備份出一個(gè)和原庫(kù)完整的數(shù)據(jù)。
• 在兩階段提交時(shí)，若 redo log 寫入成功，bin log 寫入失敗，則后續(xù)通過 bin log 恢復(fù)時(shí)，恢復(fù)的數(shù)據(jù)將會(huì)缺失一部分。(如 redo log 執(zhí)行了 update t set status = 1，此時(shí)原庫(kù)的數(shù)據(jù) status 已更新為 1，而 bin log 寫入失敗，沒有記錄這一操作，后續(xù)備份恢復(fù)時(shí)，其 status = 0，導(dǎo)致數(shù)據(jù)不一致）。
• 若先寫入 bin log，當(dāng) bin log 寫入成功，而 redo log 寫入失敗時(shí)，原庫(kù)中的 status 仍然是 0 ，但是當(dāng)通過 bin log 恢復(fù)時(shí)，其記錄的操作是 set status = 1，也會(huì)導(dǎo)致數(shù)據(jù)不一致。
  • • • 其核心就是， redo log 記錄的，即使異常重啟，都會(huì)刷新到磁盤，而 bin log 記錄的， 則主要用于備份。

• • • 對(duì)問題的理解
      • 備份時(shí)間周期的長(zhǎng)短，感覺有2個(gè)方面：
        • 首先，是恢復(fù)數(shù)據(jù)丟失的時(shí)間，既然需要恢復(fù)，肯定是數(shù)據(jù)丟失了。如果一天一備份的話，只要找到這天的全備，加入這天某段時(shí)間的binlog來恢復(fù)，如果一周一備份，假設(shè)是周一，而你要恢復(fù)的數(shù)據(jù)是周日某個(gè)時(shí)間點(diǎn)，那就，需要全備+周一到周日某個(gè)時(shí)間點(diǎn)的全部binlog用來恢復(fù)，時(shí)間相比前者需要增加很多；看業(yè)務(wù)能忍受的程度；
        • 其次，是數(shù)據(jù)庫(kù)丟失，如果一周一備份的話，需要確保整個(gè)一周的binlog都完好無損，否則將無法恢復(fù)；而一天一備，只要保證這天的binlog都完好無損；當(dāng)然這個(gè)可以通過校驗(yàn)，或者冗余等技術(shù)來實(shí)現(xiàn)，相比之下，上面那點(diǎn)更重要

總結(jié)

以上是生活随笔為你收集整理的.sql文件如何执行_随手记 02 日志系统：一条SQL更新语句是如何执行的？的全部?jī)?nèi)容，希望文章能夠幫你解決所遇到的問題。

如果覺得生活随笔網(wǎng)站內(nèi)容還不錯(cuò)，歡迎將生活随笔推薦給好友。