文章目錄

• 在哪兒加緩存
• 緩存什么內(nèi)容
• • 緩存原始查庫結(jié)果
  • 緩存數(shù)據(jù)對(duì)象
• 怎么查詢緩存結(jié)果
• • 預(yù)留緩存模式
  • 直讀模式
  • 直寫模式
  • 回寫式緩存
  • 繞寫式緩存
  • 提前刷新模式
• 緩存滿了如何處理
• 參考

讀寫分離、分庫分表、反范式化、采用 NoSQL……如果這些擴(kuò)展手段全都上了，數(shù)據(jù)響應(yīng)依舊越來越慢，還有什么解決辦法嗎？
有，加緩存。 利用緩存層來吸收不均勻的負(fù)載和流量高峰。

在哪兒加緩存

理論上，在數(shù)據(jù)層之前的任意一層加緩存都能夠阻擋流量，減少最終抵達(dá)數(shù)據(jù)庫的操作請(qǐng)求：

按緩存所處位置分為 4 種：

• 客戶端緩存：包括HTTP 緩存、瀏覽器緩存等
• Web 緩存：例如CDN、反向代理服務(wù)等
• 應(yīng)用層緩存：例如Memcached、Redis等鍵值存儲(chǔ)
• 數(shù)據(jù)庫緩存：一些數(shù)據(jù)庫提供了內(nèi)置的緩存支持，比如查詢緩存（query cache）

為了減輕數(shù)據(jù)庫的負(fù)載，我們?cè)趹?yīng)用程序和數(shù)據(jù)存儲(chǔ)之間加個(gè)鍵值存儲(chǔ)作為緩沖層：通過內(nèi)存中緩存的數(shù)據(jù)來響應(yīng)一部分請(qǐng)求，而不必實(shí)際執(zhí)行查庫操作，從而提升數(shù)據(jù)響應(yīng)速度。

緩存什么內(nèi)容

• Cached Database Queries：緩存原始查庫結(jié)果
• Cached Objects：緩存應(yīng)用程序中的數(shù)據(jù)模型，比如重新組裝過的數(shù)據(jù)集，或者整個(gè)數(shù)據(jù)模型類實(shí)例

緩存原始查庫結(jié)果

根據(jù)查詢語句生成key，將查庫結(jié)果緩存起來，例如：

key = "user.%s" % user_id user_blob = memcache.get(key) if user_blob is None:user = mysql.query("SELECT * FROM users WHERE user_id=\"%s\"", user_id)if user:memcache.set(key, json.dumps(user))return user else:return json.loads(user_blob)

這種模式的主要缺陷在于難以處理緩存過期，因?yàn)閿?shù)據(jù)與key（即查詢語句）之間并沒有明確的關(guān)聯(lián)，數(shù)據(jù)發(fā)生變化后，很難精確地刪掉緩存中的所有相關(guān)條目。試想，一個(gè)單元格發(fā)生變化，會(huì)影響哪些查詢語句？
盡管如此，這仍然是最常用的緩存模式，因?yàn)榭梢宰龀鐾讌f(xié)，比如：

• 只緩存與查詢語句有直接關(guān)聯(lián)的數(shù)據(jù)，排序、統(tǒng)計(jì)、篩選之類的計(jì)算結(jié)果統(tǒng)統(tǒng)都不存了
• 不求精確，把所有可能受影響的緩存條目都刪掉

緩存數(shù)據(jù)對(duì)象

另一種思路是將應(yīng)用程序中的數(shù)據(jù)模型對(duì)象緩存起來，這樣原始數(shù)據(jù)與緩存之間就有了邏輯關(guān)聯(lián)，從而輕松解決緩存更新的難題。
無論數(shù)據(jù)是如何查詢，如何加工轉(zhuǎn)換的，只把最終得到的數(shù)據(jù)模型對(duì)象緩存起來，原始數(shù)據(jù)發(fā)生變化時(shí)，直接把相應(yīng)的數(shù)據(jù)對(duì)象整個(gè)移除。對(duì)應(yīng)用程序而言，數(shù)據(jù)對(duì)象比原始數(shù)據(jù)更容易管理和維護(hù)，因此，建議緩存數(shù)據(jù)對(duì)象，而不是原始數(shù)據(jù)。

怎么查詢緩存結(jié)果

常見的緩存數(shù)據(jù)訪問策略有 6 種：

• Cache-aside/Lazy loading：預(yù)留緩存
• Read-through：直讀式
• Write-through：直寫式
• Write-behind/Write-back：回寫式
• Write-around：繞寫式
• Refresh-ahead：刷新式

預(yù)留緩存模式

數(shù)據(jù)請(qǐng)求優(yōu)先走緩存，未命中緩存時(shí)才查庫，并把結(jié)果緩存起來，所以緩存是按需的（Lazy loading），只有實(shí)際訪問過的數(shù)據(jù)才會(huì)被緩存起來。緩存與數(shù)據(jù)庫之間沒有直接關(guān)系（緩存位于一旁，所以叫 Cache-aside），由應(yīng)用程序?qū)⑿枰臄?shù)據(jù)從數(shù)據(jù)庫中讀出并填充到緩存中。
主要問題在于：

• 未命中緩存時(shí)需要 3 步，延遲不容忽視（對(duì)于冷啟動(dòng)可以手動(dòng)預(yù)熱）
• 緩存可能會(huì)變舊（一般通過設(shè)置 TTL 來強(qiáng)制更新）

直讀模式

直讀模式下，緩存擋在數(shù)據(jù)庫之前，應(yīng)用程序不與數(shù)據(jù)庫直接交互，而是直接從緩存中讀取數(shù)據(jù)。
未命中緩存時(shí)，由緩存負(fù)責(zé)查庫，并自己緩存起來。與預(yù)留緩存唯一的區(qū)別在于查庫的工作由緩存來完成，而不是應(yīng)用程序。

直寫模式

類似于直讀模式，緩存也擋在數(shù)據(jù)庫之前，數(shù)據(jù)先寫到緩存，再寫入數(shù)據(jù)庫。
也就是說，所有寫操作必須先經(jīng)過緩存。
一般與直讀式緩存相結(jié)合，雖然寫操作多過一層緩存（存在額外的延遲），但保證了緩存數(shù)據(jù)的一致性（避免緩存變舊）。此時(shí)，緩存就像數(shù)據(jù)庫的代理，讀寫都走緩存，緩存再查庫或?qū)懖僮魍降綌?shù)據(jù)庫。

回寫式緩存

與直寫式唯一的區(qū)別在于異步寫入數(shù)據(jù)庫，進(jìn)而允許批處理以及寫操作合并。同樣能夠與直讀式緩存結(jié)合使用，而且不存在直寫式中寫操作的性能問題，但僅保證最終一致性。

繞寫式緩存

所謂繞寫式緩存就是寫操作不經(jīng)過（繞過）緩存，由應(yīng)用程序直接寫入數(shù)據(jù)庫，僅緩存讀操作。可與預(yù)留緩存或直讀緩存結(jié)合使用：

提前刷新模式

提前刷新，在緩存過期之前，自動(dòng)刷新（重新加載）最近訪問過的條目。甚至可以通過預(yù)加載來減少延遲，但如果預(yù)測(cè)不準(zhǔn)反而會(huì)導(dǎo)致性能下降。

緩存滿了如何處理

當(dāng)然，緩存空間是極其有限的，所以還要有逐出策略（Eviction Policy），從緩存中剔除一些不太可能用到的條目，常用策略如下：

• LRU（Least Recently Used）：最常用的一種策略，根據(jù)程序運(yùn)行時(shí)的局部性原理，在一段時(shí)間內(nèi)，大概率訪問相同的數(shù)據(jù)，所以將最近沒有用到的數(shù)據(jù)剔除出去
• LFU（Least Frequently Used）：根據(jù)使用頻率，將最不常用的數(shù)據(jù)剔除出去
• MRU（Most Recently Used）：在有些場(chǎng)景下，需要?jiǎng)h掉最近用過的條目
• FIFO（First In, First Out）：先進(jìn)先出，剔除最早訪問過的數(shù)據(jù)

參考

http://www.ayqy.net/blog/caching/

總結(jié)

以上是生活随笔為你收集整理的后台系统可扩展性学习笔记（十三）缓存的全部?jī)?nèi)容，希望文章能夠幫你解決所遇到的問題。

如果覺得生活随笔網(wǎng)站內(nèi)容還不錯(cuò)，歡迎將生活随笔推薦給好友。