圖片來源pexels

中生代技術(shù)

鏈接技術(shù)大咖，分享技術(shù)干貨

接力技術(shù)，鏈接價值

-----------------------------------------------------

鏈接5000+CTO, 推送技術(shù)干貨文章

緩存的使用，是一個逐漸演進的過程。

問一下你自己，最直接的使用緩存的原因是什么？

無它，唯快而已！

追溯一下自己最開始使用緩存的場景，一些數(shù)據(jù)庫里存儲的不變的配置信息，服務(wù)啟動時，直接加載到本地公共模塊，方便其它功能模塊共享使用。這便是最基本，最簡單的本地緩存應(yīng)用。

一、服務(wù)與緩存

所謂的服務(wù)，簡而言之，一層應(yīng)用 + 一層數(shù)據(jù)，應(yīng)用從數(shù)據(jù)層獲取數(shù)據(jù)然后加工輸出。

數(shù)據(jù)層，通常我們指的是持久化介質(zhì)上的持久化存儲。它有多種形式的，可以是文件，或者數(shù)據(jù)庫。

數(shù)據(jù)存儲在持久化介質(zhì)上，而應(yīng)用運行與內(nèi)存中。內(nèi)存和持久化介質(zhì)是兩個有著量級速度差別的不同介質(zhì)，由此，應(yīng)用和數(shù)據(jù)之間便有了“矛盾”。

有了這“矛盾”的引子，便有了對緩存的迫切需求。

我們說的緩存，必然要是存放于內(nèi)存中的，這樣它便能距離應(yīng)用更近，更快的給出應(yīng)用所需要的數(shù)據(jù)，以獲得更快的服務(wù)響應(yīng)。

當(dāng)然，并不是緩存完全隔絕持久層數(shù)據(jù)。緩存，伴隨而生的一個詞叫做命中率。

當(dāng)我們查詢的數(shù)據(jù)存在于緩存中的時候，我們稱之為“命中”，此時，所需數(shù)據(jù)可以直接由緩存提供。

而對于未“命中”的數(shù)據(jù)，則需要穿過緩存層，進一步去持久化數(shù)據(jù)層獲取。此種情景，我們稱之為緩存穿透。

數(shù)據(jù)獲取之后，在返回給應(yīng)用之前，我們需要重新填充緩存，以供下一次“命中”查詢。

當(dāng)然，上述我們所述只是指“讀”查詢情景。

當(dāng)應(yīng)用發(fā)生數(shù)據(jù)操作變更，我們則需要將變更同時更新到持久層及緩沖層。此時，我們又會面臨另外一個問題，“先”與“后”的問題。

“先”與“后”的問題，我們也稱之為緩存一致性問題。

如果先更新緩存，則可能面臨持久層更新失敗，產(chǎn)生緩存臟數(shù)據(jù)的問題。

然則，假如先更新持久層，我們又不得不面對從持久層更新成功之后到緩存更新之前這個間期，緩存對外提供舊數(shù)據(jù)的窘境。

緩存一致性問題，尤其在高并發(fā)環(huán)境，需要根據(jù)特定場景進行更精妙的控制。

比如，并發(fā)修改的一致性鎖；比如，異步刷新的延遲刷新等等。

二、緩存與更新

上面我們提到了緩存更新一致性的問題，從實際應(yīng)用情景來講，可以細分為強一致性需求，弱一致性需求及最終一致性需求。

1、強一致性需求

比如，交易狀態(tài)信息，已下單、支付中，已支付等應(yīng)用，需要我們主動及時進行關(guān)聯(lián)更新并保證事務(wù)層面的一致性。

應(yīng)景而生的許多包括分布式事務(wù)等理論也為我們解決實際問題提供了很好的踐行方案。

2、弱一致性需求

一些涉及不太重要的信息更新，能夠容忍短時間（比如，幾分鐘）內(nèi)持久層數(shù)據(jù)和緩存數(shù)據(jù)不一致的場景。比如不外顯的描述信息，統(tǒng)計性的計數(shù)緩存信息等。通常可以采取異步處理的方式。

一些一段短時間內(nèi)（幾秒，幾分鐘）輸出固定信息的場景。比如每隔30s更新熱點信息，票價信息等。可以通過設(shè)置緩存超時自動剔除的方式進行處理。

3、最終一致性需求

保障數(shù)據(jù)狀態(tài)的最終一致性。

三、緩存的粒度

所謂粒度，也即緩存信息塊層級，大小。選擇何種粒度的緩存，取決于我們應(yīng)用的整體架構(gòu)，數(shù)據(jù)存儲規(guī)劃及具體的應(yīng)用場景。

拿用戶信息來舉例，是緩存活躍信息？還是相對靜態(tài)的信息？是按單屬性層級來緩存？還是按整個對象信息？

不同的數(shù)據(jù)粒度，也決定著我們存儲緩存的形式：整個對象的二進制序列化數(shù)據(jù)？更透明直觀的json字符串？屬性與值的一一映射？

每種形式都有各自的使用優(yōu)缺點，開發(fā)者可以從應(yīng)用、存儲及維護成本各方面進行全面性評估選擇。

四、緩存穿透的危害

第一小節(jié)，我們提到過關(guān)于緩存穿透發(fā)生的原因：緩存未命中。那為什么會未命中呢？

1、數(shù)據(jù)暫時不存在于緩存中

所謂暫時，可以指數(shù)據(jù)初始尚未加載到緩存，lazy load 按需按時實時加載應(yīng)用；

也可以是緩存數(shù)據(jù)被我們特定的緩存過期策略自動或主動過期，通常使用的過期策略包括元素數(shù)量限制，內(nèi)存占用限制及生存時間限制。

其實，無論是初始未加載還是緩存過期，刪除，這些都屬于我們假定的正常應(yīng)用場景，再次我們不予過多評論。

2、數(shù)據(jù)從來不存在

當(dāng)一個查詢不存在數(shù)據(jù)的請求到來，其必然會穿過緩存，達到持久化存儲層。

持久化存儲的響應(yīng)能力是有限的，當(dāng)這種請求達到一定的量級，服務(wù)可能就要面臨著宕機的危險。

至此，我們對于緩存的作用認知，也需要進一步延伸：降低下層負載，保護后端資源。

?

造成這種緩存穿透的原因可以簡單的分為內(nèi)外兩方面誘因：內(nèi)部的應(yīng)用邏輯問題及外部惡意攻擊、爬蟲干擾等。

內(nèi)部問題容易解決，內(nèi)觀可預(yù)知，良性優(yōu)化即可；

反而是外部的不可預(yù)料，可能需要更謹慎的進行多面的防御性處理。

其實，不論內(nèi)部還是外部，在緩存層面需要處理的就只有一件事：有效攔截穿透。

到此，通常慣性的思維第一步，就是把造成緩存穿透的數(shù)據(jù)放置到緩存中，無論其是否存在在于持久化存儲中。

比如對于正常的已刪除的用戶數(shù)據(jù)，做緩存層面的軟刪除處理，以狀態(tài)信息做標(biāo)注（我存在，其實我不存在！????）。就可以很好的解決此類問題造成的穿透壓力。

但是，我們有也個清楚的認知就，就是真正能夠造成危害的是那些非正常的入侵數(shù)據(jù)。比如，窮盡遍歷的差別數(shù)據(jù)，一一存入緩存，唯一的結(jié)果就是緩存資源的溢滿用盡。這是一種相當(dāng)恐怖的場景。

針對此種“大數(shù)據(jù)”型攻擊，布隆過濾攔截或許可以成為一個不錯的選擇。

五、也談緩存雪崩

上面一節(jié)中我們談到了緩存的承載保護功能，一面快速響應(yīng)，一面背負保護持久層數(shù)據(jù)。

在某些以讀為主的服務(wù)中，緩存幾近承載近乎90%以上的請求。

但是，如果緩存由于某些原因一時不能提供正常服務(wù)時，所有的請求就會穿透到持久存儲層，造成存儲層極端宕機情況發(fā)生。

那么，我們應(yīng)該如何應(yīng)對這種情況呢？?

1、高可用

緩存的高可用是應(yīng)對緩存雪崩的首要保障：主從，讀寫分離，動態(tài)擴容，一致性均衡，異地容災(zāi)等。

實際應(yīng)用如Redis的哨兵模式，集群部署等。

2、服務(wù)治理之限流、熔斷降級

服務(wù)治理的目的是什么？服務(wù)的穩(wěn)定性。

限流即對異常流量的控制；熔斷、降級標(biāo)的核心服務(wù)資源的保護。

筆者在?輕量級熔斷降級框架 alibaba sentinel 應(yīng)用?介紹過當(dāng)下流行的幾種流控框架的使用。

緩存、持久化數(shù)據(jù)存儲都是資源，或者我們可以從對緩存的流控及對持久化數(shù)據(jù)存儲的熔斷、降級保護來著手應(yīng)對緩存雪崩的情景發(fā)生。

3、緩存元素的集中過期導(dǎo)致緩存失效

對于設(shè)置了過期時間的緩存元素，如果發(fā)生元素同時過期，則會有瞬間的外部請求直接到達持久存儲層。

在實際的緩存應(yīng)用中，需要采取一定的措施，實現(xiàn)緩存元素過期時間的均勻分布。

作者：WindWant

cnblogs.com/niejunlei/p/12914336.html

推薦閱讀

知道創(chuàng)宇總監(jiān)姚昌林：敏捷開發(fā)-如何打破研發(fā)交付過程中的“墻” 2020-08-28

微博技術(shù)專家陳波：百億級訪問量的應(yīng)用如何做緩存架構(gòu)設(shè)計 2020-08-27

天弘基金首席架構(gòu)師李鑫：微服務(wù)接口限流的算法及架構(gòu)實現(xiàn) 2020-08-25

一文講清K8s如何改變美團的云基礎(chǔ)設(shè)施 2020-08-21

螞蟻科技 Service Mesh 落地實踐與挑戰(zhàn) | GIAC 實錄 2020-08-18

飛天茅臺超賣P0事故：請慎用Redis分布式鎖！ 2020-08-17

? ?END ? ??#接力技術(shù)，鏈接價值#點分享點點贊點在看 新人創(chuàng)作打卡挑戰(zhàn)賽發(fā)博客就能抽獎！定制產(chǎn)品紅包拿不停！

總結(jié)

以上是生活随笔為你收集整理的缓存，确实很香，却也很受伤！的全部內(nèi)容，希望文章能夠幫你解決所遇到的問題。

如果覺得生活随笔網(wǎng)站內(nèi)容還不錯，歡迎將生活随笔推薦給好友。