做程序开发的你如果经常用Redis,这些问题肯定会遇到
分布式緩存Redis是一種支持Key-Value等多種數(shù)據(jù)結(jié)構(gòu)的存儲(chǔ)系統(tǒng)。可用于緩存、事件發(fā)布或訂閱、高速隊(duì)列等多種場景。Redis使用ANSI C語言編寫,提供字符串(String)、哈希(Hash)、列表(List)、集合結(jié)構(gòu)(Set、Sorted Set)、流(Stream)等數(shù)據(jù)類型的直接存取。數(shù)據(jù)讀寫基于內(nèi)存,同時(shí)可持久化到磁盤。
在我們做開發(fā)的過程中經(jīng)常會(huì)用到Redis,小編在這里就Redis談?wù)?#xff0c;我們使用過程中經(jīng)常會(huì)遇到的幾個(gè)問題吧。
一、Redis 的過期策略以及內(nèi)存淘汰機(jī)制
這個(gè)問題相當(dāng)重要,到底 Redis 有沒用到家,這個(gè)問題就可以看出來。
比如你 Redis 只能存 5G 數(shù)據(jù),可是你寫了 10G,那會(huì)刪 5G 的數(shù)據(jù)。怎么刪的,這個(gè)問題思考過么?
還有,你的數(shù)據(jù)已經(jīng)設(shè)置了過期時(shí)間,但是時(shí)間到了,內(nèi)存占用率還是比較高,有思考過原因么?
回答:Redis 采用的是定期刪除+惰性刪除策略。
為什么不用定時(shí)刪除策略
定時(shí)刪除,用一個(gè)定時(shí)器來負(fù)責(zé)監(jiān)視 Key,過期則自動(dòng)刪除。雖然內(nèi)存及時(shí)釋放,但是十分消耗 CPU 資源。
在大并發(fā)請求下,CPU 要將時(shí)間應(yīng)用在處理請求,而不是刪除 Key,因此沒有采用這一策略。
定期刪除+惰性刪除是如何工作
定期刪除,Redis 默認(rèn)每個(gè) 100ms 檢查,是否有過期的 Key,有過期 Key 則刪除。
需要說明的是,Redis 不是每個(gè) 100ms 將所有的 Key 檢查一次,而是隨機(jī)抽取進(jìn)行檢查(如果每隔 100ms,全部 Key 進(jìn)行檢查,Redis 豈不是卡死)。
因此,如果只采用定期刪除策略,會(huì)導(dǎo)致很多 Key 到時(shí)間沒有刪除。于是,惰性刪除派上用場。
也就是說在你獲取某個(gè) Key 的時(shí)候,Redis 會(huì)檢查一下,這個(gè) Key 如果設(shè)置了過期時(shí)間,那么是否過期了?如果過期了此時(shí)就會(huì)刪除。
采用定期刪除+惰性刪除就沒其他問題了么?
不是的,如果定期刪除沒刪除 Key。然后你也沒即時(shí)去請求 Key,也就是說惰性刪除也沒生效。這樣,Redis的內(nèi)存會(huì)越來越高。那么就應(yīng)該采用內(nèi)存淘汰機(jī)制。
在 redis.conf 中有一行配置:
# maxmemory-policy volatile-lru
該配置就是配內(nèi)存淘汰策略的(什么,你沒配過?好好反省一下自己):
◆noeviction:當(dāng)內(nèi)存不足以容納新寫入數(shù)據(jù)時(shí),新寫入操作會(huì)報(bào)錯(cuò)。應(yīng)該沒人用吧。
◆allkeys-lru:當(dāng)內(nèi)存不足以容納新寫入數(shù)據(jù)時(shí),在鍵空間中,移除最近最少使用的 Key。推薦使用,目前項(xiàng)目在用這種。
◆allkeys-random:當(dāng)內(nèi)存不足以容納新寫入數(shù)據(jù)時(shí),在鍵空間中,隨機(jī)移除某個(gè) Key。應(yīng)該也沒人用吧,你不刪最少使用 Key,去隨機(jī)刪。
◆volatile-lru:當(dāng)內(nèi)存不足以容納新寫入數(shù)據(jù)時(shí),在設(shè)置了過期時(shí)間的鍵空間中,移除最近最少使用的 Key。這種情況一般是把 Redis 既當(dāng)緩存,又做持久化存儲(chǔ)的時(shí)候才用。不推薦。
◆volatile-random:當(dāng)內(nèi)存不足以容納新寫入數(shù)據(jù)時(shí),在設(shè)置了過期時(shí)間的鍵空間中,隨機(jī)移除某個(gè) Key。依然不推薦。
◆volatile-ttl:當(dāng)內(nèi)存不足以容納新寫入數(shù)據(jù)時(shí),在設(shè)置了過期時(shí)間的鍵空間中,有更早過期時(shí)間的 Key 優(yōu)先移除。不推薦。
PS:如果沒有設(shè)置 expire 的 Key,不滿足先決條件(prerequisites);那么 volatile-lru,volatile-random 和 volatile-ttl 策略的行為,和 noeviction(不刪除) 基本上一致。
?
二、Redis 和數(shù)據(jù)庫雙寫一致性問題
一致性問題是分布式常見問題,還可以再分為最終一致性和強(qiáng)一致性。數(shù)據(jù)庫和緩存雙寫,就必然會(huì)存在不一致的問題。
答這個(gè)問題,先明白一個(gè)前提。就是如果對數(shù)據(jù)有強(qiáng)一致性要求,不能放緩存。我們所做的一切,只能保證最終一致性。
另外,我們所做的方案從根本上來說,只能說降低不一致發(fā)生的概率,無法完全避免。因此,有強(qiáng)一致性要求的數(shù)據(jù),不能放緩存。
回答:首先,采取正確更新策略,先更新數(shù)據(jù)庫,再刪緩存。其次,因?yàn)榭赡艽嬖趧h除緩存失敗的問題,提供一個(gè)補(bǔ)償措施即可,例如利用消息隊(duì)列。
?
三、如何應(yīng)對緩存穿透和緩存雪崩問題
這兩個(gè)問題,說句實(shí)在話,一般中小型傳統(tǒng)軟件企業(yè),很難碰到這個(gè)問題。如果有大并發(fā)的項(xiàng)目,流量有幾百萬左右。這兩個(gè)問題一定要深刻考慮。
緩存穿透,即***故意去請求緩存中不存在的數(shù)據(jù),導(dǎo)致所有的請求都懟到數(shù)據(jù)庫上,從而數(shù)據(jù)庫連接異常。
緩存穿透解決方案:
◆利用互斥鎖,緩存失效的時(shí)候,先去獲得鎖,得到鎖了,再去請求數(shù)據(jù)庫。沒得到鎖,則休眠一段時(shí)間重試。
◆采用異步更新策略,無論 Key 是否取到值,都直接返回。Value 值中維護(hù)一個(gè)緩存失效時(shí)間,緩存如果過期,異步起一個(gè)線程去讀數(shù)據(jù)庫,更新緩存。需要做緩存預(yù)熱(項(xiàng)目啟動(dòng)前,先加載緩存)操作。
◆提供一個(gè)能迅速判斷請求是否有效的攔截機(jī)制,比如,利用布隆過濾器,內(nèi)部維護(hù)一系列合法有效的 Key。迅速判斷出,請求所攜帶的 Key 是否合法有效。如果不合法,則直接返回。
緩存雪崩,即緩存同一時(shí)間大面積的失效,這個(gè)時(shí)候又來了一波請求,結(jié)果請求都懟到數(shù)據(jù)庫上,從而導(dǎo)致數(shù)據(jù)庫連接異常。
緩存雪崩解決方案:
◆給緩存的失效時(shí)間,加上一個(gè)隨機(jī)值,避免集體失效。
◆使用互斥鎖,但是該方案吞吐量明顯下降了。
◆雙緩存。我們有兩個(gè)緩存,緩存 A 和緩存 B。緩存 A 的失效時(shí)間為 20 分鐘,緩存 B 不設(shè)失效時(shí)間。自己做緩存預(yù)熱操作。
然后細(xì)分以下幾個(gè)小點(diǎn):從緩存 A 讀數(shù)據(jù)庫,有則直接返回;A 沒有數(shù)據(jù),直接從 B 讀數(shù)據(jù),直接返回,并且異步啟動(dòng)一個(gè)更新線程,更新線程同時(shí)更新緩存 A 和緩存 B。
?
四、如何解決 Redis 的并發(fā)競爭 Key 問題
這個(gè)問題大致就是,同時(shí)有多個(gè)子系統(tǒng)去 Set 一個(gè) Key。這個(gè)時(shí)候大家思考過要注意什么呢?
需要說明一下,我提前百度了一下,發(fā)現(xiàn)答案基本都是推薦用 Redis 事務(wù)機(jī)制。
我并不推薦使用 Redis 的事務(wù)機(jī)制。因?yàn)槲覀兊纳a(chǎn)環(huán)境,基本都是 Redis 集群環(huán)境,做了數(shù)據(jù)分片操作。
你一個(gè)事務(wù)中有涉及到多個(gè) Key 操作的時(shí)候,這多個(gè) Key 不一定都存儲(chǔ)在同一個(gè) redis-server 上。因此,Redis 的事務(wù)機(jī)制,十分雞肋。
如果對這個(gè) Key 操作,不要求順序
這種情況下,準(zhǔn)備一個(gè)分布式鎖,大家去搶鎖,搶到鎖就做 set 操作即可,比較簡單。
如果對這個(gè) Key 操作,要求順序
假設(shè)有一個(gè) key1,系統(tǒng) A 需要將 key1 設(shè)置為 valueA,系統(tǒng) B 需要將 key1 設(shè)置為 valueB,系統(tǒng) C 需要將 key1 設(shè)置為 valueC。
期望按照 key1 的 value 值按照 valueA > valueB > valueC 的順序變化。這種時(shí)候我們在數(shù)據(jù)寫入數(shù)據(jù)庫的時(shí)候,需要保存一個(gè)時(shí)間戳。
假設(shè)時(shí)間戳如下:
系統(tǒng)A key 1 {valueA 3:00}
系統(tǒng)B key 1 {valueB 3:05}
系統(tǒng)C key 1 {valueC 3:10}
那么,假設(shè)這會(huì)系統(tǒng) B 先搶到鎖,將 key1 設(shè)置為{valueB 3:05}。接下來系統(tǒng) A 搶到鎖,發(fā)現(xiàn)自己的 valueA 的時(shí)間戳早于緩存中的時(shí)間戳,那就不做 set 操作了,以此類推。
其他方法,比如利用隊(duì)列,將 set 方法變成串行訪問也可以。總之,靈活變通。
總結(jié)
本文對 Redis 的常見問題做了一個(gè)總結(jié)。大部分是自己在工作中遇到,以及與別人交流的時(shí)候,愛問的一些問題。希望能幫到你哦。如果有更多這一方面的問題需要深入了解的,可以參考華為云幫助中心。
轉(zhuǎn)載于:https://blog.51cto.com/14230016/2367430
總結(jié)
以上是生活随笔為你收集整理的做程序开发的你如果经常用Redis,这些问题肯定会遇到的全部內(nèi)容,希望文章能夠幫你解決所遇到的問題。
- 上一篇: Krpano skin_settings
- 下一篇: [MySQL光速入门]012 作业解答