高并发和分布式中的幂等处理
今日推薦
我們先來談下冪等的概念
抽象概念
冪等(idempotent、idempotence)是一個(gè)數(shù)學(xué)與計(jì)算機(jī)學(xué)概念,常見于抽象代數(shù)中。
在編程中,一個(gè)冪等操作的特點(diǎn)是其任意多次執(zhí)行所產(chǎn)生的影響均與一次執(zhí)行的影響相同。冪等函數(shù),或冪等方法,是指可以使用相同參數(shù)重復(fù)執(zhí)行,并能獲得相同結(jié)果的函數(shù)。這些函數(shù)不會(huì)影響系統(tǒng)狀態(tài),也不用擔(dān)心重復(fù)執(zhí)行會(huì)對(duì)系統(tǒng)造成改變。例如,getUsername()和setTrue()函數(shù)就是一個(gè)冪等函數(shù)。
用通俗的話講:就是針對(duì)一個(gè)操作,不管做多少次,產(chǎn)生效果或返回的結(jié)果都是一樣的
舉幾個(gè)例子:
比如前端對(duì)同一表單數(shù)據(jù)的重復(fù)提交,后臺(tái)應(yīng)該只會(huì)產(chǎn)生一個(gè)結(jié)果
比如我們發(fā)起一筆付款請(qǐng)求,應(yīng)該只扣用戶賬戶一次錢,當(dāng)遇到網(wǎng)絡(luò)重發(fā)或系統(tǒng)bug重發(fā),也應(yīng)該只扣一次錢
比如發(fā)送消息,也應(yīng)該只發(fā)一次,同樣的短信如果多次發(fā)給用戶,用戶會(huì)崩潰
比如創(chuàng)建業(yè)務(wù)訂單,一次業(yè)務(wù)請(qǐng)求只能創(chuàng)建一個(gè),不能出現(xiàn)創(chuàng)建多個(gè)訂單
還有很多諸如此類的,這些邏輯都需要冪等的特性來支持。
實(shí)現(xiàn)冪等性的技術(shù)方案
查詢操作
查詢一次和查詢多次,在數(shù)據(jù)不變的情況下,查詢結(jié)果是一樣的,select是天然的冪等操作。
刪除操作
刪除操作也是冪等的,刪除一次和多次刪除都是把數(shù)據(jù)刪除。(注意可能返回結(jié)果不一樣,刪除的數(shù)據(jù)不存在,返回0,刪除的數(shù)據(jù)多條,返回結(jié)果多個(gè))。
唯一索引,防止新增臟數(shù)據(jù)
拿資金賬戶和用戶賬戶來說,每個(gè)用戶只能有一個(gè)資金賬戶,怎么防止給用戶創(chuàng)建資金賬戶多個(gè),那么給資金賬戶表中的用戶ID加唯一索引,在新增的時(shí)候只有一個(gè)能請(qǐng)求成功,剩下都會(huì)拋出唯一索引重復(fù)異常。比如org.springframework.dao.DuplicateKeyException,這時(shí)候再查詢一次就可以了,數(shù)據(jù)存在,返回結(jié)果
token機(jī)制,防止頁面重復(fù)提交
要求:頁面的數(shù)據(jù)只能被點(diǎn)擊提交一次
發(fā)生原因:由于重復(fù)點(diǎn)擊或者網(wǎng)絡(luò)重發(fā),或者nginx重發(fā)等情況會(huì)導(dǎo)致數(shù)據(jù)被重復(fù)提交
解決辦法:
集群環(huán)境:采用token加redis
單JVM環(huán)境:采用token加redis或token加jvm內(nèi)存
處理流程:
數(shù)據(jù)提交前要向服務(wù)的申請(qǐng)token,token放到redis或jvm內(nèi)存,token有效時(shí)間
提交后后臺(tái)校驗(yàn)token,同時(shí)刪除token,生成新的token返回
token特點(diǎn):要申請(qǐng),一次有效性,可以限流
注意:redis要用刪除操作來判斷token,刪除成功代表token校驗(yàn)通過,如果用select+delete來校驗(yàn)token,存在并發(fā)問題,不建議使用
悲觀鎖
獲取數(shù)據(jù)的時(shí)候加鎖獲取
select?*?from?table_xxx?where?id=’xxx’?for?update;注意:id字段一定是主鍵或者唯一索引,不然是鎖表,會(huì)出事的。
悲觀鎖使用時(shí)一般伴隨事務(wù)一起使用,數(shù)據(jù)鎖定時(shí)間可能會(huì)很長(zhǎng),根據(jù)實(shí)際情況選用
樂觀鎖
樂觀鎖只是在更新數(shù)據(jù)那一刻鎖表,其他時(shí)間不鎖表,所以相對(duì)于悲觀鎖,效率更高。
樂觀鎖的實(shí)現(xiàn)方式多種多樣可以通過version或者其他狀態(tài)條件:
1.通過版本號(hào)實(shí)現(xiàn)
update?table_xxx?set?name=#name#,version=version+1?where?version=#version#2.通過條件限制
update?table_xxx?set?avai_amount=avai_amount-#subAmount#?where?avai_amount-#subAmount#?>=?0要求:avai_amount-subAmount >=0
這個(gè)情景適合不用版本號(hào),只更新是做數(shù)據(jù)安全校驗(yàn),適合庫(kù)存模型,扣份額和回滾份額,性能更高。
注意:樂觀鎖的更新操作,最好用主鍵或者唯一索引來更新,這樣是行鎖,否則更新時(shí)會(huì)鎖表,上面兩個(gè)sql改成下面的兩個(gè)更好。
update?table_xxx?set?name=#name#,version=version+1?where?id=#id#?and?version=#version#update?table_xxx?set?avai_amount=avai_amount-#subAmount#?where?id=#id#?and? avai_amount-#subAmount#?>=?0分布式鎖
還是拿插入數(shù)據(jù)的例子,如果是分布是系統(tǒng),構(gòu)建全局唯一索引比較困難,例如唯一性的字段沒法確定,這時(shí)候可以引入分布式鎖,通過第三方的系統(tǒng)(redis或zookeeper),在業(yè)務(wù)系統(tǒng)插入數(shù)據(jù)或者更新數(shù)據(jù),獲取分布式鎖,然后做操作,之后釋放鎖,其實(shí)就是為了控制多線程并發(fā)的操作,也是分布式系統(tǒng)中經(jīng)常用到的解決思路。
select + insert
并發(fā)不高的后臺(tái)系統(tǒng),或者一些任務(wù)JOB,為了支持冪等,支持重復(fù)執(zhí)行,簡(jiǎn)單的處理方法是,先查詢下一些關(guān)鍵數(shù)據(jù),判斷是否已經(jīng)執(zhí)行過,在進(jìn)行業(yè)務(wù)處理,就可以了。
注意:核心高并發(fā)流程不要用這種方法。
狀態(tài)機(jī)冪等
在設(shè)計(jì)單據(jù)相關(guān)的業(yè)務(wù),或者是任務(wù)相關(guān)的業(yè)務(wù),肯定會(huì)涉及到狀態(tài)機(jī)(狀態(tài)變更圖),就是業(yè)務(wù)單據(jù)上面有個(gè)狀態(tài),狀態(tài)在不同的情況下會(huì)發(fā)生變更,一般情況下存在有限狀態(tài)機(jī),這時(shí)候,如果狀態(tài)機(jī)已經(jīng)處于下一個(gè)狀態(tài),這時(shí)候來了一個(gè)上一個(gè)狀態(tài)的變更,理論上是不能夠變更的,這樣的話,保證了有限狀態(tài)機(jī)的冪等。
注意:訂單等單據(jù)類業(yè)務(wù),存在很長(zhǎng)的狀態(tài)流轉(zhuǎn),一定要深刻理解狀態(tài)機(jī),對(duì)業(yè)務(wù)系統(tǒng)設(shè)計(jì)能力提高有很大幫助。
對(duì)外提供接口的api如何保證冪等
如銀聯(lián)提供的付款接口:需要接入商戶提交付款請(qǐng)求時(shí)附帶:source來源,seq序列號(hào)
source+seq在數(shù)據(jù)庫(kù)里面做唯一索引,防止多次付款,(并發(fā)時(shí),只能處理一個(gè)請(qǐng)求)。
重點(diǎn):
對(duì)外提供接口為了支持冪等調(diào)用,接口有兩個(gè)字段必須傳,一個(gè)是來源source,一個(gè)是來源方序列號(hào)seq,這個(gè)兩個(gè)字段在提供方系統(tǒng)里面做聯(lián)合唯一索引,這樣當(dāng)?shù)谌秸{(diào)用時(shí),先在本方系統(tǒng)里面查詢一下,是否已經(jīng)處理過,返回相應(yīng)處理結(jié)果;沒有處理過,進(jìn)行相應(yīng)處理,返回結(jié)果。另外,歡迎關(guān)注公眾號(hào)Java筆記蝦,后臺(tái)回復(fù)“后端面試”,送你一份面試題寶典!
注意,為了冪等友好,一定要先查詢一下,是否處理過該筆業(yè)務(wù),不查詢直接插入業(yè)務(wù)系統(tǒng),會(huì)報(bào)錯(cuò),但實(shí)際已經(jīng)處理了。
總結(jié)
冪等性應(yīng)該是合格程序員的一個(gè)基因,在設(shè)計(jì)系統(tǒng)時(shí),是首要考慮的問題,尤其是在像第三方支付平臺(tái),銀行,互聯(lián)網(wǎng)金融公司等涉及的網(wǎng)上資金系統(tǒng),既要高效,數(shù)據(jù)也要準(zhǔn)確,所以不能出現(xiàn)多扣款,多打款等問題,這樣會(huì)很難處理,并會(huì)大大降低用戶體驗(yàn)。
(感謝閱讀,希望對(duì)你所有幫助)
來源:juejin.cn/post/6844903730546999304
推薦文章1、一款高顏值的 SpringBoot+JPA 博客項(xiàng)目2、超優(yōu) Vue+Element+Spring 中后端解決方案3、推薦幾個(gè)支付項(xiàng)目!4、推薦一個(gè) Java 企業(yè)信息化系統(tǒng)5、一款基于 Spring Boot 的現(xiàn)代化社區(qū)(論壇/問答/社交網(wǎng)絡(luò)/博客) 《新程序員》:云原生和全面數(shù)字化實(shí)踐50位技術(shù)專家共同創(chuàng)作,文字、視頻、音頻交互閱讀總結(jié)
以上是生活随笔為你收集整理的高并发和分布式中的幂等处理的全部?jī)?nèi)容,希望文章能夠幫你解決所遇到的問題。
- 上一篇: 突发,Log4j2 爆出远程代码执行漏洞
- 下一篇: 一网打尽,最全面的跨域解决方案来了!