日韩av黄I国产麻豆传媒I国产91av视频在线观看I日韩一区二区三区在线看I美女国产在线I麻豆视频国产在线观看I成人黄色短片

歡迎訪問 生活随笔!

生活随笔

當前位置: 首頁 >

当当网高可用架构之道--转

發(fā)布時間:2025/4/5 28 豆豆
生活随笔 收集整理的這篇文章主要介紹了 当当网高可用架构之道--转 小編覺得挺不錯的,現(xiàn)在分享給大家,幫大家做個參考.

聲明:本文內(nèi)容來自于TOP100Summit旗下技術(shù)沙龍品牌into100沙龍第17期:高可用高并發(fā)解決之道,如需轉(zhuǎn)載請聯(lián)系主辦方進行授權(quán)。?
嘉賓:史海峰,當當架構(gòu)部總監(jiān)。2012年加入當當,負責總體架構(gòu)規(guī)劃、技術(shù)規(guī)范制定,善于把握復(fù)雜業(yè)務(wù)需求,提出創(chuàng)新性解決方案,參與重點項目方案設(shè)計,對系統(tǒng)架構(gòu)進行持續(xù)改造優(yōu)化,推動技術(shù)革新,組織內(nèi)外部技術(shù)交流。?

以下為分享整理正文:?

系統(tǒng)中的非功能性需求?
今天我們的主題是當當高可用架構(gòu)設(shè)計之道,高可用并不是功能性的需求,而是傳統(tǒng)的IT當中非功能性需求的一部分。大家可以看到我這里羅列了很多非功能性需求,但是這當中并沒有「高可用」這三個字。?


?


舉一個例子,比如說你買了一臺蘋果手機,無論是作為手機還是電腦,還是MP3,還是專門用來看視頻的,都是功能;那么非功能性呢,比如說大家很崇拜喬布斯,產(chǎn)品設(shè)計極致體驗,蘋果手機只有1個鍵,簡單好用,這就是一個非功能性需求。另外還有很多朋友買土豪金的手機,就是為了區(qū)分開,因為顏色不一樣。這個顏色也是非功能性需求。?

我們簡單介紹幾個非功能性需求。?

擴展性,有一些類似的可以抽象成統(tǒng)一模型的東西,如果說做好的話就可以支持擴展。用一個以前的例子,我以前是做電信行業(yè)的,比如說有一個需求要在全球通上開一個5塊錢的套餐,接著又要在動感地帶開一個10塊錢的套餐,那么我們就可以做成一個模型,做成一個套餐的產(chǎn)品,品牌是一個屬性,價格也是一個屬性。這樣的話,神州行再來一個50塊錢的套餐,我們就不需要改什么應(yīng)用,增加一些配置,定義一些產(chǎn)品屬性就可以了,這就是擴展性。?

高效率是說你對現(xiàn)有的資源使用是不是足夠高效。比如說有的人寫的代碼比較爛,一啟動就百分之幾十的CPU使用率,這就不太合理。?

可測試,很多開發(fā)的同學(xué)不當回事,覺得開發(fā)好功能邏輯就夠了。但是你做出來的東西是要保證質(zhì)量的。開個玩笑,如果說測試的妹子很漂亮,你愿意手把手的教她如何來測試功能,但要是妹子走了,來了一個糙爺們還需要你還手把手的教,你就不愿意了。因此必須要有一個測試的完整方法、功能說明、測試用例。?

這些非功能性的需求,是整個系統(tǒng)是不是正常穩(wěn)定、可靠運轉(zhuǎn),以及被一個團隊長期沿用下去的一個前提。?

而可用性,涉及到很多方面。比如說伸縮性,是否能夠在業(yè)務(wù)量增長的前提之下,通過水平擴展可以很容易支撐更多的業(yè)務(wù)。比如說安全性、可靠性,數(shù)據(jù)會不會丟失?所以這里面很多的點,最終都是決定了可用性。?

那么可用性是什么呢?可用性就是這套系統(tǒng)最終是給用戶用的,是有這些功能的,但是其他方面如果不能保障好,不能N個用戶一直用,那你這個系統(tǒng)就無法體現(xiàn)它的價值。這是非常重要的,很多剛剛工作幾年的,或者是一直在做產(chǎn)品研發(fā)的同學(xué),對這方面沒有切身的體會,沒有在大晚上被人打電話說出了什么問題你趕緊來處理一下,沒有這樣切身的痛苦的體會。?

「高可用」到底是什么?


?


接下來我們說一下什么是高可用。CAP理論是指在分布式數(shù)據(jù)的場景來形容三者不可兼得,就是一致性、可用性和分區(qū)容忍性。在整個系統(tǒng)層面也可以這么理解,因為多數(shù)系統(tǒng)的核心就是數(shù)據(jù),數(shù)據(jù)本身受限于這三個特性只能滿足兩個,不能三個一起滿足,整個系統(tǒng)也是如此。?

在互聯(lián)網(wǎng)場景里,因為數(shù)據(jù)量大分區(qū)容忍性是必須要支持的。一致性可以稍微容忍一些,但是可用性是一定要保證的。所以最后多數(shù)的互聯(lián)網(wǎng)公司多數(shù)的業(yè)務(wù)系統(tǒng)就是犧牲一致性,保證可用性和分區(qū)容忍性。?

我們繼續(xù)往下看,什么可以影響可用性。?


?


其次是人禍,攜程公司去年也發(fā)生了「慘案」,系統(tǒng)宕機一下午,一直到晚上才恢復(fù);還有阿里云,去年上了一個云盾的功能,用戶在執(zhí)行可執(zhí)行文件的時候,就把這個可執(zhí)行文件給刪了,回頭用戶再找這個可執(zhí)行文件的時候就找不到了。還有是BUG,在某一些特定場景下系統(tǒng)出問題,這是很正常的。?

設(shè)計缺陷是要重點說的,它比BUG更宏觀一些,是結(jié)構(gòu)上的問題,不是說你增加幾個判斷,改一下代碼就可以解決的。基本上是屬于一旦發(fā)現(xiàn)了,要么就是大改,要么就是重構(gòu),調(diào)整原來的設(shè)計,很難馬上去解決。?

至于說性能瓶頸和資源不足,大家知道就是這么多的服務(wù)器,如果代碼性能寫得好,可能能扛住更多請求,如果寫得差,可能稍微增長一些就不行了。?

性能瓶頸就是短板,比如說負責某個模塊是一個沒有什么經(jīng)驗的小同學(xué),代碼質(zhì)量不太高,他就可能成為了整個系統(tǒng)的短板,這個模塊出了問題,其他的代碼寫得再好,整個系統(tǒng)還是不能用。?


?


最后還有一些未知的情況。大家做技術(shù)做的時間長會遇到很多無法解釋的「未解之謎」,我們一般稱之為「靈異事件」,這個是指經(jīng)常發(fā)生的,你不知道問題在哪里,但是過段時間就來一次,就好象冥冥之中有人玩你一樣,但是總歸是可以找到原因解決的。?

至于說黑天鵝的事件,則是以前從來沒有出現(xiàn)過的情況,突然出現(xiàn)了,讓你不知道應(yīng)該怎么辦,而且可能是一兩年才出現(xiàn)一次,你會要考慮值不值得找它如何出現(xiàn)的。?

還有一些以后就再也不出現(xiàn)了,誰也不知道是怎么回事,你就不知道怎么辦了。最后一個是未知的,我們不知道會出現(xiàn)什么樣的事情,出現(xiàn)的情況我們也不知道如何應(yīng)對??茖W(xué)告訴我們,已知的我們可以去努力解決,但是未知的,我們無法判斷。?


?


關(guān)于系統(tǒng)故障,有一個海因法則,意思是說出現(xiàn)一起嚴重的事故,都是由很多的隱患,很多的小問題,或者說一些問題沒有暴露出來,最終引發(fā)特別大的事故。負責運維的同學(xué)都知道,公司對系統(tǒng)的可用性是有指標的,是99.9%還是99.99%,還是99.999%,如果說公司沒有這個東西壓著你作為KPI,那就太幸運了,出了問題不至于讓你拿不到獎金。如果說你的公司有,我希望研發(fā)和架構(gòu)的同學(xué)都要清楚,而不是只有運維的同學(xué)知道,否則就是公司管理不到位,舉個例子如果可用性標準是99.99%,一年系統(tǒng)可以掛的時間是53分鐘,99.999%則是5分鐘,大家想想就知道,攜程掛了一下午,整個可用指標就完不成了,KPI就完成不了。?


?


高可用同時是一個概率的問題。一個復(fù)雜的系統(tǒng),比如說很多模塊或者子系統(tǒng)組成的系統(tǒng),是可以通過一些方式大概去估算的。前些年云計算很火,很多人都說我們有一個云要自動運行,幾萬臺服務(wù)器必須要有自動恢復(fù)的系統(tǒng),最好是分鐘級恢復(fù),秒級恢復(fù)。這些都是一個概率,怎么去算呢?比如說我有兩個手機,最近一個月內(nèi)有3次差一點丟1臺手機,這是未遂事件,那么基本上我丟失的概率就確定了,比如說是1/30。我有兩個手機的話有什么好處,沒有手機用的概率就是1/900。但是丟手機的概率增加了,我就要做好心理準備,沒準哪天就會失去一個。?

多數(shù)系統(tǒng)是幾臺或者是幾十臺服務(wù)器組成一個小的集群,還有很多跟它平行和上下依賴的系統(tǒng)。這種系統(tǒng)都可以用這種方式去算,大概是什么樣的概率。?

這個還涉及到容量評估,要考慮系統(tǒng)負載是多少?比如說像我們以前做企業(yè)級系統(tǒng)用小型機,小型機的可靠性非常高,平時就是50%左右的負載,這個時候三四臺機器加在一起就夠用了,因為掛一臺基本上系統(tǒng)不會有太大影響。但是如果用不太可靠的PC服務(wù)器或者其他解決方式,因為擔心可能出現(xiàn)的狀況,所以現(xiàn)在很多互聯(lián)網(wǎng)公司采取的是常年運行10%的CPU或者是20%的CPU狀態(tài)。?

我們可以考慮一個系統(tǒng),比如說一臺機器掛了,影響系統(tǒng)部分出現(xiàn)問題的概率有多高,多個系統(tǒng)總有一天會出問題,如果說系統(tǒng)足夠大,大家可以想像,無論是Facebook、谷歌,還是BAT基本上每天都會有各種各樣的小問題。所以越復(fù)雜的系統(tǒng)越是難以評估,我們要保證出現(xiàn)問題的時候可控。高可用并不是萬無一失,我們是用更多出問題的概率去降低整個系統(tǒng)出問題的概率。?

還有一個說法叫墨菲定律。基本上你想到的最壞的事情它總會發(fā)生的。上學(xué)的時候,數(shù)學(xué)老師會說,小概率事件基本上不會發(fā)生。但是在IT,在一個復(fù)雜環(huán)境當中,在上千臺上萬臺服務(wù)器的集群中,幾百人幾千人做的系統(tǒng),一定會有一天出問題的。所以人算不如天算,你算出來概率很低,你保證我出問題的概率哪怕是幾十萬分之一,你覺得這輩子就趕不上了?不見得的。?

那么怎么辦?就是時刻準備著。這是我做了這么多年開發(fā)最大的體會。我們做的是一個7×24小時對外服務(wù)的系統(tǒng),不能停。不能停的概念不是說像有的公司那樣,白天有人用,晚上沒人用,晚上出事了,我們來得及修補修補。但是像電商是7×24小時的,半夜三四點都有下單的。人家在熬夜開心下單的時候,你出了問題,阻止人家的下單,要不然就是打電話投訴,要不然是找地方吐槽。?

系統(tǒng)故障不僅是技術(shù)上的問題,最嚴重的是影響客戶體驗,前一段時間我們的評論系統(tǒng)出了點小問題:一個客戶買了一個面條機,反饋說并不是因為產(chǎn)品本身做不好面條要退貨,因為其他原因,這個因為產(chǎn)品已經(jīng)用過了所以按照規(guī)定是不能夠退貨的。結(jié)果用戶想評論的時候評論不了,用戶就覺得說當點擊評論按鈕時,系統(tǒng)告知接口錯誤,覺得這是在針對他,其實這只是系統(tǒng)故障,但是用戶并不會這么想。?


?


當你做了各種各樣的準備,覺得萬無一失了,難免有一天可能還是會翻船了。但是遇到這樣的事情也是好事,經(jīng)驗都是在這個時候積累起來的。那么什么是高可用?基本上就是三句話,降低故障出現(xiàn)的概率;縮小故障影響的范圍;出現(xiàn)故障快速恢復(fù)。不能因為是個小問題就覺得無所謂,反正我一堆的服務(wù)器,掛一個就掛一個吧,這種情況不好說會不會另外一個也掛了。因此有問題要盡快處理,最終的目的就是讓用戶可以正常的使用。?

如何設(shè)計高可用架構(gòu)?


?


高可用架構(gòu)設(shè)計常用的「姿勢」。大家看到這是一架飛機。我們有一個比喻說做運維這種系統(tǒng),就是開著飛機修飛機。首先系統(tǒng)一直運行,其次運營、產(chǎn)品各種業(yè)務(wù)部門會不停提各種各樣需求,然后領(lǐng)導(dǎo)也許不懂技術(shù),不懂什么叫分支、什么叫循環(huán)、什么叫面向?qū)ο?#xff1b;但是懂兩個詞,一個是敏捷,一個是迭代。?

所以做這件事情的時候難度是比較高的。我們不能讓這架飛機停下來歇幾天,把翅膀換了再飛上去;而是常年在天上飛的,飛上去的時候也許就是個阿帕奇直升機,特別是創(chuàng)業(yè)公司。回頭要拓展一個業(yè)務(wù),增加一些功能,做著做著原來的業(yè)務(wù)不行了,新的業(yè)務(wù)變成了主營業(yè)務(wù),結(jié)果變成了F15,從直升機變成了戰(zhàn)斗機,然后變成F16,變成F22。一旦技術(shù)團隊沒有做好,一頭栽下去,技術(shù)團隊的名聲就砸了。要么是沒做出來,要么是做出來之后一上線掛了,市場費用都白花了,這個責任要技術(shù)來承擔。?

我在四個領(lǐng)域里面分別提煉了幾條高可用相關(guān)的架構(gòu)方式。?


?


業(yè)務(wù)架構(gòu)就是指產(chǎn)品是什么功能,有什么要求。?

  • 首先是領(lǐng)域切分,不要把雞蛋放在一個籃子里,比如說一些傳統(tǒng)網(wǎng)站,有非常多的二級域名。某一個二級域名掛了,都是不同的服務(wù)器,其他的還可以提供正常的服務(wù)。
  • 系統(tǒng)分級,哪些系統(tǒng)對用戶來說比較重要,級別就會更高,我們就要花更多心思去保障,其他的相對差一些。
  • 降低耦合,最近在架構(gòu)圈當中流行一個詞叫康威定律(編者注:Conway’s law: Organizations which design systems […] are constrained to produce designs which are copies of the communication structures of these organizations),是指系統(tǒng)架構(gòu)是和公司組織架構(gòu)是有關(guān)系的。降低耦合也是如此,不要把系統(tǒng)搞得太復(fù)雜,你的組織和團隊不要和太多的部門打交道。優(yōu)化架構(gòu),讓系統(tǒng)的關(guān)系盡可能的簡單、明確。這樣出現(xiàn)問題范圍可控。
  • 有損服務(wù)是什么意思呢?可以犧牲一些用戶體驗來保證基本功能的可用。


系統(tǒng)架構(gòu)當中,分以下幾點。?

第一個是數(shù)據(jù)獨立,不允許跨系統(tǒng)訪問數(shù)據(jù)庫這個常識大家都懂,但是很多公司做不好,因為沒有強有力的措施去控制。這種事情做起來不太容易,需要管理或者說大家認可才行,但是實際上是非常關(guān)鍵的,因為數(shù)據(jù)如果不切分,系統(tǒng)很難切分,耦合就非常嚴重。時間長了出了問題,你連誰寫的,誰改的這個數(shù)據(jù)都不知道,那怎么辦??
第二點是集群分布,這個就不提了。?
第三個是冗余部署。比如說電商業(yè)務(wù)是有波動的,每天的上午11點或者是下午4、5點訂單量都會增長,上班族都要休息一下,給自己的辛苦找一些心理安慰,這個時候開始購物。但不能說就這點增長就彈性部署一次。所以一定要有冗余,一般來講是3-5倍,保證哪怕突然來了一波流量你也可以扛得住。?
尤其是電商公司,可能會搞一些促銷,可能有的業(yè)務(wù)部門搞促銷的時候,沒有知會技術(shù)部門,覺得這個促銷沒什么,可能一兩天就搞定了,然后流量預(yù)估也就上來200%。但是萬一趕上這是網(wǎng)絡(luò)紅人、明星或者是小鮮肉出了書、發(fā)了唱片或者穿了什么衣服,一下子成了爆款,系統(tǒng)沒扛住,然后運營回頭就得抱怨白折騰了。?
第四個讀寫分離這個不用說了。
?
技術(shù)架構(gòu)方面,仔細說一下。要是小公司出了什么問題,幾個人碰個頭,達成共識就可以了;但是一個上規(guī)模的公司,技術(shù)團隊幾百人甚至是上千人的團隊,如果技術(shù)層面控制不了的話,就會有非常嚴重的隱患。?

  • 首先是選擇使用的技術(shù)平臺,有的公司java也有、PHP也有、Python、Go等等的什么都有。
  • 其次是人員職能,有的公司說我們的工程師都要做全棧工程師,我們的工程師什么都會。創(chuàng)業(yè)團隊可以,但是一般成熟的公司都是專業(yè)分工,專業(yè)分工就來了一個問題,大家畢竟要對接,而且很多東西需要有人持續(xù)運維,因此就有必要統(tǒng)一技術(shù)標準。
  • 第三點就是規(guī)范標準,比如說代碼、發(fā)布的規(guī)范都要有。如果說可以沉淀的話,以上說的規(guī)范是可以做成一個統(tǒng)一的框架,現(xiàn)在當當也在做一個框架。
  • 還有就是合理的選型,一方面不同特性的技術(shù)需要用到合適的場景當中。另一方面不合適的技術(shù)選型一定要盡量堵住。因為現(xiàn)在很多同學(xué)都有非常高漲的學(xué)習(xí)熱情,新技術(shù)層出不窮。這樣的話很多人會犯一個「錘子心理」的錯誤。
  • 比如說我最近在當當上買了一本書,花了兩個月看完,然后趕上做一個項目,我就覺得自己很懂了,英雄有了用武之地。錘子心理是什么意思呢?他有了一個錘子,看誰都是釘子,就想敲敲。這種情況是要控制的。
  • 也許這個技術(shù)不是不能用,但是不是增加系統(tǒng)的負擔,公司能不能持續(xù)運營。比如招來一個牛人,這個牛人自己寫了一個框架,用了什么算法。用起來確實很好,但是過后牛人走了怎么辦?出了問題怎么辦?誰管?這種問題都是要考慮的。
  • 還有就是持續(xù)集成。我們要從技術(shù)層面去保證多數(shù)測試都可以覆蓋到,不能說換一個測試或者是換一個開發(fā)就經(jīng)常犯一些重復(fù)的低級錯誤。


基礎(chǔ)架構(gòu)?

  • 在一個完整的系統(tǒng)當中有一些和業(yè)務(wù)沒有關(guān)系的系統(tǒng),比如運維平臺的存在,是為了降低運維的風險,同時也是為了提高效率,保證質(zhì)量。
  • 比如統(tǒng)一監(jiān)控,那么大一個系統(tǒng)誰知道哪里有問題,哪里不正常,所以必須要統(tǒng)一監(jiān)控。
  • 還有是壓測工具,比如雙十一,你有沒有信心?誰敢說?我們要進行測試,壓測之后我們說5倍沒問題,10倍沒問題。但是不壓測誰敢說?
  • 還有就是流量控制。常見是分流和限流,如果說有一個頁面訪問量太大,可以分到類似的頁面去,更大的時候我們只能限流。


電商系統(tǒng)架構(gòu)?


?


這個圖是一個比較簡單的電商系統(tǒng)架構(gòu),主要說說系統(tǒng)分層。最上面的點是展示,包括首頁、搜索、列表、活動專題頁這些東西,這個展示其實都是用戶查詢的,沒有操作,只要用戶可以看就可以了,這些數(shù)據(jù)是可以緩存,可以靜態(tài)化的,可以通過這樣的方式保證用戶訪問,可以把數(shù)據(jù)都緩存起來。比如說當當?shù)氖醉?#xff0c;是不依賴任何系統(tǒng)的,其他系統(tǒng)都掛了,首頁打開是沒有問題的,畢竟主站是最大的流量入口。?

還有第二點就是交易系統(tǒng)。和訂單系統(tǒng)是上下游的關(guān)系,交易系統(tǒng)是生成訂單的,訂單系統(tǒng)是處理訂單的。交易系統(tǒng)的訂單數(shù)據(jù)是存在自己的數(shù)據(jù)庫當中。為什么呢?因為好不容易用戶來了,終于下單了,一定要留住。訂單系統(tǒng)也很復(fù)雜,不能說因為訂單系統(tǒng)掛了,導(dǎo)致訂單無法生成了。所以生成訂單這件事情是在交易系統(tǒng)完成的。訂單系統(tǒng)可以異步去處理訂單,訂單系統(tǒng)出了問題,用戶該買還是可以買的,這是電商當中非常重要的。?

第三個是商品數(shù)據(jù)中心,就是為了應(yīng)對前面的這一堆面向用戶的訪問,我們的數(shù)據(jù)是單獨有一份只讀的對外提供,和后面的PIM系統(tǒng)是分開的。PIM是寫,這邊是讀。如果PIM掛了,沒有問題。后臺系統(tǒng)不會對前臺造成太大的影響。?


?


交易系統(tǒng)是最核心的,最大的使命是生成訂單。除了基本的生成訂單的功能,還可以做什么呢?第一就是要快!比如說促銷,這里沒有寫價格和庫存,價格和庫存都是敏感數(shù)據(jù),要求盡可能準確的,我們都是實時的。但是促銷是可以緩存的,因為現(xiàn)在還不是系統(tǒng)智能去調(diào)整促銷策略的,都是靠人工設(shè)置的,節(jié)奏和頻率都是比較低的,緩存下來之后,基本上是OK的。避免促銷服務(wù)不穩(wěn)定對交易產(chǎn)生影響,如果用戶點半天沒有反應(yīng),用戶就會走的,要降低依賴。?

還有一個交易單緩存,就是訂單生成之前的臨時數(shù)據(jù),要選擇支付方式、要寫地址、要選擇是不是用紅包、抵用券、優(yōu)惠卡這些東西,選得差不多了,萬一客戶端瀏覽器崩潰了、網(wǎng)斷了或者是閃斷、交易系統(tǒng)應(yīng)用服務(wù)器某一個節(jié)點掛了,怎么辦?這是最重要的時刻,都已經(jīng)臨門一腳了,我們是有緩存的,數(shù)據(jù)量也不是很大,只要他在比較短的時間內(nèi)打開,填的東西還在,還可以順暢的往下走。這個也是非常重要的。我記得以前有的網(wǎng)站出了問題,要重新選一遍,那個時候覺得非常郁悶,除非這個東西非常需要,否則那就算了。?

電商數(shù)據(jù)模型?


?


這是電商最常見的數(shù)據(jù)模型,商家來發(fā)布商品、設(shè)置促銷、價格、庫存這些東西。用戶來瀏覽、收藏、加入購物車,最后下單。對于平臺電商來說,就會出現(xiàn)多個商家,商品要按照商家來分,訂單也要按照商家來分。但是對用戶來說,收藏、加購物車的商品還有訂單對應(yīng)的是多個商家。?

這個時候有一個非常明確的問題,比如查詢收藏列表,或者是商家管理他的商品的時候,怎么樣可以很快的處理?商品可能有幾千萬上億,肯定不會放在一個數(shù)據(jù)庫里,多個數(shù)據(jù)庫,按什么分?后邊按商家分,前邊按用戶分,中間兩套數(shù)據(jù)庫。?

說起來邏輯其實挺簡單,但是很多創(chuàng)業(yè)公司沒有琢磨過這個事,中間就是一個庫,上面設(shè)一個索引,數(shù)據(jù)量小還沒有問題,一旦大了怎么辦?覺得這是解決不了的問題。?

進一步來說,這只是一個場景,還有一些更具體的場景。比如說我們剛剛提到購物車或者是收藏夾,如果在購物車或者是收藏夾,商品數(shù)據(jù)不按照用戶來分,也不按照商家分,就按照商品ID來分,均勻的分布在我們的數(shù)據(jù)層是不是可行??

這個邏輯在平時也許沒有問題,但是電商有一個說法叫爆品,大家可以想像一下,平時是沒有問題的,正常下單正常瀏覽,一旦出現(xiàn)爆品,就會出現(xiàn)熱點數(shù)據(jù)。爆品所在的數(shù)據(jù)分片會被用戶集中瀏覽,熱點問題沒有辦法解決就是設(shè)計缺陷。再怎么分,那一個商品就在一個庫當中,你也不能把它一劈兩半。就是我剛剛說的,可能突然爆發(fā)一下,時間也不長,但是你扛不住,扛不住怎么辦?我們一會兒再說。?


?


資源隔離重點保障,這也是很重要的。比如商品數(shù)據(jù)中心給前臺提供商品數(shù)據(jù),是分成三個集群的。那邊的是網(wǎng)站,這邊是App,這邊是購物車和交易,各自都有自己的緩存和數(shù)據(jù)庫,數(shù)據(jù)完全一樣的。為什么要分開?和剛剛說的一樣,首先交易下單是最關(guān)鍵的而且性能要保證,不能受到其他場景的影響。其次移動端也非常重要,大家都是在手機上操作,其實對速度是非常關(guān)注的,不能因為網(wǎng)站流量大了,導(dǎo)致手機瀏覽緩慢,甚至可以掛掉一個集群,其他的還正常,其實就是不要把雞蛋放到一個籃子里。用空間換時間,用時間換空間。?

通過框架來樹立開發(fā)規(guī)范?


?


我們做的一個框架叫ddframe,這是我們技術(shù)層面想做的事情。很多的互聯(lián)網(wǎng)公司開發(fā)平均工作經(jīng)驗有3年就不錯了。因為這幾年各種創(chuàng)業(yè)公司比較多,膨脹的也很厲害,要找一些有經(jīng)驗的工程師很難。很多開發(fā)同學(xué)沒有經(jīng)歷過各種慘痛教訓(xùn),開發(fā)都是比較隨意的,因此我們需要做一個開發(fā)的框架去給他們做一些規(guī)范的事,能夠有效的去幫助他們,盡量不去做一些出格的事情,因此我們做了ddframe。?

框架有幾個模塊:包括最核心的部分、包括和監(jiān)控的對接、SOA的部分DubboX、還有作業(yè)框架elastic-job、以及分布式數(shù)據(jù)庫中間件sharding-JDBC。?

Dubbox是我們在Dubbo的層面做了二次開發(fā),現(xiàn)在有不少公司在用,這個部分把一般的服務(wù)注冊、軟負載、路由都搞定了。?

elastic-job是分布式作業(yè)調(diào)度框架。采用分布式作業(yè)調(diào)度框架前有什么問題呢?第一個是怎么實現(xiàn)避免單點,很多人是這樣做的,兩臺機器都部署,其中一臺crontab注釋一下,一臺機器出問題了,就去另外那臺機器上把注釋去掉,這是非常低效的,而且是完全靠人的。機器多了怎么辦?因此我們需要分布式的作業(yè)調(diào)度。這是我們?nèi)ツ觊_發(fā)的,最近唯品會在我們的早期版本基礎(chǔ)上,自己做了一個內(nèi)部的作業(yè)調(diào)度平臺,當然也歡迎大家使用。我們?yōu)槭裁醋约鹤?#xff0c;為什么不用TBSchedule,是因為我們發(fā)現(xiàn)沒有特別合適的,所以自己做。?

第二個模塊就是RDB,就是分布式數(shù)據(jù)庫問題,和高可用關(guān)系不太大,不詳細介紹??傮w而言,我們是想通過統(tǒng)一的框架、技術(shù)組件降低開發(fā)人員實現(xiàn)的復(fù)雜度,減少風險,不給他們找麻煩。?

有了框架就有了工具,有了工具就有了共同的語言。大家可以回想一下歷史課,秦始皇統(tǒng)一六國之后做了什么,統(tǒng)一度量衡、錢幣、文字。有了這些統(tǒng)一的東西,大家互相之間比較容易交流、積累經(jīng)驗,如果說某個團隊比較閑了,也可以支持別的團隊,有人在某個團隊膩了,可以去其他的團隊。?

運維與監(jiān)控?


?


原來我們有一個運維平臺,但是去年技術(shù)圈出現(xiàn)了那么多的各種事件,運維經(jīng)理說運維太重要也太危險了,因此我們做了一個強制的生產(chǎn)環(huán)境灰度發(fā)布,不允許你一鍵發(fā)布,給大家一個緩沖。自動備份也是非常重要的,如果說你發(fā)現(xiàn)灰度發(fā)布第一個節(jié)點就報錯了,你要做的事情就是回滾。?


?


接下來是監(jiān)控。監(jiān)控是一個很大的系統(tǒng),非常的重要。一個好的監(jiān)控系統(tǒng)可能更牛,因為就算是24小時都有運維的同學(xué),但是運維同學(xué)也有打盹的時候,或者是沒注意。經(jīng)常我們會在電影當中看到,某一個大盜進入到某一個大廈當中,保安就在那里喝個茶什么的,保安沒看到。這種事情是經(jīng)常會有的。?

而且有了監(jiān)控就有了數(shù)據(jù),監(jiān)控不一定觸發(fā)報警,但是你有了數(shù)據(jù)之后可以看趨勢。比如說最重要的一點–預(yù)算。我們今年要采購多少臺服務(wù)器,多數(shù)是拍腦袋拍出來的,業(yè)務(wù)說我們今年業(yè)務(wù)量增加30%,我們多采購30%的服務(wù)器,就是這么拍腦袋拍出來的,其實這個是不準確的。?

如果系統(tǒng)在某些場景下有嚴重的性能衰竭,需要去評估,或者要去看,不同的業(yè)務(wù)模式會對系統(tǒng)造成不同的壓力。比如有的系統(tǒng)今年負載反而下降了,就往下減服務(wù)器。有的可能增加200%,原來10%的負載,現(xiàn)在變成了30%了,那么這種,哪怕你的業(yè)務(wù)增長30%,這個壓力還是增長200%。這是什么概念?之前是10%到30%,現(xiàn)在就是30%到90%了。你只有有了這些數(shù)據(jù),才可以合理的去估算。?

大促或者出現(xiàn)爆品時怎么辦?
相信在上海的同學(xué)也都遇到過這樣的情況。在地鐵站,高峰時限流,用欄桿把人擋住。限流基本上是電商標配,以前沒有,所以動不動就掛了?,F(xiàn)在成熟了,如果出現(xiàn)了爆品,出現(xiàn)了熱點數(shù)據(jù)怎么辦??

你不能說流量一來你就掛了,這個時候限流就非常重要了。舉例來說可以扛得住8000,8000以外的就攔住,不讓進來。比如淘寶去年雙十一零點之后的幾分鐘,有人手機淘寶進不去,或者是支付寶支付不了,就在朋友圈里發(fā)截圖說淘寶又掛了,但是沒有多少人回應(yīng),因為多數(shù)人是可以使用的,他剛好倒霉,是被限流了。有了限流今天來10倍就10倍,來20倍沒有辦法,但是系統(tǒng)扛得住,把其他的流量扔了,保證了基本的收入。?

那么最后我們該做的事情都做了,還能怎么辦呢?就只能求佛祖保佑了。這種時候有信仰也許會對你的系統(tǒng)可用性指標有點幫助。不管有沒有用,我們可以努力一下,在自己的代碼注釋當中放上一個佛祖保佑一下。

轉(zhuǎn)載于:https://www.cnblogs.com/davidwang456/articles/5340650.html

總結(jié)

以上是生活随笔為你收集整理的当当网高可用架构之道--转的全部內(nèi)容,希望文章能夠幫你解決所遇到的問題。

如果覺得生活随笔網(wǎng)站內(nèi)容還不錯,歡迎將生活随笔推薦給好友。

欧美日在线观看 | 中文字幕在线观看视频网站 | 亚洲一区二区天堂 | 国产 亚洲 欧美 在线 | 色av婷婷 | 亚洲精品视频在线观看视频 | 亚洲综合色丁香婷婷六月图片 | 狠狠地日 | 国产精品久久久久久久久久久免费 | 国产精品欧美日韩在线观看 | 在线www色 | 91片网 | 久久久不卡影院 | 日韩中文字幕免费在线观看 | 超碰成人免费电影 | 亚洲最大免费成人网 | 久久激情小说 | 色狠狠干 | 伊人五月在线 | 亚洲精品久久在线 | 韩国av一区二区三区在线观看 | 国产不卡在线 | 欧美精彩视频 | 日韩欧美视频免费在线观看 | 亚洲精选视频免费看 | 在线国产片 | 日韩在线免费电影 | 很黄很黄的网站免费的 | 麻豆小视频在线观看 | 日韩女同一区二区三区在线观看 | 粉嫩av一区二区三区四区五区 | 国产片免费在线观看视频 | 国产精品系列在线观看 | 中文乱幕日产无线码1区 | 色诱亚洲精品久久久久久 | 国产91av视频在线观看 | 亚洲精品一区二区三区在线观看 | 久久精品久久综合 | 婷婷中文字幕在线观看 | 久久久精品99 | 在线视频观看成人 | 色91在线视频 | 久久久影视| 国产精品九九热 | 91热爆视频 | 色久五月| 人人狠狠综合久久亚洲婷 | 国产亚洲精品久久久久久移动网络 | 免费在线视频一区二区 | 中文字幕精品在线 | 天天天插 | 亚洲日本国产精品 | 国产a视频免费观看 | 最新国产一区二区三区 | 国产淫a | 成片人卡1卡2卡3手机免费看 | 综合久久网站 | 日日日操| 天堂av免费观看 | 国产精品网站一区二区三区 | 91久草视频 | 日本久久成人中文字幕电影 | 日韩av片无码一区二区不卡电影 | 久久久在线视频 | 日本久久免费电影 | 亚洲综合在线一区二区三区 | 国产精久久久久久妇女av | 久久久久久久久免费视频 | 久久精品麻豆 | 九色91av | 人人看人人草 | 成人全视频免费观看在线看 | 日韩国产精品久久久久久亚洲 | 欧美日韩色婷婷 | 国产伦精品一区二区三区无广告 | 国产成免费视频 | 91视频xxxx| 欧美午夜一区二区福利视频 | 国产又粗又猛又黄 | 国产91精品一区二区 | a爱爱视频 | 久久久色 | 日韩黄视频 | 黄色免费观看 | 91福利在线导航 | 91九色视频在线 | 亚洲成人av一区二区 | 亚州欧美视频 | a色视频| 韩国av免费| 欧美另类xxx | 五月婷婷综合久久 | 日韩中文在线视频 | 成人影视免费看 | 中文字幕在线免费观看视频 | 天天干,天天射,天天操,天天摸 | 色天堂在线视频 | 亚洲电影图片小说 | 成人免费在线播放视频 | 亚洲精品合集 | 六月丁香婷婷在线 | 久久久综合精品 | 九九九热精品 | 麻豆精品在线视频 | 视频一区二区免费 | 97免费在线观看视频 | 天天躁日日躁狠狠 | 又长又大又黑又粗欧美 | 色综合天天在线 | 日韩精品一区二区免费 | 国产精品毛片一区视频播不卡 | 日韩高清在线看 | 最新日韩在线 | 一区二区三区在线视频观看58 | 国产青青青| 亚洲免费观看视频 | 亚洲一区尤物 | 91自拍视频在线 | 狠狠躁日日躁狂躁夜夜躁av | 中文字幕国产亚洲 | 国产黄色a| 一区二区精品国产 | 国产女人40精品一区毛片视频 | 美女视频永久黄网站免费观看国产 | 亚洲精品视频在线观看免费视频 | 久久免费视频这里只有精品 | 欧美成年性 | 99在线观看 | 制服丝袜欧美 | 亚洲视频 视频在线 | 日日夜夜狠狠干 | 免费成人在线视频网站 | 91亚洲综合 | 国产一级黄色电影 | 久久国产精品免费一区二区三区 | 国产亚洲日 | 久久综合九九 | 国产色视频一区 | 国产成人一区在线 | 午夜精品成人一区二区三区 | 成人全视频免费观看在线看 | 99久高清在线观看视频99精品热在线观看视频 | 992tv在线观看 | 国产精品二区三区 | 四虎影视精品永久在线观看 | 国产流白浆高潮在线观看 | 一区二区三区观看 | 五月婷激情 | 国产成人精品福利 | 色婷婷97 | 手机在线中文字幕 | 91精品国产一区二区三区 | 免费在线激情电影 | 在线成人国产 | 免费av观看网站 | 黄色三级免费网址 | 久久999久久 | 色婷五月天 | 久久伊人热 | 午夜久久影视 | 亚洲精品黄色片 | 国产麻豆电影在线观看 | 91成人天堂久久成人 | 久久久精品视频网站 | 91在线你懂的 | 99精品视频免费全部在线 | 国产成人高清av | www.香蕉视频在线观看 | 久久免费视频8 | 国产在线中文 | 欧美日韩国产高清视频 | 中文字幕在线资源 | 中文字幕精品www乱入免费视频 | av福利免费 | 97人人澡人人添人人爽超碰 | 一本—道久久a久久精品蜜桃 | 99热99 | 国产黄色一级片 | 欧美一区二区在线刺激视频 | 久久久久高清 | 色狠狠一区二区 | 欧美久久久久 | 国产精品成人一区二区三区吃奶 | 欧美日韩精品在线播放 | 国产这里只有精品 | 欧美日韩综合在线观看 | 国产精品美女久久久久久网站 | 91在线精品秘密一区二区 | 最新午夜 | 国产午夜精品一区 | 国产精品久久久久久影院 | 日日碰狠狠添天天爽超碰97久久 | 国内精品国产三级国产aⅴ久 | 日韩在线观看一区二区 | 久久艹国产 | 久久久久免费看 | 午夜美女福利直播 | 国产成人精品一区二区三区福利 | 久久高视频 | 91九色丨porny丨丰满6 | 在线国产不卡 | 亚洲免费视频在线观看 | 美女视频网站久久 | 涩涩资源网 | av高清在线观看 | 国产福利在线不卡 | 欧美激情精品久久久久久变态 | 日韩久久精品一区二区三区下载 | 91九色在线播放 | 精品国产aⅴ麻豆 | 久久69av| 99中文字幕在线观看 | 国产精品自产拍在线观看网站 | 亚洲少妇自拍 | 国产在线播放一区二区 | 91亚洲在线观看 | 国产精品一区二区免费在线观看 | 天天综合天天做 | 97超碰中文字幕 | 欧美另类一二三四区 | 国产精品久久久久婷婷二区次 | 99这里精品| 国产精品高潮呻吟久久久久 | 中文字幕成人在线观看 | 三级黄色在线 | 亚洲精品福利在线观看 | 国产视频一区在线 | 久久在线免费视频 | 国产午夜精品免费一区二区三区视频 | 久久99精品一区二区三区三区 | 毛片99 | av免费在线看网站 | 久久99网站 | 国产精品一区二区果冻传媒 | 福利网在线 | 日韩另类在线 | 亚洲精品免费在线观看 | 久久超级碰视频 | 丁香花在线视频观看免费 | 久久综合给合久久狠狠色 | 探花视频在线观看+在线播放 | 久久爱www.| 一级成人免费视频 | www日韩在线观看 | 97av在线视频 | 可以免费看av | 国产精品1区2区3区在线观看 | 色com | 国产精品福利在线播放 | 国产日韩精品视频 | 视频99爱| 久久精品精品电影网 | 国产不卡毛片 | 久久久久免费网 | 久久草草热国产精品直播 | 久久精品国产亚洲 | 亚洲精品88欧美一区二区 | 久久精品视频在线观看免费 | 日韩精品久久久免费观看夜色 | 成人黄色短片 | 亚洲精品videossex少妇 | 最新av网站在线观看 | 91精品国产92久久久久 | 99精品视频免费观看 | 欧美日韩首页 | 色综合五月天 | 欧美视频www| 日韩中文字幕免费电影 | 久久免费在线观看 | 国产录像在线观看 | 亚洲精品国产精品国自产在线 | 五月天最新网址 | 亚洲一区二区三区精品在线观看 | 中文字幕亚洲情99在线 | 中文字幕韩在线第一页 | 99热网站| 久久久成人精品 | 亚洲区视频在线 | 国产xxxx做受性欧美88 | 在线观看完整版免费 | 免费福利视频导航 | 美女网站色在线观看 | 日韩在线视频看看 | 9在线观看免费高清完整版 玖玖爱免费视频 | 九九热精 | 成人精品视频久久久久 | 欧美 日韩 成人 | 777xxx欧美| 狠狠色丁香婷婷综合视频 | 精品久久免费看 | 欧美一进一出抽搐大尺度视频 | 国外成人在线视频网站 | 久久精品观看 | 精品在线免费视频 | 免费久久99精品国产 | 久久在线免费观看 | 久草网站在线观看 | 亚洲二级片 | 国产婷婷一区二区 | 亚洲综合视频在线观看 | 久久涩涩网站 | 亚洲aⅴ久久精品 | 一区在线免费观看 | 国产精品18久久久久白浆 | 一区二区三区国产精品 | 久久久精品日本 | 狠狠色丁香婷婷综合久小说久 | 日韩高清精品免费观看 | 国产一级黄色免费看 | 久久艹在线观看 | 国产精品视频久久 | 国产一级电影免费观看 | www.久久色| 欧美日韩高清免费 | 91视频在线自拍 | 五月激情六月丁香 | 国产一级视频 | 色综合天天综合网国产成人网 | 美女激情影院 | 能在线观看的日韩av | 久草在线免| 欧美日韩成人一区 | 国产精品一区二区中文字幕 | 欧美日韩精品二区第二页 | 在线观看深夜视频 | 91在线操 | 国产不卡高清 | 人人爽夜夜爽 | 久久精品这里精品 | 成人小视频在线观看免费 | 天天操天天操天天 | 美女网站色 | 日韩在线电影一区 | 欧美做受高潮电影o | 欧美久久影院 | 色综合久久精品 | 色永久免费视频 | 国产精品久久久久久久久久白浆 | 久久黄页 | 五月的婷婷 | 在线视频 影院 | 麻豆视频在线观看免费 | 国产色一区| 国产精品一区二区美女视频免费看 | 一级成人免费视频 | 国精产品满18岁在线 | 亚洲在线资源 | 午夜久操 | 中文字幕观看在线 | 91精品欧美一区二区三区 | 中文字幕在线日 | 97在线看| 麻豆视频免费入口 | 在线视频第一页 | 亚洲第一色 | 日韩网站中文字幕 | 亚洲成人频道 | 日韩精品欧美专区 | 久久99国产视频 | 亚洲精品免费播放 | 狠狠色丁香婷婷综合视频 | 伊人婷婷 | 日批视频在线播放 | 久久精品视频在线免费观看 | 国产1区2区3区精品美女 | 亚洲精品视频在线 | 91成人网在线播放 | 国产午夜在线观看 | 国产精品美女久久久久久久 | 成人a在线观看 | 97国产在线视频 | 99re久久资源最新地址 | 亚洲少妇久久 | 国产91在线 | 美洲 | 免费午夜在线视频 | 韩国三级av在线 | 国产一级做a | 五月婷婷视频在线观看 | 国产一级视频在线免费观看 | 亚洲国产精品一区二区尤物区 | 精品99999 | 久久艹精品 | 人人插人人做 | 国产香蕉久久精品综合网 | 亚洲永久国产精品 | 国产在线欧美 | 久久激情影院 | 国产 欧美 日产久久 | 91亚洲永久精品 | 91麻豆精品国产91久久久无需广告 | 亚洲欧洲成人精品av97 | 91精品视频在线 | 国产在线a视频 | 天天插天天色 | 一区 二区 精品 | 久久精品一二三 | 99草视频| 超碰伊人网 | 欧美日韩1区2区 | 精品99久久 | 97色噜噜| 亚洲成av人片在线观看香蕉 | 日韩高清黄色 | 69视频国产| 国产黄影院色大全免费 | www.com在线观看| 午夜视频亚洲 | 亚洲粉嫩av | www.久久免费视频 | 免费合欢视频成人app | 国产黄色精品视频 | 91精品一 | 成人免费视频在线观看 | 久久好看免费视频 | 黄色成人小视频 | 欧美一级片免费观看 | 日本黄色特级片 | av 一区二区三区四区 | 国产伦理久久精品久久久久_ | 在线看中文字幕 | 亚洲夜夜爽 | 正在播放国产精品 | 欧美另类性| 久久人人爽人人片 | 久艹在线播放 | 亚洲国产理论片 | 久久er99热精品一区二区 | 狠狠色噜噜狠狠狠狠2022 | 欧美日韩裸体免费视频 | 五月婷婷综 | 在线天堂中文在线资源网 | 激情婷婷 | 久久草在线免费 | 日韩电影在线视频 | 深爱激情亚洲 | 色婷婷播放 | 婷婷天天色 | 亚洲女人av | 国产精品自在线 | 观看免费av | 色综合天天狠天天透天天伊人 | 欧美大片www| 亚洲一级电影视频 | 欧美 日韩 国产 成人 在线 | 国产美女在线免费观看 | 久久综合激情 | 欧美另类高潮 | 久久精品一区二区三区国产主播 | 久久色视频 | 国产成人三级一区二区在线观看一 | 1000部18岁以下禁看视频 | 免费国产在线视频 | 国产精品自产拍在线观看网站 | 午夜视频播放 | 天天操导航 | 在线一二区 | 精品999国产 | 午夜av一区二区三区 | 欧美日韩国产在线观看 | 日韩av免费一区二区 | 亚洲一区 影院 | 在线免费观看视频一区 | 久久精品国产免费看久久精品 | 日韩视频图片 | 亚洲精品小区久久久久久 | 精品亚洲视频在线 | 91视频在线自拍 | 久久精品日产第一区二区三区乱码 | 日韩黄色大片在线观看 | 少妇视频一区 | 在线黄色国产 | 日韩欧美一区二区在线播放 | 97色婷婷 | 天天综合网久久综合网 | 久久久国产影视 | 一本一道久久a久久综合蜜桃 | 97超碰在线免费观看 | 欧美精品一区二区免费 | 亚洲精品男女 | 天天操,夜夜操 | 国产精品免费在线播放 | 国产在线一区二区 | 国产精品一区久久久久 | 开心激情网五月天 | 婷婷丁香花 | 日日日日干 | 成人毛片一区二区三区 | 国内精品久久久 | 日日激情 | 欧美日韩伦理一区 | 国产精品一区免费观看 | 国产成人精品亚洲日本在线观看 | 日韩xxxx视频 | 亚洲高清精品在线 | 啪一啪在线| 免费能看的av | 国产精品久久久区三区天天噜 | 免费高清在线视频一区· | 免费看黄20分钟 | 久久久av电影 | 麻豆精品视频在线观看免费 | 日本大片免费观看在线 | 天天操狠狠干 | 亚洲乱码国产乱码精品天美传媒 | 一区二区三区高清在线观看 | 欧美一进一出抽搐大尺度视频 | 亚洲精品视频在线观看免费视频 | 在线观看的av网站 | 超碰精品在线观看 | 人成午夜视频 | 日本久久电影 | 日韩三级精品 | 久久综合色天天久久综合图片 | 久久免费av电影 | www.狠狠干| 成人欧美一区二区三区黑人麻豆 | 麻豆成人小视频 | 欧美视屏一区二区 | 国产女人18毛片水真多18精品 | 国产中文字幕三区 | 国内精品久久久 | 国产午夜精品一区二区三区嫩草 | 久草青青在线观看 | av福利资源| 亚洲国产成人在线 | 国产麻豆视频网站 | 91福利专区 | 嫩草伊人久久精品少妇av | 91av资源在线 | 视频精品一区二区三区 | 久草精品视频在线看网站免费 | 欧美激情综合五月色丁香 | 久久中文精品视频 | 91天天视频 | 黄色小说视频在线 | 成年人黄色大片在线 | 人人干网| 97电影院网 | 91福利免费| 久久精品视频网址 | 国产精品免费视频一区二区 | 日韩欧美高清不卡 | 91中文字幕在线观看 | 久久日韩精品 | 狠狠狠色狠狠色综合 | 18国产精品白浆在线观看免费 | 国产第一页福利影院 | 在线观看视频日韩 | 日韩av影视在线观看 | 超碰成人网 | 麻豆成人精品 | 久久99精品国产一区二区三区 | 久久国内精品 | 九九视频这里只有精品 | 亚洲深爱激情 | 国产精品久久久久婷婷二区次 | 久久久久久免费 | 四虎精品成人免费网站 | 亚洲乱码久久久 | 最新亚洲视频 | 日韩一区二区三区不卡 | 91九色性视频 | ,午夜性刺激免费看视频 | 夜夜夜影院| 精品亚洲免费视频 | 成人一区二区三区在线观看 | 在线观看中文av | 日本免费一二三区 | 美女视频黄是免费的 | 免费观看黄色12片一级视频 | 欧美日韩18 | 日韩成人免费观看 | 亚洲精品a区| 啪啪小视频网站 | 97热在线观看 | 国产乱码精品一区二区三区介绍 | 99在线热播精品免费99热 | 久操视频在线观看 | 亚洲国产片 | 国产精品国产亚洲精品看不卡15 | 精品99久久 | 97福利社| 99热手机在线观看 | 91一区在线观看 | 99久久久国产精品 | 激情视频免费在线 | www.香蕉视频| 久久免费视频播放 | 日韩免费一区 | 五月婷婷开心中文字幕 | 久黄色| 午夜精品av | 最近中文国产在线视频 | 狠狠色噜噜狠狠狠狠 | 99在线看 | 色婷婷天天干 | 在线成人高清电影 | 亚洲综合五月 | 国产精品久久久久久久免费 | 亚洲 欧美 91 | 黄色avwww | 狠狠色丁香久久婷婷综合五月 | 999国内精品永久免费视频 | 最近中文字幕视频网 | 99精品视频在线播放免费 | 国产一区二区影院 | 国产精品久久久久久五月尺 | 久久精品视频国产 | 中文字幕亚洲综合久久五月天色无吗'' | 99国产精品视频免费观看一公开 | 欧美一级性视频 | 久草久视频 | 精品国产一区二区三区在线观看 | 日韩网站免费观看 | 午夜视频播放 | 91在线视频免费观看 | 美女黄视频免费 | 久久久国产高清 | 色的网站在线观看 | 色鬼综合网 | 美女视频a美女大全免费下载蜜臀 | 特级xxxxx欧美| 人人干97| 国产精品久久久久久久久久三级 | 国产精品白丝jk白祙 | 久草久草在线观看 | 亚洲精品视频在线 | 人人超碰在线 | 99 精品 在线 | 久草网视频在线观看 | www.五月婷 | 久综合网 | 精品视频不卡 | 在线观看视频一区二区三区 | 免费看成人av | 国产在线一区观看 | 国产最新福利 | 国产高清黄色 | 亚洲精品99久久久久中文字幕 | 黄色在线免费观看网址 | 亚洲精品大全 | 91免费国产在线观看 | 精品影院一区二区久久久 | av一级免费 | 国产精品 日韩 | 欧美日韩视频在线观看一区二区 | 在线久热| 中文字幕精品一区久久久久 | 天天草天天干天天 | 日韩欧美在线播放 | 亚洲精品国产日韩 | 色五月成人 | 特级黄色一级 | 国产精品久久久久久999 | 成人av电影免费在线播放 | 久久免费国产精品 | 国产精品久久久久高潮 | 中文字幕久久亚洲 | 久久亚洲日本 | 欧美日韩精品免费观看视频 | 欧美成人在线免费观看 | 69视频国产 | 日本在线观看一区 | 国产精品国产三级国产 | 一区二区理论片 | 五月婷婷综 | 色欲综合视频天天天 | 久久福利电影 | 伊人国产在线播放 | 91av观看| av网站手机在线观看 | 成人av影视在线 | 精品一区二区综合 | 国产激情电影综合在线看 | 狠狠狠狠狠操 | 久久久免费毛片 | 国产高清日韩 | 麻豆传媒在线免费看 | 人人爽人人av | 在线观看日韩 | 久久视影 | 色婷婷午夜 | 日韩欧美精品一区二区三区经典 | 亚洲视频免费在线观看 | 欧美高清视频不卡网 | 国产视频中文字幕在线观看 | 天天躁日日躁狠狠躁 | 成人黄大片视频在线观看 | 精品久久久久免费极品大片 | 91网址在线观看 | 国产三级视频在线 | 国产黄在线看 | 国产精品三级视频 | 麻豆91在线| 国产成人亚洲精品自产在线 | 蜜桃视频色 | 欧美久久久久久久久久久久久 | 久久久精品久久日韩一区综合 | 日韩欧美精品免费 | 在线观看视频在线 | 91看毛片| 99在线视频播放 | 51久久夜色精品国产麻豆 | 欧美激情综合色综合啪啪五月 | 国产婷婷一区二区 | 亚洲免费国产视频 | 丰满少妇在线观看资源站 | 久久永久免费视频 | 亚洲精品视频大全 | 国产美女视频免费 | 成人一区二区在线观看 | 欧美 日韩 久久 | 久久r精品 | 午夜电影 电影 | 亚洲国产小视频在线观看 | 九九久久久久久久久激情 | 国产精品欧美久久久久三级 | 江苏妇搡bbbb搡bbbb | 丝袜美女在线观看 | 免费91麻豆精品国产自产在线观看 | 日韩欧美网址 | 色噜噜在线观看视频 | 最近中文字幕免费av | 国产精品久久久久久久久搜平片 | 九九免费观看全部免费视频 | 精品久久1| 色偷偷网站视频 | 午夜精品区 | 波多野结衣精品视频 | 久久免费视频5 | 日本精品视频网站 | 中文字幕乱码日本亚洲一区二区 | 97手机电影网| 国产一区在线免费观看 | 亚洲国产精品成人精品 | 香蕉色综合| 97国产在线播放 | 欧美精选一区二区三区 | 精品一区二区精品 | 五月天婷婷综合 | 日韩一区二区三区在线看 | 黄色小说视频网站 | 欧美日韩一区二区三区在线观看视频 | 看片网站黄色 | 97精品国产 | 中文字幕精品一区二区精品 | 久久最新视频 | 丁香电影小说免费视频观看 | 久久久久久美女 | 特黄特黄的视频 | 天天操夜夜看 | 日韩黄色大片在线观看 | 少妇性色午夜淫片aaaze | 久久96国产精品久久99软件 | 日本在线观看中文字幕无线观看 | www久久精品 | 在线小视频国产 | 91免费在线视频 | 亚洲黄色大片 | 一区二区三区福利 | 日韩电影一区二区三区 | 亚洲激情视频在线 | 国产精品美女久久久久久网站 | 四虎影视精品永久在线观看 | 天天干天天草 | 麻豆一区二区 | 九九九热精品免费视频观看网站 | 狠狠狠色丁香婷婷综合久久五月 | 成人宗合网| 伊人成人久久 | 国内精品一区二区 | 91亚洲国产成人久久精品网站 | 91爱看片| 91在线蜜桃臀 | 狠狠干天天 | 美女精品网站 | 91在线视频| 国产手机视频在线观看 | 日韩在线首页 | 在线不卡的av | 亚洲黄色成人网 | 久久经典视频 | 91亚洲国产成人久久精品网站 | 国产成人一区三区 | 91视频com | 69精品在线 | 欧美日本中文字幕 | 在线亚洲播放 | 国产精品热视频 | 免费福利视频网站 | 国产亚洲精品久久久久久移动网络 | 婷婷久久一区二区三区 | 日韩精品专区在线影院重磅 | 97在线观看视频免费 | 日批视频国产 | 国产高清视频在线观看 | av天天澡天天爽天天av | 国产麻豆精品免费视频 | 色婷婷综合久久久久 | 91精品办公室少妇高潮对白 | 免费日韩一区 | 国产精品一区二区久久精品爱涩 | 国产在线一线 | 日韩超碰 | 国产小视频在线观看 | 中文在线中文资源 | 国产美女精品人人做人人爽 | 久久夜靖品 | 欧美日本国产在线观看 | 涩涩网站在线观看 | 天天草夜夜 | 亚洲精品国产精品乱码不99热 | 国内精品久久久久久久久 | 天天干天天拍天天操天天拍 | 91av在线视频免费观看 | 国产一级黄色片免费看 | 天天摸天天干天天操天天射 | 91精品999 | 97成人啪啪网 | 毛片网站免费在线观看 | 久久网址 | 亚洲欧美日韩精品久久奇米一区 | 久草网视频 | 国产精品高潮在线观看 | 黄色av一区二区 | 中文字幕日韩免费视频 | 欧美日韩成人一区 | 青青草国产在线 | 亚洲午夜精品在线观看 | 亚洲一区二区精品3399 | 在线观看免费视频 | 久久九九网站 | 精品国产一区二区三区不卡 | 国产成本人视频在线观看 | 鲁一鲁影院 | 色婷婷一区 | 香蕉久久久久久av成人 | 久久激情综合网 | 久久不见久久见免费影院 | 美女免费电影 | 久久久久久网址 | 99 色| 久久久久久99精品 | 亚洲精选久久 | 精品国产伦一区二区三区观看体验 | 中午字幕在线 | 亚洲最新av在线网址 | 成人av久久| 69av在线播放 | 久草免费在线视频观看 | 国产欧美精品一区二区三区 | 久久亚洲综合国产精品99麻豆的功能介绍 | 国产午夜精品在线 | 国产精品99久久久久的智能播放 | 久久综合给合久久狠狠色 | 免费看成年人 | 91免费在线播放 | 国内外成人免费在线视频 | 五月天中文字幕 | 久久五月婷婷丁香社区 | 一区二区三区在线观看 | 黄色毛片观看 | 久久精品久久99 | 中文字幕成人网 | 久久久18 | 麻豆综合网 | 国产一区视频免费在线观看 | 伊人天堂av| 91精品国产91 | 2019国产精品| 中文日韩在线视频 | 992tv在线观看网站 | 天天干天天操天天入 | 欧美激情视频一区 | 国产69精品久久久久99尤 | 成人亚洲综合 | 日韩三级一区 | 国产成人精品久久亚洲高清不卡 | 欧美一级黄大片 | 97在线视频观看 | 日韩在线一区二区免费 | www看片网站| 国产伦精品一区二区三区在线 | 久久视频在线免费观看 | 麻豆传媒视频在线免费观看 | 亚洲亚洲精品在线观看 | 大荫蒂欧美视频另类xxxx | 国产福利91精品一区二区三区 | 五月开心激情 | 天天做天天爱夜夜爽 | 久久天天操| 久久久国产精品久久久 | 视频精品一区二区三区 | 久久成人欧美 | 天天爽人人爽夜夜爽 | 视频成人免费 | 亚洲区另类春色综合小说校园片 | 色婷五月天 | 欧美一级在线看 | 国产一级免费视频 | 国产在线日本 | 狠狠干.com | 成人一级在线 | 9999在线视频 | 中文字幕一区二区三区四区在线视频 | 天堂va在线观看 | 欧美日韩三级在线观看 | 色综合久久久久综合体桃花网 | 经典三级一区 | 日韩高清在线一区二区 | 日韩视频一区二区在线观看 | 丰满少妇高潮在线观看 | 免费日p视频| 不卡的av在线 | 在线观看av大片 | 婷婷中文字幕在线观看 | 婷婷丁香色 | 久久影院精品 | 国产又粗又硬又长又爽的视频 | 探花视频免费观看 | 99热官网| 91九色porny蝌蚪主页 | 国产 一区二区三区 在线 | 91视频这里只有精品 | 亚洲精品中文字幕在线 | 国产精品久久久久久久久免费 | 中文字幕在线播放一区二区 | 国产精品一区二区久久久久 | 国产专区欧美专区 | 国产精品嫩草影院123 | 国内揄拍国内精品 | 久久久久国产精品一区二区 | 亚洲影院天堂 | 国产青青青 | 超级碰碰碰免费视频 | 欧美日韩一区二区三区视频 | 日韩试看| 色吊丝在线永久观看最新版本 | 久久精品美女 | 成人av在线直播 | 国产资源 | 91av在线视频播放 | 国产一区精品在线 | 美女视频a美女大全免费下载蜜臀 | 中文字幕在线免费 | 超碰97国产在线 | 日韩av手机在线看 | 国产免费久久久久 | 日韩欧美视频免费在线观看 | av黄色大片| 色视频网页| 国产123区在线观看 国产精品麻豆91 | 午夜视频播放 | 久热免费在线 | 91久久久久久久一区二区 | 蜜臀av在线一区二区三区 | 婷婷深爱 | 99视屏| 亚洲日韩欧美一区二区在线 | 久久久综合九色合综国产精品 | av黄色免费在线观看 | 久久久免费毛片 | 在线观看亚洲专区 | 日韩高清在线不卡 | 激情久久久久久久久久久久久久久久 | 久草在线视频国产 | 91精品国自产在线观看欧美 | 日韩美在线观看 | 国产精品入口麻豆www | 国产精品网址在线观看 | 热久久最新地址 | 色射爱| 综合久久影院 | 91成年人在线观看 | 欧美国产视频在线 | 欧美韩国在线 | 免费看网站在线 | 在线免费黄色av | 国产精品18久久久久久首页狼 | 韩日三级在线 | 黄色小网站在线观看 | 日本黄色免费电影网站 | 久久综合九色九九 | 亚洲一区二区视频在线 | 2022久久国产露脸精品国产 | 婷婷激情小说网 | 成人在线观看影院 | 91精品国产自产老师啪 | wwwwww色| 久久精品高清 | 国产色拍拍拍拍在线精品 | 久久综合色天天久久综合图片 | 丁香久久综合 | 国产精品综合久久久 | 精品美女国产在线 | 精品黄色在线观看 | 色激情在线 | 久久免费a |