日韩av黄I国产麻豆传媒I国产91av视频在线观看I日韩一区二区三区在线看I美女国产在线I麻豆视频国产在线观看I成人黄色短片

歡迎訪問 生活随笔!

生活随笔

當前位置: 首頁 > 运维知识 > 数据库 >内容正文

数据库

腾讯云mysql架构_一个数据库存储架构的独白

發(fā)布時間:2025/3/11 数据库 28 豆豆
生活随笔 收集整理的這篇文章主要介紹了 腾讯云mysql架构_一个数据库存储架构的独白 小編覺得挺不錯的,現(xiàn)在分享給大家,幫大家做個參考.

本文由云+社區(qū)發(fā)表

本文作者:許中清,騰訊云自研數(shù)據(jù)庫CynosDB的分布式存儲CynosStore負責人。從事數(shù)據(jù)庫內(nèi)核開發(fā)、數(shù)據(jù)庫產(chǎn)品架構(gòu)和規(guī)劃。曾就職于華為,2015年加入騰訊,參與過TBase(PGXZ)、CynosDB等數(shù)據(jù)庫產(chǎn)品研發(fā)。專注于關(guān)系數(shù)據(jù)庫、數(shù)據(jù)庫集群、新型數(shù)據(jù)庫架構(gòu)等領(lǐng)域。目前擔任CynosDB的分布式存儲CynosStore負責人。

企業(yè)IT系統(tǒng)遷移到公有云上已然是正在發(fā)生的趨勢。數(shù)據(jù)庫服務,作為公有云上提供的關(guān)鍵組件,是企業(yè)客戶是否愿意將自己運行多年的系統(tǒng)搬到云上的關(guān)鍵考量之一。另一方面,自從System R開始,關(guān)系數(shù)據(jù)庫系統(tǒng)已經(jīng)大約四十年的歷史了。尤其是隨著互聯(lián)網(wǎng)的發(fā)展,業(yè)務對數(shù)據(jù)庫實例的吞吐量要求越來越高。對于很多業(yè)務來說,單個物理機器所能提供的最大吞吐量已經(jīng)不能滿足業(yè)務的高速發(fā)展。因此,數(shù)據(jù)庫集群是很多IT系統(tǒng)繞不過去的坎。

CynosDB for PostgreSQL是騰訊云自研的一款云原生數(shù)據(jù)庫,其主要核心思想來自于亞馬遜的云數(shù)據(jù)庫服務Aurora。這種核心思想就是“基于日志的存儲”和“存儲計算分離”。同時,CynosDB在架構(gòu)和工程實現(xiàn)上確實有很多和Aurora不一樣的地方。CynosDB相比傳統(tǒng)的單機數(shù)據(jù)庫,主要解決如下問題:

存算分離

存算分離是云數(shù)據(jù)庫區(qū)別于傳統(tǒng)數(shù)據(jù)庫的主要特點之一,主要是為了1)提升資源利用效率,用戶用多少資源就給多少資源;2)計算節(jié)點無狀態(tài)更有利于數(shù)據(jù)庫服務的高可用性和集群管理(故障恢復、實例遷移)的便利性。

存儲自動擴縮容

傳統(tǒng)關(guān)系型數(shù)據(jù)庫會受到單個物理機器資源的限制,包括單機上存儲空間的限制和計算能力的限制。CynosDB采用分布式存儲來突破單機存儲限制。另外,存儲支持多副本,通過RAFT協(xié)議來保證多副本的一致性。

更高的網(wǎng)絡利用率

通過基于日志的存儲設計思路,大幅度降低數(shù)據(jù)庫運行過程中的網(wǎng)絡流量。

更高的吞吐量

傳統(tǒng)的數(shù)據(jù)庫集群,面臨的一個關(guān)鍵問題是:分布式事務和集群吞吐量線性擴展的矛盾。也就是說,很多數(shù)據(jù)庫集群,要么支持完整的ACID,要么追求極好的線性擴展性,大部分時候魚和熊掌不可兼得。前者比如Oracle RAC,是目前市場上最成熟最完善的數(shù)據(jù)庫集群,提供對業(yè)務完全透明的數(shù)據(jù)訪問服務。但是Oracle RAC的線性擴展性卻被市場證明還不夠,因此,更多用戶主要用RAC來構(gòu)建高可用集群,而不是高擴展的集群。后者比如Proxy+開源DB的數(shù)據(jù)庫集群方案,通常能提供很好的線性擴展性,但是因為不支持分布式事務,對數(shù)據(jù)庫用戶存在較大的限制。又或者可以支持分布式事務,但是當跨節(jié)點寫入比例很大時,反過來降低了線性擴展能力。CynosDB通過采用一寫多讀的方式,利用只讀節(jié)點的線性擴展來提升整個系統(tǒng)的最大吞吐量,對于絕大部份公有云用戶來說,這就已經(jīng)足夠了。

存儲自動擴縮容

傳統(tǒng)關(guān)系型數(shù)據(jù)庫會受到單個物理機器資源的限制,包括單機上存儲空間的限制和計算能力的限制。CynosDB采用分布式存儲來突破單機存儲限制。另外,存儲支持多副本,通過RAFT協(xié)議來保證多副本的一致性。

更高的網(wǎng)絡利用率

通過基于日志的存儲設計思路,大幅度降低數(shù)據(jù)庫運行過程中的網(wǎng)絡流量。

更高的吞吐量

傳統(tǒng)的數(shù)據(jù)庫集群,面臨的一個關(guān)鍵問題是:分布式事務和集群吞吐量線性擴展的矛盾。也就是說,很多數(shù)據(jù)庫集群,要么支持完整的ACID,要么追求極好的線性擴展性,大部分時候魚和熊掌不可兼得。前者比如Oracle RAC,是目前市場上最成熟最完善的數(shù)據(jù)庫集群,提供對業(yè)務完全透明的數(shù)據(jù)訪問服務。但是Oracle RAC的線性擴展性卻被市場證明還不夠,因此,更多用戶主要用RAC來構(gòu)建高可用集群,而不是高擴展的集群。后者比如Proxy+開源DB的數(shù)據(jù)庫集群方案,通常能提供很好的線性擴展性,但是因為不支持分布式事務,對數(shù)據(jù)庫用戶存在較大的限制。又或者可以支持分布式事務,但是當跨節(jié)點寫入比例很大時,反過來降低了線性擴展能力。CynosDB通過采用一寫多讀的方式,利用只讀節(jié)點的線性擴展來提升整個系統(tǒng)的最大吞吐量,對于絕大部份公有云用戶來說,這就已經(jīng)足夠了。

下圖為CynosDB for PostgreSQL的產(chǎn)品架構(gòu)圖,CynosDB是一個基于共享存儲、支持一寫多讀的數(shù)據(jù)庫集群。

CynosDB for PostgreSQL產(chǎn)品架構(gòu)圖

圖一CynosDB for PostgreSQL產(chǎn)品架構(gòu)圖

CynosDB基于CynosStore之上,CynosStore是一個分布式存儲,為CynosDB提供堅實的底座。CynosStore由多個Store Node和CynosStore Client組成。CynosStore Client以二進制包的形式與DB(PostgreSQL)一起編譯,為DB提供訪問接口,以及負責主從DB之間的日志流傳輸。除此之外,每個Store Node會自動將數(shù)據(jù)和日志持續(xù)地備份到騰訊云對象存儲服務COS上,用來實現(xiàn)PITR(即時恢復)功能。

一、CynosStore數(shù)據(jù)組織形式

CynosStore會為每一個數(shù)據(jù)庫分配一段存儲空間,我們稱之為Pool,一個數(shù)據(jù)庫對應一個Pool。數(shù)據(jù)庫存儲空間的擴縮容是通過Pool的擴縮容來實現(xiàn)的。一個Pool會分成多個Segment Group(SG),每個SG固定大小為10G。我們也把每個SG叫做一個邏輯分片。一個Segment Group(SG)由多個物理的Segment組成,一個Segment對應一個物理副本,多個副本通過RAFT協(xié)議來實現(xiàn)一致性。Segment是CynosStore中最小的數(shù)據(jù)遷移和備份單位。每個SG保存屬于它的數(shù)據(jù)以及對這部分數(shù)據(jù)最近一段時間的寫日志。

CynosStore 數(shù)據(jù)組織形式

圖二 CynosStore 數(shù)據(jù)組織形式

圖二中CynosStore一共有3個Store Node,CynosStore中創(chuàng)建了一個Pool,這個Pool由3個SG組成,每個SG有3個副本。CynosStore還有空閑的副本,可以用來給當前Pool擴容,也可以創(chuàng)建另一個Pool,將這空閑的3個Segment組成一個SG并分配個這個新的Pool。

二、基于日志異步寫的分布式存儲

傳統(tǒng)的數(shù)據(jù)通常采用WAL(日志先寫)來實現(xiàn)事務和故障恢復。這樣做最直觀的好處是1)數(shù)據(jù)庫down機后可以根據(jù)持久化的WAL來恢復數(shù)據(jù)頁。2)先寫日志,而不是直接寫數(shù)據(jù),可以在數(shù)據(jù)庫寫操作的關(guān)鍵路徑上將隨機IO(寫數(shù)據(jù)頁)變成順序IO(寫日志),便于提升數(shù)據(jù)庫性能。

基于日志的存儲

圖三 基于日志的存儲

圖三(左)極度抽象地描述了傳統(tǒng)數(shù)據(jù)庫寫數(shù)據(jù)的過程:每次修改數(shù)據(jù)的時候,必須保證日志先持久化之后才可以對數(shù)據(jù)頁進行持久化。觸發(fā)日志持久化的時機通常有

1)事務提交時,這個事務產(chǎn)生的最大日志點之前的所有日志必須持久化之后才能返回給客戶端事務提交成功;

2)當日志緩存空間不夠用時,必須持久化之后才能釋放日志緩存空間;

3)當數(shù)據(jù)頁緩存空間不夠用時,必須淘汰部分數(shù)據(jù)頁來釋放緩存空間。比如根據(jù)淘汰算法必須要淘汰臟頁A,那么最后修改A的日志點之前的所有日志必須先持久化,然后才可以持久化A到存儲,最后才能真正從數(shù)據(jù)緩存空間中將A淘汰。

從理論上來說,數(shù)據(jù)庫只需要持久化日志就可以了。因為只要擁有從數(shù)據(jù)庫初始化時刻到當前的所有日志,數(shù)據(jù)庫就能恢復出當前任何一個數(shù)據(jù)頁的內(nèi)容。也就是說,數(shù)據(jù)庫只需要寫日志,而不需要寫數(shù)據(jù)頁,就能保證數(shù)據(jù)的完整性和正確性。但是,實際上數(shù)據(jù)庫實現(xiàn)者不會這么做,因為1)從頭到尾遍歷日志恢復出每個數(shù)據(jù)頁將是非常耗時的;2)全量日志比數(shù)據(jù)本身規(guī)模要大得多,需要更多的磁盤空間去存儲。

那么,如果持久化日志的存儲設備不僅僅具有存儲能力,還擁有計算能力,能夠自行將日志重放到最新的頁的話,將會怎么樣?是的,如果這樣的話,數(shù)據(jù)庫引擎就沒有必要將數(shù)據(jù)頁傳遞給存儲了,因為存儲可以自行計算出新頁并持久化。這就是CynosDB“采用基于日志的存儲”的核心思想。圖三(右)極度抽象地描述了這種思想。圖中計算節(jié)點和存儲節(jié)點置于不同的物理機,存儲節(jié)點除了持久化日志以外,還具備通過apply日志生成最新數(shù)據(jù)頁面的能力。如此一來,計算節(jié)點只需要寫日志到存儲節(jié)點即可,而不需要再將數(shù)據(jù)頁傳遞給存儲節(jié)點。

下圖描述了采用基于日志存儲的CynosStore的結(jié)構(gòu)。

基于日志的存儲

圖四 CynosStore:基于日志的存儲

此圖描述了數(shù)據(jù)庫引擎如何訪問CynosStore。數(shù)據(jù)庫引擎通過CynosStore Client來訪問CynosStore。最核心的兩個操作包括1)寫日志;2)讀數(shù)據(jù)頁。

數(shù)據(jù)庫引擎將數(shù)據(jù)庫日志傳遞給CynosStore,CynosStore Client負責將數(shù)據(jù)庫日志轉(zhuǎn)換成CynosStore Journal,并且負責將這些并發(fā)寫入的Journal進行序列化,最后根據(jù)Journal修改的數(shù)據(jù)頁路由到不同的SG上去,并發(fā)送給SG所屬Store Node。另外,CynosStore Client采用異步的方式監(jiān)聽各個Store Node的日志持久化確認消息,并將歸并之后的最新的持久化日志點告訴數(shù)據(jù)庫引擎。

當數(shù)據(jù)庫引擎訪問的數(shù)據(jù)頁在緩存中不命中時,需要向CynosStore讀取需要的頁(read block)。read block是同步操作。并且,CynosStore支持一定時間范圍的多版本頁讀取。因為各個Store Node在重放日志時的步調(diào)不能完全做到一致,總會有先有后,因此需要讀請求發(fā)起者提供一致性點來保證數(shù)據(jù)庫引擎所要求的一致性,或者默認情況下由CynosStore用最新的一致性點(讀點)去讀數(shù)據(jù)頁。另外,在一寫多讀的場景下,只讀數(shù)據(jù)庫實例也需要用到CynosStore提供的多版本特性。

CynosStore提供兩個層面的訪問接口:一個是塊設備層面的接口,另一個是基于塊設備的文件系統(tǒng)層面的接口。分別叫做CynosBS和CynosFS,他們都采用這種異步寫日志、同步讀數(shù)據(jù)的接口形式。那么,CynosDB for PostgreSQL,采用基于日志的存儲,相比一主多從PostgreSQL集群來說,到底能帶來哪些好處?

1)減少網(wǎng)絡流量。首先,只要存算分離就避免不了計算節(jié)點向存儲節(jié)點發(fā)送數(shù)據(jù)。如果我們還是使用傳統(tǒng)數(shù)據(jù)庫+網(wǎng)絡硬盤的方式來做存算分離(計算和存儲介質(zhì)的分離),那么網(wǎng)絡中除了需要傳遞日志以外,還需要傳遞數(shù)據(jù),傳遞數(shù)據(jù)的大小由并發(fā)寫入量、數(shù)據(jù)庫緩存大小、以及checkpoint頻率來決定。以CynosStore作為底座的CynosDB只需要將日志傳遞給CynosStore就可以了,降低網(wǎng)絡流量。

2)更加有利于基于共享存儲的集群的實現(xiàn):一個數(shù)據(jù)庫的多個實例(一寫多讀)訪問同一個Pool。基于日志寫的CynosStore能夠保證只要DB主節(jié)點(讀寫節(jié)點)寫入日志到CynosStore,就能讓從節(jié)點(只讀節(jié)點)能夠讀到被這部分日志修改過的數(shù)據(jù)頁最新版本,而不需要等待主節(jié)點通過checkpoint等操作將數(shù)據(jù)頁持久化到存儲才能讓讀節(jié)點見到最新數(shù)據(jù)頁。這樣能夠大大降低主從數(shù)據(jù)庫實例之間的延時。不然,從節(jié)點需要等待主節(jié)點將數(shù)據(jù)頁持久化之后(checkpoint)才能推進讀點。如果這樣,對于主節(jié)點來說,checkpoint的間隔太久的話,就會導致主從延時加大,如果checkpoint間隔太小,又會導致主節(jié)點寫數(shù)據(jù)的網(wǎng)絡流量增大。

當然,apply日志之后的新數(shù)據(jù)頁的持久化,這部分工作總是要做的,不會憑空消失,只是從數(shù)據(jù)庫引擎下移到了CynosStore。但是正如前文所述,除了降低不必要的網(wǎng)絡流量以外,CynosStore的各個SG是并行來做redo和持久化的。并且一個Pool的SG數(shù)量可以按需擴展,SG的宿主Store Node可以動態(tài)調(diào)度,因此可以用非常靈活和高效的方式來完成這部分工作。

三、CynosStore Journal(CSJ)

CynosStore Journal(CSJ)完成類似數(shù)據(jù)庫日志的功能,比如PostgreSQL的WAL。CSJ與PostgreSQL WAL不同的地方在于:CSJ擁有自己的日志格式,與數(shù)據(jù)庫語義解耦合。PostgreSQL WAL只有PostgreSQL引擎可以生成和解析,也就是說,當其他存儲引擎拿到PostgreSQL WAL片段和這部分片段所修改的基礎(chǔ)頁內(nèi)容,也沒有辦法恢復出最新的頁內(nèi)容。CSJ致力于定義一種與各種存儲引擎邏輯無關(guān)的日志格式,便于建立一個通用的基于日志的分布式存儲系統(tǒng)。CSJ定了5種Journal類型:

1.SetByte:用Journal中的內(nèi)容覆蓋指定數(shù)據(jù)頁中、指定偏移位置、指定長度的連續(xù)存儲空間。

\2. SetBit:與SetByte類似,不同的是SetBit的最小粒度是Bit,例如PostgreSQL中hitbit信息,可以轉(zhuǎn)換成SetBit日志。

\3. ClearPage:當新分配Page時,需要將其初始化,此時新分配頁的原始內(nèi)容并不重要,因此不需要將其從物理設備中讀出來,而僅僅需要用一個全零頁寫入即可,ClearPage就是描述這種修改的日志類型。

\4. DataMove:有一些寫入操作將頁面中一部分的內(nèi)容移動到另一個地方,DataMove類型的日志用來描述這種操作。比如PostgreSQL在Vacuum過程中對Page進行compact操作,此時用DataMove比用SetByte日志量更小。

\5. UserDefined:數(shù)據(jù)庫引擎總會有一些操作并不會修改某個具體的頁面內(nèi)容,但是需要存放在日志中。比如PostgreSQL的最新的事務id(xid)就是存儲在WAL中,便于數(shù)據(jù)庫故障恢復時知道從那個xid開始分配。這種類型日志跟數(shù)據(jù)庫引擎語義相關(guān),不需要CynosStore去理解,但是又需要日志將其持久化。UserDefined就是來描述這種日志的。CynosStore針對這種日志只負責持久化和提供查詢接口,apply CSJ時會忽略它。

以上5種類型的Journal是存儲最底層的日志,只要對數(shù)據(jù)的寫是基于塊/頁的,都可以轉(zhuǎn)換成這5種日志來描述。當然,也有一些引擎不太適合轉(zhuǎn)換成這種最底層的日志格式,比如基于LSM的存儲引擎。

CSJ的另一個特點是亂序持久化,因為一個Pool的CSJ會路由到多個SG上,并且采用異步寫入的方式。而每個SG返回的journal ack并不同步,并且相互穿插,因此CynosStore Client還需要將這些ack進行歸并并推進連續(xù)CSJ點(VDL)。

CynosStore日志路由和亂序ACK

圖五 CynosStore日志路由和亂序ACK

只要是連續(xù)日志根據(jù)數(shù)據(jù)分片路由,就會有日志亂序ack的問題,從而必須對日志ack進行歸并。Aurora有這個機制,CynosDB同樣有。為了便于理解,我們對Journal中的各個關(guān)鍵點的命名采用跟Aurora同樣的方式。

這里需要重點描述的是MTR,MTR是CynosStore提供的原子寫單位,CSJ就是由一個MTR緊挨著一個MTR組成的,任意一個日志必須屬于一個MTR,一個MTR中的多條日志很有可能屬于不同的SG。針對PostgreSQL引擎,可以近似理解為:一個XLogRecord對應一個MTR,一個數(shù)據(jù)庫事務的日志由一個或者多個MTR組成,多個數(shù)據(jù)庫并發(fā)事務的MTR可以相互穿插。但是CynosStore并不理解和感知數(shù)據(jù)庫引擎的事務邏輯,而只理解MTR。發(fā)送給CynosStore的讀請求所提供的讀點必須不能在一個MTR的內(nèi)部某個日志點。簡而言之,MTR就是CynosStore的事務。

四、故障恢復

當主實例發(fā)生故障后,有可能這個主實例上Pool中各個SG持久化的日志點在全局范圍內(nèi)并不連續(xù),或者說有空洞。而這些空洞所對應的日志內(nèi)容已經(jīng)無從得知。比如有3條連續(xù)的日志j1, j2, j3分別路由到三個SG上,分別為sg1, sg2, sg3。在發(fā)生故障的那一刻,j1和j3已經(jīng)成功發(fā)送到sg1和sg3。但是j2還在CynosStore Client所在機器的網(wǎng)絡緩沖區(qū)中,并且隨著主實例故障而丟失。那么當新的主實例啟動后,這個Pool上就會有不連續(xù)的日志j1, j3,而j2已經(jīng)丟失。

當這種故障場景發(fā)生后,新啟動的主實例將會根據(jù)上次持久化的連續(xù)日志VDL,在每個SG上查詢自從這個VDL之后的所有日志,并將這些日志進行歸并,計算出新的連續(xù)持久化的日志號VDL。這就是新的一致性點。新實例通過CynosStore提供的Truncate接口將每個SG上大于VDL的日志truncate掉,那么新實例產(chǎn)生的第一條journal將從這個新的VDL的下一條開始。

故障恢復時日志恢復過程

圖六:故障恢復時日志恢復過程

如果圖五剛好是某個數(shù)據(jù)庫實例故障發(fā)生的時間點,當重新啟動一個數(shù)據(jù)庫讀寫實例之后,圖六就是計算新的一致性點的過程。CynosStore Client會計算得出新的一致性點就是8,并且把大于8的日志都Truncate掉。也就是把SG2上的9和10truncate掉。下一個產(chǎn)生的日志將會從9開始。

五、多副本一致性

CynosStore采用Multi-RAFT來實現(xiàn)SG的多副本一致性, CynosStore采用批量和異步流水線的方式來提升RAFT的吞吐量。我們采用CynosStore自定義的benchmark測得單個SG上日志持久化的吞吐量為375萬條/每秒。CynosStore benchmark采用異步寫入日志的方式測試CynosStore的吞吐量,日志類型包含SetByte和SetBit兩種,寫日志線程持續(xù)不斷地寫入日志,監(jiān)聽線程負責處理ack回包并推進VDL,然后benchmark測量單位時間內(nèi)VDL的推進速度。375萬條/秒意味著每秒鐘一個SG持久化375萬條SetByte和SetBit日志。在一個SG的場景下,CynosStore Client到Store Node的平均網(wǎng)絡流量171MB/每秒,這也是一個Leader到一個Follower的網(wǎng)絡流量。

六、一寫多讀

CynosDB基于共享存儲CynosStore,提供對同一個Pool上的一寫多讀數(shù)據(jù)庫實例的支持,以提升數(shù)據(jù)庫的吞吐量。基于共享存儲的一寫多讀需要解決兩個問題:

\1. 主節(jié)點(讀寫節(jié)點)如何將對頁的修改通知給從節(jié)點(只讀節(jié)點)。因為從節(jié)點也是有Buffer的,當從節(jié)點緩存的頁面在主節(jié)點中被修改時,從節(jié)點需要一種機制來得知這個被修改的消息,從而在從節(jié)點Buffer中更新這個修改或者從CynosStore中重讀這個頁的新版本。

\2. 從節(jié)點上的讀請求如何讀到數(shù)據(jù)庫的一致性的快照。開源PostgreSQL的主備模式中,備機通過利用主機同步過來的快照信息和事務信息構(gòu)造一個快照(活動事務列表)。CynosDB的從節(jié)點除了需要數(shù)據(jù)庫快照(活動事務列表)以外,還需要一個CynosStore的快照(一致性讀點)。因為分片的日志時并行apply的。

如果一個一寫多讀的共享存儲數(shù)據(jù)庫集群的存儲本身不具備日志重做的能力,主從內(nèi)存頁的同步有兩種備選方案:

第一種備選方案,主從之間只同步日志。從實例將至少需要保留主實例自從上次checkpoint以來所有產(chǎn)生的日志,一旦從實例產(chǎn)生cache miss,只能從存儲上讀取上次checkpoint的base頁,并在此基礎(chǔ)上重放日志緩存中自上次checkpoint以來的所有關(guān)于這個頁的修改。這種方法的關(guān)鍵問題在于如果主實例checkpoint之間的時間間隔太長,或者日志量太大,會導致從實例在命中率不高的情況下在apply日志上耗費非常多的時間。甚至,極端場景下,導致從實例對同一個頁會反復多次apply同一段日志,除了大幅增大查詢時延,還產(chǎn)生了很多沒必要的CPU開銷,同時也會導致主從之間的延時有可能大幅增加。

第二種備選方案,主實例向從實例提供讀取內(nèi)存緩沖區(qū)數(shù)據(jù)頁的服務,主實例定期將被修改的頁號和日志同步給從實例。當讀頁時,從實例首先根據(jù)主實例同步的被修改的頁號信息來判斷是1)直接使用從實例自己的內(nèi)存頁,還是2)根據(jù)內(nèi)存頁和日志重放新的內(nèi)存頁,還是3)從主實例拉取最新的內(nèi)存頁,還是4)從存儲讀取頁。這種方法有點類似Oracle RAC的簡化版。這種方案要解決兩個關(guān)鍵問題:1)不同的從實例從主實例獲取的頁可能是不同版本,主實例內(nèi)存頁服務有可能需要提供多版本的能力。2)讀內(nèi)存頁服務可能對主實例產(chǎn)生較大負擔,因為除了多個從實例的影響以外,還有一點就是每次主實例中的某個頁哪怕修改很小的一部分內(nèi)容,從實例如果讀到此頁則必須拉取整頁內(nèi)容。大致來說,主實例修改越頻繁,從實例拉取也會更頻繁。

相比較來說,CynosStore也需要同步臟頁,但是CynosStore的從實例獲取新頁的方式要靈活的多有兩種選擇1)從日志重放內(nèi)存頁;2)從StoreNode讀取。從實例對同步臟頁需要的最小信息僅僅是到底哪些頁被主實例給修改過,主從同步日志內(nèi)容是為了讓從實例加速,以及降低Store Node的負擔。

CynosDB一寫多讀

圖七 CynosDB一寫多讀

圖七描述了一寫一讀(一主一從)的基本框架,一寫多讀(一主多從)就是一寫一讀的疊加。CynosStore Client(CSClient)運行態(tài)區(qū)分主從,主CSClient源源不斷地將CynosStore Journal(CSJ)從主實例發(fā)送到從實例,與開源PostgreSQL主備模式不同的是,只要這些連續(xù)的日志到達從實例,不用等到這些日志全部apply,DB engine就可以讀到這些日志所修改的最新版本。從而降低主從之間的時延。這里體現(xiàn)“基于日志的存儲”的優(yōu)勢:只要主實例將日志持久化到Store Node,從實例即可讀到這些日志所修改的最新版本數(shù)據(jù)頁。

七、結(jié)語

CynosStore是一個完全從零打造、適應云數(shù)據(jù)庫的分布式存儲。CynosStore在架構(gòu)上具備一些天然優(yōu)勢:1)存儲計算分離,并且把存儲計算的網(wǎng)絡流量降到最低; 2)提升資源利用率,降低云成本,3)更加有利于數(shù)據(jù)庫實例實現(xiàn)一寫多讀,4)相比一主兩從的傳統(tǒng)RDS集群具備更高的性能。除此之外,后續(xù)我們會在性能、高可用、資源隔離等方面對CynosStore進行進一步的增強。

此文已由作者授權(quán)騰訊云+社區(qū)發(fā)布

總結(jié)

以上是生活随笔為你收集整理的腾讯云mysql架构_一个数据库存储架构的独白的全部內(nèi)容,希望文章能夠幫你解決所遇到的問題。

如果覺得生活随笔網(wǎng)站內(nèi)容還不錯,歡迎將生活随笔推薦給好友。

国产精品亚洲综合久久 | 亚洲精品免费播放 | 国产精品久久在线 | 麻豆视频免费播放 | 99爱国产精品| 日韩网站在线观看 | 国产日女人 | 久久国产精品成人免费浪潮 | 免费麻豆网站 | www.日本色 | 久久草草影视免费网 | 色综合夜色一区 | 在线观看网站黄 | 亚洲精品免费在线视频 | 久久综合色天天久久综合图片 | 亚洲另类视频 | 国产美女网站在线观看 | 日韩成人高清在线 | 婷婷久久五月 | 色婷婷久久久综合中文字幕 | 黄色一级大片免费看 | 五月婷丁香 | 免费观看9x视频网站在线观看 | 亚洲电影第一页av | 视频精品一区二区三区 | 91丨九色丨国产丨porny精品 | 日韩成片 | 国产成人精品一区二区三区福利 | 欧美激情h | 深爱婷婷激情 | 激情 婷婷 | 欧美一级片在线观看视频 | 欧洲精品码一区二区三区免费看 | 国产亚洲精品电影 | 国内久久精品视频 | 日韩一区二区在线免费观看 | 亚洲国产小视频在线观看 | 欧美精品乱码99久久影院 | 中文字幕视频在线播放 | 亚洲日韩中文字幕 | 亚洲激情五月 | 成人一级在线观看 | 欧美激情综合五月色丁香 | 国产精品国产三级国产专区53 | 在线欧美国产 | 九九免费在线观看视频 | 国产亚洲成av人片在线观看桃 | 在线观看免费高清视频大全追剧 | 日韩一区二区在线免费观看 | 久久综合久久综合这里只有精品 | 国产 欧美 日产久久 | 中文在线中文a | 国内精品视频在线播放 | 久久综合桃花 | 在线中文字幕电影 | 国产精品视频不卡 | 在线观看播放av | 成年人在线 | 国产精品99久久久久的智能播放 | av福利网址导航大全 | 亚洲精品国精品久久99热 | 综合久久网站 | 五月婷av| 粉嫩av一区二区三区四区在线观看 | 日韩精品一区二区三区第95 | 99久久电影| 成人网中文字幕 | 国内久久久久久 | 亚洲情婷婷 | 国产高清在线观看 | 国产第一福利 | 日本动漫做毛片一区二区 | 色网站在线观看 | 天天操夜夜操天天射 | 久久av免费| 一级免费看| 在线导航福利 | 久久超碰免费 | 91亚洲精品国偷拍 | 精品夜夜嗨av一区二区三区 | 狂野欧美激情性xxxx | 97超碰人人澡人人 | 欧美午夜理伦三级在线观看 | 99久久成人 | 精品免费一区二区三区 | 国产精品久久久av久久久 | 免费视频久久久久久久 | 免费看麻豆| 蜜臀一区二区三区精品免费视频 | 国产高清在线免费观看 | 免费在线观看一级片 | 国产h片在线观看 | 91精品在线观看视频 | 黄色成人av | 麻豆传媒精品 | 偷拍区另类综合在线 | 国产精品欧美日韩在线观看 | 天天射,天天干 | 伊人伊成久久人综合网小说 | 97超碰在线久草超碰在线观看 | 色网站视频 | 成人久久久久 | 91精品国产自产老师啪 | 亚洲国产精品成人精品 | 国产成年人av | 天天射天天艹 | 日韩毛片在线播放 | 成人永久在线 | 精品在线观 | 欧美贵妇性狂欢 | 国产精品ⅴa有声小说 | 五月天视频网站 | 黄网站www | 在线免费观看av网站 | 1024手机基地在线观看 | 二区视频在线 | 欧美精品v国产精品 | 日日操天天操夜夜操 | 深爱激情婷婷网 | 91九色国产视频 | 日韩亚洲在线观看 | 97成人在线免费视频 | 精品亚洲欧美无人区乱码 | 五月天婷婷视频 | 日日夜夜精品视频天天综合网 | 91在线观 | 国产剧在线观看片 | 五月婷婷在线播放 | 亚洲a网 | 中文字幕在线观看第一页 | 一区二区三区高清不卡 | 久久精品网址 | 亚洲国产精品久久久久久 | 国产精品久久久久久电影 | 五月天最新网址 | 国产资源中文字幕 | 狠狠地操 | 天天干天天看 | 99综合影院在线 | 亚洲精品国产成人av在线 | 国产综合精品一区二区三区 | 国产精品久久久久一区二区三区共 | 乱男乱女www7788 | 四虎影视4hu4虎成人 | 日韩黄色免费在线观看 | 亚洲精品在线视频 | 一区二区欧美在线观看 | 国产亚洲精品bv在线观看 | 99精品视频在线观看播放 | 色综合久久久久综合体 | 五月天婷婷免费视频 | 人人揉人人揉人人揉人人揉97 | 国产青春久久久国产毛片 | 久久久久久国产一区二区三区 | 久久精品国产一区二区 | 激情综合亚洲精品 | 日韩天堂在线观看 | 最新国产精品亚洲 | 免费看特级毛片 | 最新中文在线视频 | 日韩精品一区二区在线观看 | 日本在线成人 | 国产免费不卡 | 国产午夜三级一区二区三 | 涩涩网站在线播放 | 国产四虎在线 | 久久久久久久综合色一本 | 99热这里精品 | 九九综合在线 | 免费人成网ww44kk44 | 91夫妻自拍 | 视频在线观看亚洲 | 91干干干 | 国内外成人免费在线视频 | 国产xvideos免费视频播放 | 久草干 | 成年人在线电影 | 亚洲乱码精品久久久 | 国产精品视频专区 | 超碰99在线 | 久久狠狠婷婷 | 精品欧美小视频在线观看 | 亚洲精品欧美专区 | 在线观看黄污 | 黄色软件在线看 | 成人理论在线观看 | 在线 影视 一区 | 日韩av网页 | 国产在线视频资源 | 国产黄色成人 | 五月天视频网 | 亚洲精区二区三区四区麻豆 | 91最新网址在线观看 | 黄色免费观看视频 | 青青河边草免费直播 | 国产综合精品一区二区三区 | 伊人中文在线 | 美女视频一区 | 美女啪啪图片 | 日韩三级不卡 | 免费国产在线精品 | 热久久国产精品 | 激情一区二区三区欧美 | 欧美 激情 国产 91 在线 | 成人毛片在线观看 | av电影在线观看完整版一区二区 | 国产午夜三级一区二区三桃花影视 | .国产精品成人自产拍在线观看6 | 波多野结衣在线视频免费观看 | 国产日本三级 | 在线免费中文字幕 | 美女国内精品自产拍在线播放 | 中文字幕在线视频第一页 | 免费网站黄 | 国产一级视频在线观看 | 热久久精品在线 | 亚洲国产合集 | 成人免费在线网 | 国产精品久久久久久久久久久久久久 | 国产精品久久久免费 | 91成人免费电影 | 好看的国产精品视频 | a爱爱视频 | 免费观看日韩av | 四虎国产 | 91黄色在线观看 | 在线国产精品视频 | 奇米网在线观看 | 波多野结衣视频一区二区三区 | 精品福利在线观看 | av日韩av| 六月色丁 | 成人av电影网址 | 一级免费黄视频 | 国产高清免费av | 国产美女主播精品一区二区三区 | 黄色大片免费网站 | 成人全视频免费观看在线看 | 69亚洲精品 | 亚洲 精品在线视频 | 欧美日韩国产综合网 | 四虎www.| 日韩欧美在线视频一区二区三区 | 成人午夜免费福利 | 91麻豆精品国产91久久久无需广告 | 中文字幕免费国产精品 | 成人免费网视频 | 亚洲天堂网在线播放 | 四虎在线免费 | 蜜臀一区二区三区精品免费视频 | 久久久久久久毛片 | 香蕉视频在线免费 | 五月婷婷,六月丁香 | a在线视频v视频 | 超碰在线97观看 | 韩国精品福利一区二区三区 | 五月色综合 | 中文字幕一区二区三区久久 | 激情久久久久久久久久久久久久久久 | 91久久久久久久一区二区 | 欧洲精品码一区二区三区免费看 | 特级西西444www大精品视频免费看 | 欧美网站黄色 | 少妇性色午夜淫片aaaze | 黄色大全视频 | 国产精品视频永久免费播放 | 国产精品原创av片国产免费 | 日韩偷拍精品 | 久久超碰97 | 国产一区二区在线观看视频 | 99视频+国产日韩欧美 | 欧美一区在线观看视频 | 91成人黄色 | 天天se天天cao天天干 | 九九免费观看全部免费视频 | 亚洲精品国精品久久99热 | 三上悠亚一区二区在线观看 | 一区二区三区日韩在线观看 | 国产精品自在欧美一区 | 国产一级黄色av | 在线观看av麻豆 | 操久久免费视频 | aⅴ视频在线 | 欧美日韩免费在线视频 | a级片网站 | 国产对白av | 狠狠ri | 日韩在线观看中文 | 性色av香蕉一区二区 | www最近高清中文国语在线观看 | 国产成人一区二区三区电影 | 中文字幕视频一区二区 | 99久久www | 91丝袜美腿 | 国产高清黄色 | 美女福利视频在线 | 天天操天天干天天插 | 国产精品一区二区美女视频免费看 | 91视频观看免费 | 日韩美女免费线视频 | 久久精品视频国产 | www久久九 | 欧美在线aaa | 欧美日韩在线观看一区二区三区 | 国产精品美女免费看 | 色国产精品| 成人在线播放网站 | 久久伊人热| 99久久综合精品五月天 | 免费福利小视频 | 三级av中文字幕 | 91中文在线视频 | 五月激情丁香婷婷 | 亚洲黄色在线免费观看 | 在线色亚洲 | 夜夜骑日日操 | 久久麻豆视频 | 一区二区视频在线看 | 天天干天天天 | 成人av在线影视 | 国产91欧美| 久久国内精品视频 | 一区二区三区 中文字幕 | av在线免费网 | 亚洲激情 欧美激情 | 欧美性天天 | 蜜桃av人人夜夜澡人人爽 | 中文字幕日韩一区二区三区不卡 | 6699私人影院| 日本中文字幕影院 | 91久久在线观看 | 免费三级网| 免费看黄的 | 久久人人爽av | 中文字幕乱码日本亚洲一区二区 | 欧美一二三专区 | av成人免费观看 | 国产 欧美 日本 | 天天干 天天摸 天天操 | 97视频在线免费观看 | 日韩欧美在线观看 | 国产高清视频免费最新在线 | 久久久久 | 亚洲aⅴ免费在线观看 | 免费福利在线观看 | 欧洲精品一区二区 | 激情影音 | 射九九| 久久免费视频在线观看 | 在线观看中文字幕一区 | 五月婷在线观看 | 福利视频一二区 | 国产精品日韩高清 | 中文字幕久久精品亚洲乱码 | 波多野结衣视频一区二区三区 | 国产精品av一区二区 | 成人av电影在线 | 国产不卡一| 欧美最新另类人妖 | 在线综合 亚洲 欧美在线视频 | 久草在线视频在线观看 | 91日本在线播放 | 久久精品香蕉 | 久久国语 | 国产一区在线看 | 91亚洲国产成人久久精品网站 | 日本xxxxav| 免费看v片网站 | 国产精品久久一区二区无卡 | 99精品国产成人一区二区 | www夜夜操 | 香蕉网在线观看 | 久久99精品国产91久久来源 | 国产超碰在线 | 99精品一区二区三区 | 天天射天天艹 | 国产成人精品av久久 | av电影不卡 | 日韩电影中文字幕在线 | 亚洲精品免费视频 | 久久久久久久久久久免费av | 69精品人人人人 | 色网站视频 | 亚洲三级国产 | 成人性生爱a∨ | 日韩网站在线 | 国产黑丝一区二区三区 | 成人性生交大片免费看中文网站 | 黄污网站在线观看 | 欧美日韩高清不卡 | 黄污网站在线观看 | 国产 日韩 中文字幕 | 91女人18片女毛片60分钟 | 懂色av一区二区在线播放 | 亚洲永久精品在线 | 亚洲婷久久 | 又爽又黄在线观看 | 亚洲激情婷婷 | 日韩一区二区三区高清在线观看 | 欧美性爽爽 | 国产色婷婷精品综合在线手机播放 | 蜜臀久久99精品久久久久久网站 | 国产美女精品视频 | 91精品入口 | 日韩av高清| 97在线看 | 又黄又爽又刺激视频 | 91精品一区在线观看 | 国产精品免费在线播放 | 人人爱天天操 | 91精品视频在线 | 欧美精品久久久久久久免费 | 日韩视频1| 国产丝袜美腿在线 | 激情久久久久久久久久久久久久久久 | 欧美激情xxxx性bbbb | 国产精品久久久电影 | 国产黄色免费电影 | 欧美在线1区 | 成人h电影在线观看 | a在线观看免费视频 | 97国产精品久久 | 亚洲精品一区二区久 | 超碰在线97国产 | 永久精品视频 | 精品久久久久久久久久久久久久久久 | 在线观看视频在线观看 | 日韩一二区在线 | 亚洲永久免费av | 不卡av在线| 国产精品亚洲精品 | 人人艹视频| 国产亚洲高清视频 | 久久超级碰视频 | 色偷偷av男人天堂 | 97超碰人人网 | 91mv.cool在线观看 | 欧美在线一级片 | 国产精品一区在线观看你懂的 | 在线观看免费黄视频 | 麻豆传媒视频在线免费观看 | 日韩在线电影 | 三级在线视频播放 | a√资源在线 | 久久成人免费电影 | 99视| 伊人国产在线播放 | 国产精品色婷婷 | 日韩精品免费在线观看视频 | 免费精品在线视频 | 欧美日韩在线观看一区二区三区 | 97人人超| 99c视频高清免费观看 | 日本成人免费在线观看 | 日本巨乳在线 | 国产视频在线观看一区 | 午夜视频在线观看一区二区三区 | 蜜臀av一区二区 | 国产男女无遮挡猛进猛出在线观看 | 色婷婷亚洲精品 | 97免费视频在线 | 黄色大全免费观看 | 久久婷婷五月综合色丁香 | 91亚洲在线 | 一区二区三区在线免费播放 | wwwwwww色| www.天天成人国产电影 | av电影免费观看 | 久久久久这里只有精品 | 国产午夜三级 | 蜜桃麻豆www久久囤产精品 | 日韩黄色免费在线观看 | 久久久久久久久久久精 | 国产盗摄精品一区二区 | 国产1区在线 | 中文字幕在线观看国产 | 久久久久麻豆v国产 | 97国产精品一区二区 | 国产一区二区三区免费在线观看 | 在线有码中文 | 97在线精品国自产拍中文 | 91九色国产在线 | 午夜手机电影 | 中文视频在线 | 久久久午夜电影 | 色91在线视频 | 成人黄色大片 | 免费在线观看日韩 | 最新在线你懂的 | 欧美a免费 | 一区二区三区精品久久久 | 亚洲精品 在线视频 | 91天堂素人约啪 | a天堂一码二码专区 | 97日日碰人人模人人澡分享吧 | 国产亚洲情侣一区二区无 | 亚洲午夜久久久久久久久 | 在线日本看片免费人成视久网 | av一级在线观看 | 在线免费av观看 | 激情综合色播五月 | 免费av福利| 91香蕉视频在线下载 | 久久久99久久 | 天天综合久久综合 | 国产精品九九九九九九 | 国产精品欧美精品 | 香蕉视频国产在线观看 | 国产精品久久一区二区三区, | 国产精品九九九 | 波多野结衣一区二区三区中文字幕 | 欧美有色 | 97视频网址 | 久久草草热国产精品直播 | 久久精品久久国产 | 中文字幕第一页在线vr | 亚洲91精品| 国内精品久久久久影院男同志 | 久草在线在线视频 | 久草在线视频首页 | 美女在线黄 | 天天干天天做 | 久久在线观看视频 | 午夜成人影视 | 国产香蕉在线 | 久久9999久久免费精品国产 | 91最新地址永久入口 | 夜夜狠狠 | 免费成视频| 久久a热6| 国产成人三级在线播放 | 成人动图 | 黄色视屏免费在线观看 | 国产美女视频黄a视频免费 久久综合九色欧美综合狠狠 | 国产精品美女久久久久久久网站 | 亚洲成a人片在线观看中文 中文字幕在线视频第一页 狠狠色丁香婷婷综合 | 91在线www| 天天久久综合 | 91亚色在线观看 | 亚洲精品国产精品国自 | 亚洲精品乱码久久久久久蜜桃不爽 | 久久成人精品 | 99在线观看 | 亚洲91视频| 人人看看人人 | 免费a级黄色毛片 | 久草观看 | 色综合激情网 | 高清av免费一区中文字幕 | 一区二区三区 中文字幕 | 91精品国产电影 | 久久久久久免费视频 | 国产一级淫片免费看 | 成人中文字幕在线观看 | a在线播放| www日韩精品| 黄av免费 | 97在线精品视频 | 久热av在线 | 国产精品在线看 | 日韩精品一区二区在线观看 | 最近更新的中文字幕 | 超碰在线个人 | 国产亚洲情侣一区二区无 | 免费看片网站91 | 国产精品久久99综合免费观看尤物 | 四虎永久免费网站 | 91精品麻豆 | 欧美在线一二区 | 精品久久久久免费极品大片 | 激情动态| 永久av免费在线观看 | 天天干天天草天天爽 | 99久久精品国产网站 | 国产精品美女免费看 | 黄色大片入口 | 久久精品视频中文字幕 | 四虎永久免费在线观看 | 色哟哟国产精品 | 色视频 在线| 日本黄色免费看 | 国产91全国探花系列在线播放 | 久久精品电影网 | 亚洲男人天堂a | 色橹橹欧美在线观看视频高清 | 激情五月婷婷网 | 99久久精品日本一区二区免费 | 在线观看韩国av | 一级黄色在线免费观看 | 国产91av视频在线观看 | 香蕉97视频观看在线观看 | 99精品免费网 | av在线h| 中文字幕中文字幕在线一区 | 99r在线精品 | 免费在线观看午夜视频 | 天天天色综合 | 久热精品国产 | 欧美性大战久久久久 | 日韩在线视频免费观看 | 五月亚洲婷婷 | 国产在线v| 日本最新中文字幕 | av线上看| 91黄色视屏| 久久亚洲精品国产亚洲老地址 | 免费亚洲片 | 久久精品国产v日韩v亚洲 | 国产一级淫片在线观看 | 久久人91精品久久久久久不卡 | 精品久久久久久久久久久久 | 久久精品中文字幕 | 免费日韩 精品中文字幕视频在线 | 日韩伦理一区二区三区av在线 | 波多野结衣视频一区 | 韩国一区二区三区在线观看 | 日韩午夜视频在线观看 | 开心激情久久 | 人人干天天射 | av网站在线观看播放 | 黄色软件网站在线观看 | 欧美巨乳波霸 | 色在线中文字幕 | 九九视频免费在线观看 | 日本三级不卡视频 | 91视频免费视频 | 97超碰免费在线观看 | 欧美精品久久久久久久久免 | 怡红院av| 国产69久久精品成人看 | 久久久精品 一区二区三区 国产99视频在线观看 | 国产最新视频在线 | 99久久久久久久 | 国产麻豆精品久久 | 西西www4444大胆在线 | 国产一级视频在线免费观看 | 国产成在线观看免费视频 | 免费成人av在线看 | 久久五月婷婷丁香 | 亚洲精品在 | 日本99干网 | 成人黄视频| 草莓视频在线观看免费观看 | 免费看一级特黄a大片 | 黄色一级大片在线免费看国产一 | 中文av字幕在线观看 | 亚洲精品国产精品99久久 | 日韩精品一区二区三区免费视频观看 | 久久久夜色 | 亚洲国产精品电影在线观看 | 国产精品av在线免费观看 | 在线黄色国产电影 | 日本爱爱免费 | 亚洲黄色影院 | 国产一区二区在线播放 | 国产日本在线观看 | 成年人在线免费看片 | 亚洲成人xxx | 91九色性视频 | 中文字幕九九 | 国产精品18久久久久久久网站 | 天天草天天草 | 欧美日本不卡高清 | 欧美成人xxx | 超碰在线中文字幕 | 99视频在线播放 | 中文字幕乱码电影 | 91av视频在线播放 | 在线视频 日韩 | 精品久久网 | 欧美日韩a视频 | 天天射天天干天天操 | 五月婷婷六月丁香激情 | 一本色道久久综合亚洲二区三区 | 亚洲在线综合 | 久久久久美女 | 伊人永久 | 一区二区三区国产欧美 | 一级片视频在线 | 一区二区亚洲精品 | 国产69久久久欧美一级 | 国产一级视屏 | 欧美一级免费高清 | 久久精品91视频 | 免费福利小视频 | 狠狠做深爱婷婷综合一区 | 亚洲国产成人高清精品 | 久草综合在线观看 | www.xxxx变态.com| www.888av | 激情综合色图 | 在线观看av国产 | 色综合天天狠狠 | 粉嫩av一区二区三区入口 | 午夜狠狠操 | 在线看日韩av | 久久久国产精品一区二区三区 | 亚洲黄污| 国产日韩精品在线观看 | 99精品免费| 色悠悠久久综合 | 亚洲乱码在线 | 日本不卡123区 | 久久草网站 | av成人在线看 | 伊人导航 | 字幕网在线观看 | 国内揄拍国产精品 | 国产小视频在线播放 | 韩国一区二区三区在线观看 | 亚洲精品视频在线免费播放 | 色网av| av天天在线观看 | 天天插天天干天天操 | 亚洲最新av网站 | 91色吧 | 91视频免费看 | 国产亚洲成av片在线观看 | 欧美坐爱视频 | 人人澡人| av在线免费观看网站 | 亚洲免费av网站 | 国产精品免费视频观看 | 国产成人精品在线观看 | 韩国av免费观看 | 高清不卡一区二区三区 | 在线日韩中文字幕 | 日韩av影视 | www亚洲一区| 96在线| 日本黄色免费播放 | 免费日韩电影 | 国产精品久久久久一区二区国产 | 91精品国产乱码久久 | 亚洲欧美视屏 | 在线观看日韩一区 | 日本天天操 | 夜色成人av | 亚洲狠狠婷婷综合久久久 | 黄污网站在线观看 | 99在线免费观看视频 | 成人在线超碰 | 人人狠狠综合久久亚洲婷 | 国产黄色一级片在线 | 一区中文字幕 | 2000xxx影视| 国产成人精品av | 天天操夜夜看 | 久久一区二区三区超碰国产精品 | 亚洲一区av | 成人毛片一区二区三区 | 麻豆成人网 | 精品伦理一区二区三区 | 综合网欧美 | 亚洲综合欧美激情 | 69av免费视频 | 国产无遮挡又黄又爽在线观看 | 国产精品门事件 | 超碰com| 超碰国产在线 | 日韩三级免费观看 | 久久视频免费在线 | av在线小说 | 免费的黄色的网站 | 日韩欧美综合在线视频 | 免费观看第二部31集 | 国产精品激情偷乱一区二区∴ | 亚洲欧美国产精品 | 日韩中文字幕一区 | 97超碰人人澡 | 粉嫩av一区二区三区四区在线观看 | 久久免费视频在线观看6 | 精品视频区 | 国产原厂视频在线观看 | 一区二区伦理 | 久久久久久国产精品亚洲78 | 日韩在线视频不卡 | 午夜久久电影网 | 久草在线免费看视频 | 黄色成人在线观看 | 久久精品一区二区三 | 久久国产精品视频观看 | 欧美极品xxxxx | 日本在线精品视频 | 超碰最新网址 | 亚洲激情影院 | 日韩欧美高清不卡 | 午夜av免费看| 91精品国产综合久久久久久久 | 天堂av在线中文在线 | 精品久久国产 | 天天搞天天干 | 色婷婷精品大在线视频 | 在线电影a | 亚洲艳情 | 国模精品一区二区三区 | 欧美国产日韩一区二区三区 | 国产成在线观看免费视频 | 久久一区91 | 久久字幕 | a在线一区 | 亚洲aⅴ久久精品 | 色资源二区在线视频 | 激情五月婷婷综合网 | 97色综合 | 国产精品你懂的在线观看 | 99久久超碰中文字幕伊人 | 免费污片| 免费高清在线观看成人 | 国内视频在线观看 | 国产精品成人一区二区三区 | 欧美日韩国产区 | 国产一区二区在线免费播放 | 综合在线观看色 | 成人免费视频在线观看 | 亚洲精品激情 | 香蕉久久久久久av成人 | 99精品热| 一区 二区电影免费在线观看 | 中文字幕 国产 一区 | 麻花传媒mv免费观看 | av成人动漫在线观看 | 中文字幕免费中文 | 国产视频一二三 | www.国产毛片 | 手机av观看 | 一区二区三区四区五区在线 | 久久精品91久久久久久再现 | 久久激情小视频 | 伊人久久国产精品 | 在线视频欧美亚洲 | 久久综合九九 | 国产精品免费在线观看视频 | 久久久久久久免费看 | 黄色在线免费观看网址 | 欧美性久久久久久 | 日韩av中文 | 亚洲免费国产视频 | 日本精品免费看 | 亚洲另类视频在线观看 | 中文久草| 久久精品国产一区二区电影 | 日韩伦理片一区二区三区 | 西西444www大胆高清图片 | 一区二区三区电影大全 | 色综合综合 | 一区二区三区电影大全 | 国产一区成人 | 三级黄色a | 久久草在线视频国产 | 香蕉视频网站在线观看 | 成人黄色片在线播放 | 97视频在线播放 | 午夜视频在线网站 | 国产精品麻豆视频 | 亚洲精品动漫成人3d无尽在线 | 激情在线网址 | 亚洲综合射| 国产亚洲综合在线 | 亚洲成人xxx | 高潮久久久久久 | 一区久久久 | 五月激情丁香图片 | 91精品国产乱码在线观看 | 色网免费观看 | 久久国产一区二区三区 | 欧美一级片免费播放 | 国产小视频在线 | 婷婷激情在线 | 日本精品视频在线播放 | 天天干,天天操 | 亚洲高清网站 | 日批视频在线观看免费 | 国产涩图 | 国产亚洲va综合人人澡精品 | 免费观看v片在线观看 | 日韩精品视频免费在线观看 | 激情综合网婷婷 | 亚洲成人高清在线 | 欧美精品久久久久 | 99久久www免费| 综合在线色 | 91少妇精拍在线播放 | 九九视频免费观看视频精品 | 69av国产| 怡春院av| 欧美少妇影院 | 日韩久久精品一区二区三区 | 亚洲欧美精品在线 | 久久成人免费视频 | 日产av在线播放 | 欧美性极品xxxx做受 | 黄色电影在线免费观看 | 奇米影视777影音先锋 | 欧美日韩国产综合网 | 亚洲最大的av网站 | 四虎成人精品永久免费av | 久久精品电影院 | 久久久综合精品 | 精品一二| 激情五月开心 | 精品国产一区二区久久 | 精品免费视频123区 午夜久久成人 | 91精品国产自产在线观看 | 久草在线这里只有精品 | 久草在线免费资源站 | 午夜精品一区二区三区可下载 | 国产精品福利午夜在线观看 | 激情婷婷六月 | 精品国产一区二区三区久久久蜜月 | 国产美女精品人人做人人爽 | 色免费在线 | 激情视频一区二区三区 | 18久久久 | 亚洲视频,欧洲视频 | 久久久久成人精品免费播放动漫 | 黄色动态图xx | 国产精品淫 | av日韩在线网站 | 97在线免费视频 | 成年一级片 | 免费高清影视 | 日日干网| 激情校园亚洲 | 五月婷婷狠狠 | 伊人春色电影网 | 免费精品久久久 | 91精品欧美一区二区三区 | 最近最新中文字幕 | 欧美久久久久久久久久久久久 | 丝袜美腿在线播放 | 国外av在线 | 日本aa在线 | 黄色三几片 | 久久国产精品久久精品国产演员表 | 国产精品综合在线观看 | 91久久国产自产拍夜夜嗨 | 精品免费久久 | 91黄视频在线 | 国产免费三级在线观看 | 中文字幕a在线 | 欧美另类交在线观看 | 婷婷黄色片 | 伊人国产在线观看 | 国产精品视屏 | 伊甸园永久入口www 99热 精品在线 | 911国产| 99re国产视频| 国产视频99 | 久久理论电影 | 中文字幕av播放 | 特级a老妇做爰全过程 | 国产视频1区2区3区 久久夜视频 | 亚洲国产免费 | 香蕉蜜桃视频 | 国产1区在线 | 国产破处在线播放 | 在线黄网站 | 日韩精品三区四区 | 午夜精品久久久久久久久久 | 久久国产精品久久w女人spa | 成人免费视频网址 | 精品乱码一区二区三四区 | 精品国产成人 | 国产精品久久久久久高潮 | 亚洲成人免费 | 国内精品福利视频 | 色综合小说 | 美女网站免费福利视频 | 精品国产乱码久久久久久1区二区 | 国产 日韩 在线 亚洲 字幕 中文 | 免费看的黄色小视频 | 五月天激情在线 | 国内精品久久久精品电影院 | 91av99| 亚洲国产精品电影 | 成人免费视频播放 | 久久久www| 国产成人精品三级 | 免费av视屏 | 好看av在线| 中文字幕观看在线 | 丁香婷婷色月天 | 麻豆精品在线视频 | 亚洲精品乱码久久久久 | 超碰在线观看av.com | 亚洲aⅴ乱码精品成人区 | 香蕉视频4aa | 成人精品国产免费网站 | 国产手机在线播放 | 麻豆观看 | 欧美激情精品久久久久久免费印度 | 美女免费视频一区二区 | 久久久www成人免费毛片麻豆 | 极品美女被弄高潮视频网站 | 操综合| 五月香婷 | 国产精品一区二区吃奶在线观看 |