日韩av黄I国产麻豆传媒I国产91av视频在线观看I日韩一区二区三区在线看I美女国产在线I麻豆视频国产在线观看I成人黄色短片

歡迎訪問 生活随笔!

生活随笔

當前位置: 首頁 > 编程资源 > 编程问答 >内容正文

编程问答

半同步半异步模式

發布時間:2024/1/8 编程问答 42 豆豆
生活随笔 收集整理的這篇文章主要介紹了 半同步半异步模式 小編覺得挺不錯的,現在分享給大家,幫大家做個參考.

半同步半異步模式
一個架構模式,清晰的結構,高效并發的I/O

譯者:

英文原文:?http://www.cs.wustl.edu/~schmidt/PDF/HS-HA.pdf

摘要
這篇文字介紹了半同步半異步模式,這個模式運用在復雜的并行系統中,把同步和異步I/O模型集成在一起,既保持了編程簡單又保證了執行的效率。這個模式中,高層使用同步I/O模型,簡化編程。低層使用異步I/O模型,高效執行。各種操作系統和其它復雜的并行系統中廣泛使用這個模式,使用這個模式的操作系統有:UNIX, Mach,Windows NT,and VMS。

1 意圖
在系統中分離了同步I/O和異步I/O的兩個過程,既簡化了并行程序實現的復雜,又不會影響執行的效率。

2 動機
如圖一所示,為了說明半同步半異步模式,我們來考慮一個軟件架構,BSD UNIX[1]的網絡子系統。BSD UNIX的內核負責協調異步通信設備(如:網絡適配器、遠程終端)和應用程序之間的I/O行為。數據包隨時到達設備,產生硬件中斷,然后由中斷處理例程把數據交給操作系統內核。這些中斷處理例程接收數據,觸發上層的網絡協議處理(如 IP,TCP和UDP)。應用數據包在套接口層排隊。操作系統把這些數據包分發給每個用戶進程。用戶進程使用系統調用read,以同步的方式接收套接口層的數據。用戶進程可以在任意時刻調用read,當數據沒有到達的時候,進程將一直阻塞等待。

在這個體系中,操作系統內核響應設備的中斷,執行異步的I/O。而用戶級的應用程序進行同步的I/O。這正是“半同步半異步”這個名字的由來,這個結構滿足下面的兩個需要:

編程實現簡單。異步I/O模型中,中斷隨時觸發輸入和輸出操作,編程復雜。使用異步I/O模型,當中斷處理例程擁有線程控制權時,會產生非常麻煩的時序和竟爭問題。而且,使用中斷機制的程序要求額外的數據結構,這個數據結構用于在異步事件發生的時候保存進程上下文狀態。并且,程序執行的時候,外部的事件會在不固定的時間發生,程序不容易調試。

與其相比,使用同步I/O模型的時候,I/O操作在確定的點發生,編程實現要容易的多。此外,同步I/O操作的程序會阻塞等待I/O操作的完成。進程運行上下文的活動記錄自動在運行棧中保存,不必使用獨立的數據結構。因此,為了讓編程簡單,有強烈的理由使用同步I/O模型。

程序執行高效。在中斷驅動的設備上,異步I/O模型運用帶來了高效率。異步I/O讓通信和計算同時進行。并且,因為程序運行狀態的數據量相對較小,上下文切換的消耗被最小化[2]。因此,為了提高運行的性能,也有強烈理由使用異步I/O模型。

與其相比,如果每種資源的事件(例如網卡,終端和計時器)占用一個獨立的活動對象(進程或線程),一個完全同步I/O模型效率會低。每個活動對象包含多個資源(例如棧,寄存器),每種資源都會讓它阻塞,等待資源事件的發生。在創建,調度,分發和終止這些獨立的活動對象,會消耗更多的時間和空間。

3 方案
??? 編程簡單和高效率執行是矛盾的,半同步半異步模式目的正是為了解決這個矛盾。這個模式集成了同步和異步兩種I/O模式,結構清晰,效率高。在這個模式中,上層的任務(如:數據庫查詢,文件傳輸)使用同步I/O模型,簡化了編寫并行程序的難度。而底層的任務(如網絡控制器的中斷處理)使用異步I/O模型,提供了執行效率。一般情況下,上層的任務要比下層的任務多,使用一個簡單的層次實現異步處理的復雜性,可以對外隱藏異步處理的細節。另外,同步層次和異步層次任務間的通信使用一個隊列來協調。???

4 應用?
半同步半異步模式在下面的場景中使用。

× 一個系統中的進程有下面的特征:
系統必須響應和處理外部異步發生的事件,
如果為每一個外部資源的事件分派一個獨立的線程同步處理I/O,效率很低。
如果上層的任務以同步方式處理I/O,實現起來簡單。

× 一個或多個任務必須在單獨的控制線程中執行,其它任務可以在多線程中執行。
例如,X Window和Sun RPC 的庫函數許多是不可重入的。多個控制線程不能安全地同時調用這些函數。然而,為了使多個CPU提高服務的質量,有必要使用并行,不同的線程同時執行批量數據的傳輸或數據庫的查詢。使用半同步半異步模式,可以在多線程中分離出單獨的線程。在不改變現有代碼的情況下,這個分離可以讓不可重入的函數在并行環境正確執行。

5 結構和組成單元
圖二顯示了半同步半異步模式的組成結構。這些組成單元如下描述

×同步任務層(用戶級的進程)
本層的任務完成上層的I/O操作,使用同步I/O模型,通過隊列層的隊列中傳輸數據。和異步層不同,同步層的任務使用活動對象[3]執行,這些活動對象有自己運行棧和寄存器狀態。當執行同步I/O的時候,他們會被阻塞/睡眠。

×隊列層(套接口層)
這個層在同步任務層和異步任務層之間,提供了同步控制和緩存的功能。異步任務的I/O事件被緩存到消息隊列中,同步任務層在隊列中提取這些事件(相反方向亦然)。

×異步任務層
處理低層的事件,這些事件由多個外部的事件源產生(例如網卡,終端)。和異步任務不同,此層的實體是被動對象,沒有自己的運行棧,要求不能被阻塞。

×外部事件源(網絡接口)
外部設備產生事件,產生的事件先被異步任務層接收和處理。

6 協作
圖三展現了一個動態的過程:當外部事件到達后,半同步半異步模式的各個組成單元協作和處理。把協作的過程分成下面三個階段:

×異步階段。通過中斷機制或異步事件通知,外部的事件源和異步任務層完成交互。

×排隊階段。隊列層的隊列提供了一個同步控制機制,響應輸入事件,緩存同步層和異步層之間的消息,

×同步階段。同步任務層在隊列層提取消息。注意,同步層和異步層專遞數據的協議是獨立的,和隊列層具體處理通信的方式無關。
在圖三中,同步層和異步層之間的通信使用生產者/消費者模型。理解這個模型的關鍵是:完成同步任務的是活動對象。他們可以在任意時刻阻塞調用read或在 write。如果數據沒有準備好,這些活動對象可以一直等待。相反的,異步任務層的實體是被動對象。他們不能被阻塞。這些對象被通知或外部對象觸發。

7 結果
半同步半異步模式有下面的優點

×上層的任務被簡化,這是因為不需要再面對底層的異步I/O。復雜的并發控制,中斷處理和計時操作都委托給異步任務層。異步層負責處理底層的細節,如,異步系統編程的中斷處理。異步任務層管理與硬件相關的組件間(如DMA,內存管理,設備寄存器)的交互。

×不同層可以使用不同的同步策略。每一層不必使用相同的并行控制方式。例如,在單線程的BSD UNIX內核中,異步任務層使用低級的機構(如修改CPU的中斷級別)。與此不同,用戶級的進程使用高級的同步機構(如使用信號量,消息隊列,條件變量,記錄鎖)。

×層間的通信被限制在單獨的一點,因為所有的交互使用隊列層協調。隊列層對兩層之間的消息進行緩存。如果直接通信,同步和異步任務層直接訪問對方的內存,就必須使用復雜的鎖和時序控制。

×在多處理器環境中提高了性能。使用同步的I/O可以簡化編程和提高性能。例如,長時間的數據傳輸(如從數據庫中加載一個大的醫學圖象)使用同步I/O效率更高。因為一個處理器單獨為一個線程使用,可以更有效的使用CPU的指令和數據的緩存。

半同步半異步模式有下面的缺點

× 跨邊界導致的性能消耗,這是因為同步控制,數據拷貝和上下文切換會過度地消耗資源。在同步和異步任務層之間使用隊列層傳送數據的時候,這種消耗往往會發生。特別是,許多使用半同步半異步模式的操作系統,把隊列層放到用戶和內核域的邊界上。到跨越這個邊界的時候,往往會有明顯的性能消耗。例如,BSD UNIX的套接口層,在很大比例上造成了TCP/IP網絡的過載[4]。

×上層任務缺少異步I/O的實現。依賴與系統接口的設計,可能導致上層無法直覺使用低層的異步I/O設備。因此,如果外部的設備支持異步的重疊的I/O方式,系統的I/O結構會防礙應用程序高效的使用。

8 實現
這一節描述如何實現半同步半異步模式,系統中分成了同步任務層和異步任務層,兩層之間使用隊列層通信。
???
8.1 找到消耗時間的長時任務,使用同步I/O實現他們。
使用同步I/O方式,可以讓系統任務的實現簡單化,而系統中經常有會時間長的任務,如執行大量流數據碰[5]傳輸,或者是等待服務器響應的數據查詢。

使用活動對象[3]模型實現這些長時任務。活動對象擁有自己的運行棧和寄存器狀態,在執行同步I/O的時候可以被阻塞。實現活動對象結構,要求一個控制線程的切換機制,需要一個地方存放和恢復線程的狀態(如寄存器的值,棧指針),這些功能足夠實現一個非搶占的,沒有內存保護的線程機構。“用戶級線程”包一般實現了此類的功能(譯者:操作系統都實現了這個功能)。
然而,在一個要求健壯的多任務系統中,要使用進程或線程的方式實現活動對象,需要更多的功能。這種情況下,每種線程需要自己的線程(或進程)空間,這些空間被處理器的內存管理單元(MMU)管理。當線程(或進程)切換的時候,新的地址空間信息需要加載到MMU中。切換時還需要清空高速緩存,特別是高速緩存使用虛擬地址的情況下。除了地址空間,一個操作系統進程還可能包含一個“用戶ID”。這個標識告訴操作系統這個進程的訪問權限和占用的系統資源。
為了防止一個單獨的線程(或進程)永久的占用系統,要有搶占的機制。經常使用計時器實現,計時器周期性的產生時鐘中斷。在中斷處理期間,操作系統檢查當前的進程是否應該被搶占。如果應該被搶占,就保存當前進程的狀態,加載下一個進程的狀態運行。
??????
8.2 找到短時任務,使用異步I/O實現
系統中的一些任務不能阻塞過長的時間。這些任務一般和外界事件完成一個短期的交互過程(如圖形用戶界面或中斷驅動的網絡接口器),為了提高效率和保證響應速度,這些外部事件的處理一定不能阻塞。
實現這樣的短期任務,要使用被動對象[6]模型。被動對象使用別人的控制線程(調用者的線程或者一個獨立的中斷棧)。因為他們不能常時間的等待,不能被阻塞。不阻塞的主要目標是保證其響應時間(如高優先級的硬件中斷,如時鐘中斷)。
實現一個結構清晰的異步I/O框架,有多種方式。

× 使用反應堆模式[6]實現多路事件的處理,反應堆模式使用一個單線程的處理循環,把多路的事件派發給多個處理者。這個模式組合了單線程處理循環的簡單性和面向對象編程提供的可擴展性。反應堆模式在一個線程(或進程)中進行順序的消息處理,常用來消除多線程同步和加鎖處理的復雜性。
一個反應堆可以使用在同步或者異步的事件源上。但是它支持的事件處理者的行為要求是異步的。也就是說,為了不影響其它事件源的響應效率,事件處理者是不能阻塞的。

×實現一個多級的中斷處理機構。這種機構下,當更高級別的任務(如硬中斷)要求處理的時候,當前的進程可以被中斷。為了防止共享的狀態訪問時被破壞,異步層使用的數據結構必須被保護(例如提升處理器級別或使用信號量)。

× 例如,在一個操作系統內核中,硬件中斷的服務時間很大程度上決定了對多級中斷處理機構的需要。如果這個時間能夠顯著的減少,可以把所有的處理放到硬中斷的層次上,這樣就可以避免軟中斷的過度資源消耗。TCP/IP的實現中,就減少輸入包的協議處理時間化費,讓所有的包處理過程可以在兩級中斷機構實現。

8.3 實現一個隊列層
隊列層包含了一個同步控制點,緩存同步任務和異步任務之間交換的消息。在實現隊列層的時候,要注意下面幾點:

× 并行控制。如果同步任務和異步任務的執行是并行的(如論使用多CPU還是硬件中斷),為了避免爭用,共享的隊列的狀態變化必須是連續的。因此,實現隊列層的時候,經常使用并行控制機制,如信號量,互斥體和條件變量等。當消息在隊列中插入或刪除的時候,并行控制保證隊列的內部數據結構不被破壞。

×層到層之間的流量控制。在隊列層緩存消息,系統不能提供無限的資源。因此,必須控制同步和異步層之間傳輸的數據量。例如,在層到層的流控制下,避免同步層的數據量超過網絡接口能夠傳輸的極限。
同步任務可以被阻塞。因此,可以使用下面的策略:如果其排隊超過一定的量,可以讓任務阻塞。當異步任務層把排隊數降低到一定的水平,就可以重新喚醒同步任務繼續執行。相對地,異步層地任務不能被阻塞,當處理過量地數據時,隊列層要根據策略丟棄消息。這種情況下,如果使用了一個可靠的,面向連接的網絡協議,發送者最終會發現傳輸超時,要求重新傳輸數據。

×數據拷貝消耗。一些系統(如BSD UNIX),把隊列層放到了用戶和內核之間的保護邊界上。為了分離不同的保護域,一般使用拷貝數據的方法。然而,這增加了系統總線和內存的負擔。當大數據量的消息傳輸的時候,這可能會降低很大的性能。
一種減少數據拷貝的方式:分配一個專用的內存區,這個內存區被同步任務層和異步任務層共享[7]。這樣,兩層之間可以高效率的交換數據,不需要拷貝。例如 [8],存在一個I/O子系統,使用輪詢的中斷機制改進連續的I/O流處理,最小化跨邊界數據傳送消耗。這種方法同時提供了一個緩存管理系統,準許高效率的頁影射,一個由用戶進程,內核,設備使用的共享內存機構。

9 例子代碼
這節說明兩個使用半同步半異步模式的例子,這是在BSD UNIX中兩個不同部分。這些例子將說明:半同步半異步模式如果讓用戶進程同步操作,讓內核進程異步操作。第一個例子,在網絡子系統中使用這個模式,在以太網上處理通過TCP/IP協議棧輸入的數據。第二個例子,在文件系統上使用這個模式,在磁盤控制器上實現一個中斷驅動的輸出過程。

9.1 BSD網絡子系統的例子
這個例子說明了如何把半主動半自動模式應用與read系統調用,實現同步的操作。異步地接收和處理到達網絡接口的數據,同步完成read的調用。圖一 說明了BSD UNIX中,這個模式的參與者和結構。關于BSD UNIX網絡子系統的完整解釋,請參考[9].

9.1.1同步調用
考慮一個用戶進程,創建了一個被動模式的TCP流套接口,從連接的套接口描述子中接收TCP數據。對用戶進程來說,read系統調用就是一個同步的操作,進程調用然后數據返回。當read被調用時,它進入操作系統內核,進入網絡套接口的實現代碼。最終,控制線程會進入soreceive函數,這個函數完成半同步部分的處理。soreceive負責把套接口隊列的數據傳遞給用戶。它必須能夠處理多種類型的套接口(如數據報套接口和流套接口)。下面是簡化后的樣子,重點強調了同步和異步任務層之間的邊界。
/* Receive data from a socket. */
int soreceive ( ... )
{
??? for (;;) {
??????? sblock (...); /* lock socket recv queue */
??????? /* mask off network interrupts to protect queue */
??????? s = splnet ();
??????? if (not enough data to satisfy read request) {
??????????? sbunlock (...); /* unlock socket queue */
??????????? /***** Note! *****
??????????? * The following call forms the boundary
??????????? * between the Sync and Async layers. */
??????????? sbwait (...); /* wait for data */
??????????? splx (s); /* drop splnet */
??????? }
??????? else
??????????? break;
??? }
??? splx (s); /* drop splnet */
??? /* copy data to user’s buffer at normal priority */
??? uiomove (...);
??? s = splnet (); /* mask off network interrupts */
??? sbunlock (...); /* unlock socket queue */
??? splx (s); /* restore spl */
??? return (error code); /* returns 0 if no error */
}

上面的代碼展示了同步的用戶進程和異步的內核進程之間的邊界。用戶進程可以阻塞等待數據,內核卻不能被掛起,因為其它的用戶進程或硬件設備需要它的服務。

soreceive處理read的請求有多種方式,這取決于套接口的屬性和當前隊列中的數據。

×完全同步。如果用戶請求的數據已經在套接口隊列中,數據將被立即取出,同步地完成操作。

×半同步半異步。如果請求的數據還沒有到達內核,內核將調用sbwait函數,讓用戶進程阻塞至數據到達。

一旦sbwait讓進程進入隨眠狀態,操作系統的調度者會立即把上下文切換到其它進程運行。但原來的用戶進程看起來,read系統調用是同步執行的。當包含數據的包到達內核時,將被異步處理,見9.1.2的描述。當足夠多的數據到達隊列后,內核將喚醒原來的進程進行處理。

9.1.2 異步數據接收和協議處理
當異步數據包到達網絡接口的時候,半異步部分啟動。所有輸入的包在中斷處理例程中處理。中斷處理,沒有進程上下文也沒有控制線程,這期間是不能睡眠(被阻塞)的。因此,一個中斷處理例程必須借用調用者所在的控制線程(例如,它的運行棧和寄存器)執行。BSD UNIX 內核使用這個策略,借用發起系統調用的用戶線程。

許多中斷驅動的計算機給中斷分配優先級。例如,在SPARC體系中,一共有15個中斷級別,最低的是Level 1 最高的是Level 15。其它的處理器有不同的級別數(例如,Motorola 68030有7個中斷級別)。在BSD UNIX中,設計了與機器無關的中斷級別,叫SPL級別(SPL這個詞原于古老的PDP-11機器上的UNIX系統),把每個處理器特有的級別將影射到這個SPL級別上。例如,最高的網絡中斷級別為SPLIMP,時鐘中斷為SPLCLOCK,最高的系統中斷級別是SPLHIGH。每一個中斷級別對應一個函數名字,這個函數完成處理器對應中斷級別的設置。所以,函數splimp調用后,將把所有的網絡硬件中斷排除在外。所有的spl*函數返回上一個處理器級別,這個值供恢復使用。

傳統的BSD UNIX版本使用兩級的中斷結構進行數據包的處理。硬件級關鍵處理在高級別(SPLIMP)上完成,較不關鍵的軟件處理在低級別(SPLNET)上完成。這種兩個級別的體系,防止軟件協議處理的過度消耗對硬中斷處理造成延時。兩個級別的包處理體系自然分成了兩部分:硬件相關的處理和軟件協議處理。當一個包到達網絡接口時,產生那個接口級別的中斷,所有網絡接口的中斷優先級<=SPLIMP。操作系統處理硬件的中斷,把進入的數據包交給協議層處理(如IP協議)。當硬中斷的處理完成,并且沒有其它的未處理完的高級別中斷,較低級別的軟件中斷(SPLNET)開始進行剩余的協議的處理。BSD的內核被小心的設計,保證在軟中斷處理的過程中,如果又發生硬中斷,不會造成數據丟失和緩存被破壞的情況。

考慮一個例子,一個主機安裝了AMD LANCE的以太網卡,這個設備的驅動名字叫“le”。當數據到達的時候,中斷處理中lerint函數被調用。它的工作是確認和清除中斷,從包中提取數據,把數據拷貝到名字為mbuf的內存緩存區。如下:
int lerint (...)
{
/* perform hardware sanity checks */
while (inbound buffers to process) {
???? /* get length and clear interrupt ... */
???? /* read the packet into mbufs */
???? ether_input (interface, ether_type, packet);
???? /* free buffer */
}
}

mbuf被傳遞給以太函數ether_init
int ether_input (char *intf, int etype, struct mbuf *packet)
{
?? switch (etype) {
????? case ETHERTYPE_IP:
????? /* schedule network interrupt */
?????? schednetisr (NETISR_IP);
?????? inq = &ipintrq;
????? break;
????? /* etc... */
?? }
?? s = splimp ();
?? /* Try to insert the packet onto the IP queue. */
?? if (IF_QFULL (inq)) {
????? /* queue full, drop packet */
????? IF_DROP (inq);
????? m_freem (packet);
?? }else
????? /* queue packet for net interrupt */
????? IF_ENQUEUE (inq, m);
????? splx (s);
}

每一個網絡協議擁有一個數據包隊列(例如,IP 包隊列),ether_input函數先檢測應該使用哪一個網絡協議,把數據包入隊到正確的協議的隊列中。然后,一個軟中斷發生,這個中斷是較低的SPLNET級別。到了這里,硬件中斷的處理已經完成,中斷服務例程退出。

硬中斷完成后,當沒有更高級別中斷的時候,SPLNET級別的軟中斷發生。如果輸入的數據包是一個IP數據包,內核將調用IP中斷例程(ipintr)。在這個例程中進行IP協議的處理(如:消息頭解析,包轉發,分解和重組)。如果數據包確定要發給本機的進程,把數據包傳遞給傳輸層。傳輸層會進行更多的協議處理(如TCP協議級的重組和確認)。最終傳輸層把數據放到套接口隊列中,調用sbwakeup,這個調用將喚醒原來的用戶進程,這個進程之前在 soreceive調用中阻塞。當這些工作完成,軟中斷的包處理完成。

下面的代碼對ipintr的處理流程進行了說明,從tcp_input,到sowakeup,組成了同步和異步層的邊界,第一個函數ipintr,處理輸入的數據包。
int ipintr (...)
{
?? int s;
?? struct mbuf *m;
?? /* loop, until there are no more packets */
?? for (;;) {
???? s = splimp ();
???? IF_DEQUEUE (&ipintrq, m); /* dequeue next packet */
???? splx(s);
???? if (m == 0) return; /* return if no more packets */
???? if (packet not for us) {
???????? /* route and forward packet */
???? } else {
??????? /* packet for us... reassemble */
??????? /* call protocol input, which is tcp_input() */
??????? (*inetsw[ip_protox[ip->ip_p]].pr_input)(m, hlen);
???? }
?? }
}

在我們的例子中,要處理的是一個TCP/IP的包,inetsw函數會根據判斷結果調用tcp_input函數。這個函數處理一個輸入的TCP數據包。
int tcp_input (m, iphlen)
{
?? /* lots of complicated protocol processing... */
?? /* We come here to pass data up to the user */
?? sbappend (&so->so_rcv, m);
?? sowakeup((so), &(so)->so_rcv);
?? /* ... */
}

函數sowakeup將喚醒在read調用中睡眠的用戶進程,這個進程之前一直在等待數據包的到達。在下面一節的討論中將會看到,這個函數組成了同步和異步層的邊界。

9.1.3 同步階段的完成
當數據添加到隊列后,如果有一個用戶進程正在睡眠中等待這個數據,sowakeup函數將被調用。
void sowakeup (so, sb)
{
?? /* ... */
?? if (a user process is asleep on this queue) {
????? /***** Note! *****
????? The following call forms the boundary
????? between the Async and Sync layers. */
????? wakeup ((caddr_t) &sb->sb_cc);
?? }
}

當一個進程陷入睡眠后,進程會和一個“Handle”綁定在一起。要喚醒這個睡眠的進程,wakeup以這個Handle為參數。一個等待事件的線程,一般使用和這個事件相關的數據結構的地址作為Handle。在我們的例子中,套接口接收隊列的地址(sb->sc_cc)作為Handle。

如果套接口隊列上沒有等待數據的進程,什么也不會發生。在我們的例子中,如9.1.1的說明,原來的進程阻塞在soreceive調用上。內核將要喚醒這個進程,它循環檢測是否有足夠多的數據到達供read使用。如果足夠的數據到達,soreceive把數據拷貝到用戶的緩沖區,系統調用read將會返回。

對應用戶進程,read調用看起來就是同步的。然而,這不過是半同步半異步模式造成的幻覺。特別地,異步進程和上下文的切換,在用戶進程睡眠的過程中默默地發生。注意,內核不會阻塞,會一直在干活,總有一些東西在運行,哪怕是空閑進程行。

9.2 磁盤控制器的例子
這個例子說明了在BSD UNIX的文件子系統中使用半主動半被動模式的情況。上面的例子說明了這個模式中,數據在網絡接口卡輸入通過TCP/IP的協議棧一直傳遞到用戶進程。下面這個例子將說明如何輸出數據,數據來自用戶的進程,通過了BSD UNIX 的I/O子系統, 最后到達磁盤。
訪問UNIX的磁盤類的存儲設備,有兩種方式。一種是通過/dev下的塊設備文件,另外一種是通過字符設備文件。通過塊設備文件訪問的時候,要通過一個軟件實現的磁盤塊緩存區。與此相反,通過字符設備(叫“raw”I/O)訪問的時候,會繞過緩存系統直接進行I/O操作。掛接一個文件系統前,Raw I/O往往用來做完整性檢查。一些用戶級別的數據庫,想自己實現磁盤緩存機制,也會使用raw I/O。

9.2.1 同步調用
如果一個進程打開一個字符設備文件(例如:/dev/rdk0a),進行一個寫動作,當設備驅動真正完成寫動作后才會結束。這是半同步的處理部分,多數原始磁盤設備有一個write動作的執行入口點,入口點作為一個全局I/O的例程存儲在全局的cdevsw向量中。如下所示。
/* Do a write on a device for a user process. */
int raw_write (dev_t dev, struct uio *uio)
{
??? return physio (cdevsw[major(dev)].d_strategy,
?????????????????? (struct buf *) NULL,
?????????????????? dev, B_WRITE, minphys, uio);
}

這個函數同步調用了physio,physio在用戶進程的請求下完成物理I/O動作,物理I/O直接從裸設備寫入到用戶緩存區,繞過系統的高速緩存。如下實現
int physio (int (*strategy)(),
??????????? struct buf *bp,
??????????? dev_t dev,
??????????? int flags,
??????????? u_int (*minphys)(),
??????????? struct uio *uio)
{
??? struct iovec *iovp;
??? struct proc *p = curproc;
??? int error, done, i, nobuf, s, todo;
??? /* ... */
??? /* read and write, from above */
??? flags &= B_READ | B_WRITE;
??? bp->b_flags = B_BUSY | B_PHYS | B_RAW | flags;
??? /* call driver's strategy to start the transfer */
??? (*strategy) (bp);
??? /***** Note! *****
???? The following call forms the boundary
???? between the Sync and Async layers. */
???? while ((bp->b_flags & B_DONE) == 0)
???????? /* Wait for the transfer to complete */
???????? tsleep ((caddr_t) bp, PRIBIO + 1, "physio", 0);
???? /* ... */
}

這個physio例程使用一個用戶緩沖區,一個設備和設備的strategy函數指針作為參數。這個例程的任務是:發起一個讀或寫操作,然后立即返回。因為執行用戶緩沖去的指針是用戶提供的,第一步必須認。一旦確認,就把緩沖區封裝到一個buf的結構體中。buf結構體的標志被設置說明其是一個寫還是一個讀操作。同時有標志說明了這是一個raw I/O的操作。當buf的結構體設置好,就傳遞到strategy,這個例程調度I/O操作并返回。下一步,physio睡眠直到I/O操作完成。

9.2.2 異步處理
帶緩存的和raw I/O的請求,都是同步的進入設備的驅動,通過strategy函數。
void strategy (struct buf *bp)
{
/* ... */
s = splbio (); /* protect the queues */
/* sort the buffer structure into the
driver's queue (e.g., using disksort()) */
if (drive is busy) { splx (s); return; }
????? /* flow control is here.... if the
????? drive is busy the request stays in the queue */
????? /* start first request on the queue */
????? /* done! */
????? splx (s);
????? return;
}
strategy被設計成通用的函數,大部分設備的I/O都使用這個接口。上面的例子假定驅動一次只處理一個請求。一個設備可能在一個時間處理多個請求,在這種情況下,需要使用多個列表保存哪一個緩存區是激活的,哪一個正在等待I/O。???????????
??????????
9.2.3 同步完成階段。
當磁盤控制器完成操作后,會產生中斷。這將觸發一個中斷處理例程,這個例程聯系了同步任務層和異步任務層。如下面的代碼
int intr (void *v)
{
???? struct buf *bp;
???? /* get current request into "bp" */
???? /***** Note! *****
????? The following ties the Async layer back
????? into the Sync layer. */
???? biodone (bp); /* Wakeup the sleep in physio(). */
???? /* start next request on queue */
???? return (1); /* done */
}

這個中斷處理函數,完成中斷服務并清除硬件中斷。查看驅動的狀態表檢測一個I/O是不是完成。一個I/O的請求使用異步buf結構描述,一旦boidone函數被調用,將通知高一級的內核軟件,write請求已經完成。這會導致進程的tsleep調用返回。

10 變化
使用半同步半異步模式的傳統方式是:來自異步任務層的輸入使用“pash-driver”的I/O,來自同步任務層的輸入使用“pull-driver”的I/O,處理輸出使用相反的方式。在一些系統中有下面的變化。

×組合異步通知和同步I/O。當數據在排隊層緩存后,通知同步層。UNIX的SIGIO就是實現的這種信號驅動的I/O。在這種情況下,一個信號發給上層的用戶進程,然后用戶進程使用read讀出數據。

×當要求異步處理的時候新產生線程。組合異步通知和同步I/O的另外一種方式,當異步事件發生的時候產生一個新的線程。

× 在上層任務中使用異步I/O。一些系統擴展了原來的模型,準許把傳遞數據的通知發給上層任務。UNIX SYSTEM V 的第4版本使用這種方法擴展了信號接口。一個緩沖區指針作為信號處理函數的參數傳遞。Windows NT 使用重疊I/O的方式實現了相似的結構。這種結構中,一個異步事件中包含一個重疊的IO結構,結構中包含完成事件的標識和對應的數據。

× 底層任務實現同步的I/O。單線程的操作系統(如BSD UNIX)。通常只對上層的任務使用混合的同步/異步模型。在這些系統中,底層的任務必須嚴格的使用異步I/O。如果使用線程實現上下文切換,系統準許在內核中使用同步的I/O。在高性能的媒體系統中,使用一個內核線程在固定的時間輪詢共享內存特定的域,使用這種輪詢的中斷機制,可以減少上下文切換。
如果異步任務層擁有自己的控制線程,他可以自動運行把消息通過隊列層傳遞給同步任務層。微內核操作系統一般使用這種設計。在微內核中使用一個獨立的進程和用戶進程交換數據。

11 Known Uses
×The BSD UNIX networking subsystem [1] and the original System V UNIX STREAMS communication framework [12] use the Half-Sync/Half-Async pattern to structure the concurrent I/O architecture of user processes and the OS kernel. All I/O in these kernels is asynchronous and triggered by interrupts. The Queueing layer is implemented by the Socket layer in BSD and by STREAM heads in System V STREAMS. I/O for user processes is synchronous. Most UNIX applications are developed as user processes that call the synchronous higher-level read/write interfaces. This design shields developers from the complexity of asynchronous OS handled by the kernel. There are provisions for notifications (via the SIGIO signal) that asynchronously trigger synchronous I/O.
×The multi-threaded version of Orbix 1.3 (MT-Orbix) [13] uses several variations of the Half-Sync/Half-Async pattern to dispatch CORBA remote operations in a concurrent server. In the Asynchronous layer of MTOrbix a separate thread is associated with each HANDLE that is connected to a client. Each thread blocks synchronously readingCORBArequests from the client. When a request is received it is formatted and then enqueued at the Queueing layer. An active object thread in the Synchronous layer then wakes up, dequeues the request, and processes it to completion by performing an upcall on the CORBA object implementation.
×The Motorola Iridium system uses the Half-Sync/Half-Async pattern in an application-level Gateway that routes messages between satellites and ground control stations [14]. The Iridium Gateway implements the Half-Sync/Half-Async pattern with the ADAPTIVE Service eXecutive (ASX) framework [15]. The Reactor [6] class category from the ASX framework implements an object-oriented demultiplexing and dispatching mechanism that handles events asynchronously. The ASX Message Queue class implements the Queueing layer, and the ASX Task class implements active objects in the Synchronous task layer.
×The Conduit communication framework [16] from the Choices OS project [17] implements an object-oriented version of the Half-Sync/Half-Async pattern. User processes are synchronous active objects, an Adapter Conduit serves as the Queueing layer, and the Conduit micro-kernel operates asynchronously.?

12 Related Patterns
×The Synchronous task layer uses the Active Object pattern[3].(這個模式,我也已經翻譯了)
×The Asynchronous task layer may use the Reactor pattern [6] to demultiplex events from multiple sources of events.
×The Queueing layer provides a Facade [18] that simplifies the interface to the Asynchronous task layer of the system.
×The Queueing layer is also a Mediator [18] that coordinates the exchange of data between the Asynchronous and Synchronous task layers.


Acknowledgements
We would like to thank Lorrie Cranor and Paul McKenney for comments and suggestions for improving this paper.

References

[1] S. J. Leffler,M.McKusick,M. Karels, and J.Quarterman, The Design and Implementation of the 4.3BSD UNIX Operating System. Addison-Wesley, 1989.

[2] D. C. Schmidt and T. Suda, "Measuring the Performance of Parallel Message-based Process Architectures," in Proceedings of the Conference on Computer Communications (INFOCOM),(Boston, MA), pp. 624-633, IEEE, April 1995.

[3] R. G. Lavender and D. C. Schmidt, "Active Object: an Object Behavioral Pattern for Concurrent Programming," in Proceedings of the 2nd Annual Conference on the Pattern Languages of Programs, (Monticello, Illinois), pp. 1-7, September 1995.

[4] N. C. Hutchinson and L. L. Peterson, "The x-kernel: An Architecture for ImplementingNetwork Protocols," IEEE Transactions on Software Engineering, vol. 17, pp. 64-76, January 1991.

[5] D. C. Schmidt, T. H. Harrison, and E. Al-Shaer, "Object-Oriented Components for High-speed Network Programming,"in Proceedings of the 1st Conference on Object-Oriented Technologies and Systems, (Monterey, CA),USENIX, June 1995.

[6] D. C. Schmidt, "Reactor: An Object Behavioral Pattern for Concurrent Event Demultiplexing and Event Handler Dispatching," in Pattern Languages of Program Design (J. O.Coplien and D. C. Schmidt, eds.), Reading, MA: Addison-Wesley, 1995.

[7] P. Druschel and L. L. Peterson, "Fbufs: A High-Bandwidth Cross-Domain Transfer Facility," in Proceedings of the 14th Symposium on Operating System Principles (SOSP), Dec.1993.

[8] C. Cranor and G. Parulkar, Design of Universal Continuous Media I/O, in Proceedings of the 5th InternationalWorkshop on Network and Operating Systems Support for Digital Audio and Video (NOSSDAV (Durham, New Hampshire),pp. 83-86, Apr. 1995.

[9] W. R. Stevens, TCP/IP Illustrated, Volume 2. Reading, Massachusetts:AddisonWesley, 1993.

[10] H. Custer, Inside Windows NT. Redmond, Washington: MicrosoftPress, 1993.

[11] D. L. Black, "Scheduling Support for Concurrency and Parallelism in the Mach Operating System, IEEE Computer,vol. 23, pp. 23-33,May 1990.

[12] D. Ritchie, A Stream Input-Output System,"AT&TBell Labs Technical Journal, vol. 63, pp. 311-314,Oct. 1984.

[13] C. Horn, "The Orbix Architecture," tech. rep., IONA Technologies,August 1993.

[14] D. C. Schmidt, A Family of Design Patterns for Applicationlevel Gateways," The Theory and Practice of Object Systems (Special Issue on Patterns and Pattern Languages), vol. 2, no. 1, 1996.

[15] D. C. Schmidt, "ACE: an Object-Oriented Framework for Developing Distributed Applications, Proceedings of the 6th USENIX C++ Technical Conference, (Cambridge, Massachusetts),USENIX Association, April 1994.

[16] J. M. Zweig, "The Conduit: a Communication Abstraction in C++," in Proceedings of the 2nd USENIX C++ Conference,pp. 191-203,USENIX Association, April 1990.

[17] R. Campbell, N. Islam, D. Raila, and P. Madany, "Designing and Implementing Choices: an Object-Oriented System in C++," Communications of the ACM, vol. 36, pp. 117-126,Sept. 1993.

[18] E. Gamma, R. Helm, R. Johnson, and J. Vlissides, Design Patterns: Elements of Reusable Object-Oriented Software.Reading,MA: Addison-Wesley, 1995.

總結

以上是生活随笔為你收集整理的半同步半异步模式的全部內容,希望文章能夠幫你解決所遇到的問題。

如果覺得生活随笔網站內容還不錯,歡迎將生活随笔推薦給好友。

久久激情五月丁香伊人 | 西西444www大胆无视频 | 欧美日韩高清一区 | 欧美一二三区在线观看 | 日韩欧美亚州 | 在线看日韩 | 中文字幕在线人 | 日韩精品 在线视频 | 在线观看aaa | 国产成人精品免高潮在线观看 | 日韩一级黄色av | 婷婷亚洲五月色综合 | 久久久久久国产一区二区三区 | 国产视| 久久无码精品一区二区三区 | 久久国产亚洲精品 | 黄色在线视频网址 | 久久精品国产一区二区电影 | 9色在线视频 | 狠狠操影视 | 96精品高清视频在线观看软件特色 | 亚洲在线激情 | 91资源在线播放 | 亚洲三级在线免费观看 | 99久久久久久国产精品 | 色干综合 | 91chinesexxx| 高清在线一区二区 | 99免费在线视频 | 九月婷婷人人澡人人添人人爽 | 亚洲国产成人精品电影在线观看 | 中文字幕乱在线伦视频中文字幕乱码在线 | 欧美精品日韩 | 免费看的国产视频网站 | 成人a v视频 | 午夜av一区二区三区 | 丝袜+亚洲+另类+欧美+变态 | 国产精品成人一区二区 | 亚洲全部视频 | 久久精品女人毛片国产 | 国产亚洲精品久久久久久大师 | 中文字幕二区在线观看 | 欧美日韩在线免费观看视频 | 亚洲精品视频二区 | 日韩电影黄色 | 少妇按摩av | 免费人成在线观看 | 在线看国产 | 一本到视频在线观看 | 97看片网| 奇米影视四色8888 | 夜夜操天天摸 | 亚洲综合射 | 最新免费av在线 | 久久久国产精品一区二区中文 | 中文字幕 国产视频 | 香蕉视频久久 | 国产精品白浆 | 国内精品久久久久影院一蜜桃 | 色婷婷五| 国产精品美女久久久网av | 国产亚洲成人网 | 黄污污网站 | 天天操天天干天天爽 | 又粗又长又大又爽又黄少妇毛片 | 麻豆视频在线观看免费 | 99视频播放| 欧美成人播放 | 99久久99久久精品国产片果冰 | 色在线免费视频 | 亚洲精品av在线 | 亚洲成人动漫在线观看 | 久久综合色8888 | 国产99区| 国产一级片视频 | 久久综合激情 | 涩涩网站在线播放 | 涩涩成人在线 | 国产精品自产拍在线观看蜜 | 成人在线电影观看 | 91精品成人| 免费亚洲精品 | 一级特黄aaa大片在线观看 | 顶级bbw搡bbbb搡bbbb | 欧美精品黑人性xxxx | 激情网在线视频 | 丰满少妇在线观看 | 区一区二区三在线观看 | 99国产在线观看 | 99热这里只有精品1 av中文字幕日韩 | 国产日韩精品欧美 | 人人干人人干人人干 | 色噜噜狠狠狠狠色综合久不 | 99精品欧美一区二区 | 热热热热热色 | 国产精品嫩草影院123 | 久久网站av | 黄色特级片 | 日韩v欧美v日本v亚洲v国产v | 亚洲激情影院 | 精品一区中文字幕 | av免费观看在线 | 色婷婷国产在线 | 国产粉嫩在线观看 | 美女视频是黄的免费观看 | www.午夜色.com | 麻花天美星空视频 | 国产一区免费 | 日韩综合色 | 日韩在线观看网址 | 精品国产乱码久久久久久1区二区 | 正在播放 国产精品 | 久久影院中文字幕 | av在线电影播放 | 久久国产精品二国产精品中国洋人 | 国产精品美女免费看 | 国产裸体bbb视频 | 免费观看国产精品 | 永久黄网站色视频免费观看w | 精品日韩中文字幕 | 成人黄色免费在线观看 | 亚洲黄色小说网址 | 免费在线精品视频 | www视频在线免费观看 | 天堂在线免费视频 | 亚洲欧美久久 | 99视频精品全部免费 在线 | 亚洲v欧美v国产v在线观看 | 久综合网| 热久久这里只有精品 | 日韩精品一区二区三区不卡 | 中文字幕国产一区二区 | 欧美性脚交 | www好男人| 久久草视频 | 日本三级吹潮在线 | 久久久久婷 | 色综合 久久精品 | 成年人电影免费在线观看 | 国产精品免费在线观看视频 | 国产精品久久久久永久免费 | 国产成人一区在线 | 亚洲精品中文在线观看 | 国产成人一区二区三区电影 | 九九免费在线观看视频 | 亚洲免费成人av电影 | 一区二区三区免费在线播放 | 欧美一级性生活 | 2019天天干夜夜操 | 美女视频永久黄网站免费观看国产 | 国产精品国产亚洲精品看不卡 | 麻豆免费观看视频 | 国产精品美女久久久久aⅴ 干干夜夜 | 精品九九九九 | 免费精品在线 | 在线观看第一页 | 97av视频| 久草视频首页 | 国产精品网在线观看 | 中文字幕国产视频 | 国产精品美女免费视频 | 日韩欧美高清在线 | 国产精品美乳一区二区免费 | 久久综合婷婷国产二区高清 | 伊人色**天天综合婷婷 | 91欧美精品 | 国产糖心vlog在线观看 | 国产一级大片在线观看 | 欧美国产日韩激情 | 天天干婷婷| 一级大片在线观看 | 日本狠狠干 | 国产一区在线视频播放 | 人人爽人人爽人人片 | www国产亚洲精品久久网站 | 天天拍天天爽 | 亚洲午夜久久久久久久久 | 日日爽视频 | 国产黄av | 99草视频在线观看 | 成人av中文字幕在线观看 | 国产一级淫片免费看 | 久久精品影片 | 天天操天天谢 | 久久午夜免费视频 | 美女视频黄网站 | 日日夜夜骑 | 手机av资源| 成 人 黄 色视频免费播放 | 国产精品美女在线观看 | 在线之家免费在线观看电影 | 久久国产精品99久久久久久老狼 | 久久久久久久久久久高潮一区二区 | 成年一级片 | 国产97超碰| 日韩专区 在线 | 国产一区欧美二区 | 亚洲春色综合另类校园电影 | 五月婷激情 | 国产中文字幕在线看 | 久久久久国产精品免费免费搜索 | 亚洲精品视频免费观看 | 91在线视频一区 | 午夜精品电影一区二区在线 | 玖玖精品视频 | 欧美精品在线观看免费 | 人人澡人人添人人爽一区二区 | 友田真希x88av | 国产精品综合久久久久 | 精品高清视频 | 国产一级免费av | 伊人手机在线 | 99精品视频免费在线观看 | 91麻豆精品国产自产在线游戏 | 久久精品国产v日韩v亚洲 | 久久综合久久综合久久综合 | 婷婷激情综合五月天 | 日本在线观看中文字幕无线观看 | 娇妻呻吟一区二区三区 | 亚洲人av免费网站 | 亚洲黄色成人网 | www.操.com| 一区二区三区福利 | 中文国产在线观看 | 成年人视频在线免费播放 | 人人爽爽人人 | 免费观看不卡av | 91视频午夜 | 国产在线永久 | 91免费观看视频网站 | 国产精品美女毛片真酒店 | 操操操人人人 | 又黄又爽又色无遮挡免费 | 日韩免费一区 | 国产精品高| 成人午夜免费剧场 | 99在线精品免费视频九九视 | 在线观看91| 中文字幕最新精品 | 中文字幕亚洲欧美日韩2019 | 久操97 | 亚洲视频免费 | 91麻豆精品国产自产在线游戏 | 日本中文字幕在线一区 | 色偷偷人人澡久久超碰69 | 婷婷伊人综合亚洲综合网 | 99婷婷狠狠成为人免费视频 | 毛片无卡免费无播放器 | 国产精品手机看片 | 又色又爽又激情的59视频 | 91在线观看欧美日韩 | 欧美了一区在线观看 | 国产精品久久久久一区 | 日韩欧美视频一区二区三区 | 91porny九色在线播放 | 十八岁以下禁止观看的1000个网站 | 久久国产麻豆 | 免费三级av| 天天干夜夜干 | 久久不卡日韩美女 | 激情视频免费在线观看 | 伊人va| 国产一级视频在线 | 久久久久久久综合色一本 | 久久九九国产视频 | 国产精品久久久久久久久久久久久 | 国产午夜精品免费一区二区三区视频 | 欧美日韩网址 | 欧美精品久久人人躁人人爽 | 国产精品18久久久久久首页狼 | 久久永久免费视频 | 天堂资源在线观看视频 | 视频一区二区在线 | 日韩 精品 一区 国产 麻豆 | 九九99视频| 成人精品一区二区三区中文字幕 | 国产色网 | 国产一卡久久电影永久 | 国内精品免费 | 婷婷丁香狠狠爱 | 国产综合福利在线 | 亚洲免费a | 日韩精品一区二区三区三炮视频 | 国产在线观看高清视频 | 国产午夜精品一区二区三区在线观看 | 欧美夫妻性生活电影 | 毛片激情永久免费 | 亚洲欧美激情精品一区二区 | 天天色成人 | 日韩午夜精品福利 | 91.精品高清在线观看 | 99在线精品视频在线观看 | 日韩免费高清在线观看 | 亚洲日本精品视频 | 日韩av午夜在线观看 | 91av视频免费在线观看 | 国产91在线观 | 丁香五香天综合情 | 久久久久伦理电影 | 久久精品中文字幕一区二区三区 | 亚洲永久精品视频 | 久久视频二区 | 成人国产精品 | 国产高清在线a视频大全 | 欧美性脚交 | 国产精品久久久久久超碰 | 一 级 黄 色 片免费看的 | 狠狠的干 | 久久精品播放 | 久久久99国产精品免费 | 中文字幕 影院 | 99综合久久 | 国产精品久久久久一区 | 亚洲精品一区二区三区新线路 | 久久国产精品久久国产精品 | 国产精品亚洲综合久久 | 国产精品999久久久 久产久精国产品 | 精品久久久999 | 69久久99精品久久久久婷婷 | 一区二区三区国产精品 | 99这里精品| 免费精品在线视频 | 在线看成人av | 国产精品久久久毛片 | 91视频午夜 | 午夜精品久久久久久中宇69 | 香蕉影院在线播放 | 午夜av在线| 日本午夜在线观看 | 9在线观看免费高清完整版在线观看明 | 日本h视频在线观看 | 亚洲午夜剧场 | 亚洲在线日韩 | 人人射| 久久久黄色 | 国产91精品看黄网站 | 国产精品av免费观看 | 在线欧美最极品的av | 国产精品一区二区av | 99国产精品久久久久久久久久 | 九色在线视频 | 亚洲国产成人久久综合 | 免费在线观看av网站 | 香蕉影视在线观看 | 久久黄色a级片 | 成人欧美一区二区三区黑人麻豆 | 国产激情免费 | 中文字幕日韩一区二区三区不卡 | 免费黄a大片 | 亚洲第一区在线观看 | 中文综合在线 | 999精品网| 成人影音av | 国产96av| 欧美动漫一区二区三区 | 日韩色中色 | 2023av| 久久久久久久99 | 日韩中文三级 | 欧美巨乳波霸 | 永久免费观看视频 | 黄色av网站在线免费观看 | 91香蕉视频污在线 | 91精品国产福利在线观看 | 久久精品亚洲一区二区三区观看模式 | 亚洲免费专区 | 五月天com | 国产又黄又硬又爽 | 欧美亚洲免费在线一区 | 成人av影院在线观看 | 国产专区在线 | 天天操夜夜叫 | 丁香视频 | 婷婷综合成人 | 国产高清免费在线播放 | 免费国产在线视频 | 日韩av在线免费看 | 麻豆国产电影 | 国产精品美女久久久久久久久 | 亚洲午夜久久久久 | 国产 日韩 欧美 自拍 | 国产精品一区免费在线观看 | 亚洲三级黄 | 国产亚洲欧美精品久久久久久 | 伊人欧美| 伊人永久在线 | 国模精品在线 | 天天插天天 | 黄色大片日本 | www.久久精品视频 | 亚洲精品视频在线观看网站 | 成人h动漫在线看 | 久久精品这里精品 | 国产综合婷婷 | 国产视频精品免费 | 久久观看免费视频 | 国产黄在线 | 日本中文在线 | 水蜜桃亚洲一二三四在线 | 91亚色在线观看 | 久久99视频免费 | 国产看片网站 | 99热在线看| 国产精品亚洲片夜色在线 | 中文在线免费看视频 | 国产精品久久久久久久久毛片 | 黄色三级免费网址 | 一本—道久久a久久精品蜜桃 | 国产精品美女久久久久久免费 | 亚洲国产免费 | 狠狠干成人综合网 | 狠狠干美女 | 91热爆在线观看 | 国产精品免费一区二区三区在线观看 | 99亚洲国产 | 亚洲欧洲成人 | 亚洲国产精品一区二区久久,亚洲午夜 | 二区三区毛片 | 中文字幕av专区 | 天天干,狠狠干 | 九九热1 | 有没有在线观看av | av大片免费 | 日韩专区av | 国产中文a | 国产免费激情久久 | 四虎影视国产精品免费久久 | 摸bbb搡bbb搡bbbb | 国产91精品看黄网站在线观看动漫 | 欧洲视频一区 | 国产亚洲精品精品精品 | 97av.com| 在线欧美最极品的av | 久久亚洲二区 | 欧洲精品亚洲精品 | 久久精品国产99 | 久久综合狠狠 | 一本一本久久a久久精品综合小说 | 成人香蕉视频 | 精品美女国产在线 | 亚洲国产黄色 | 中日韩男男gay无套 日韩精品一区二区三区高清免费 | 中文字幕一区二区三区乱码在线 | 美女视频黄的免费的 | 久香蕉 | 天天艹天天爽 | 久久久免费高清视频 | 黄色性av | 免费在线观看的av网站 | 免费无遮挡动漫网站 | 午夜精品久久久久久久久久久 | 国产精品一区二区在线观看 | 国产福利免费在线观看 | 国产999视频| 国产精品二区在线 | 日韩三级一区 | 性色视频在线 | 欧美 日韩 国产 成人 在线 | 欧美一区在线观看视频 | 亚洲五月综合 | 国产美女精品视频免费观看 | 欧美aa一级片 | 91精品啪| 欧美日韩一二三四区 | 成人看片 | 日韩激情精品 | 国产一级电影在线 | 日韩精品一区在线播放 | 九九视频免费在线观看 | 日韩二区在线播放 | 国产中文字幕在线播放 | 精品国产一二三 | 亚洲免费不卡 | 亚洲经典视频 | a午夜在线| 97视频免费在线看 | 国产精品一区在线播放 | 黄色三级免费 | 黄色www在线观看 | 精品久久一| 五月天婷婷在线视频 | 国产不卡av在线播放 | www.亚洲精品视频 | 免费碰碰 | 免费在线国产 | 欧美天天射 | 免费国产视频 | 四虎免费在线观看 | 国产福利小视频在线 | 日本精品久久久久中文字幕 | 视频在线播放国产 | 日本久久高清视频 | 热99在线| 人人爱人人添 | 国产精品一区二区三区观看 | 免费三级黄色 | 四虎影院在线观看av | 超碰97人人爱 | 麻豆视频在线看 | 91色九色| 高清av中文字幕 | av成人免费 | 色网站在线 | 日韩一区二区免费播放 | 欧美电影在线观看 | 午夜精品久久久久久久99 | 粉嫩av一区二区三区四区 | 狠狠色丁香久久婷婷综合五月 | 亚洲一区二区高潮无套美女 | 国产色黄网站 | 一二三精品视频 | 青青河边草免费直播 | 成人av在线资源 | 亚洲电影久久 | 日韩精选在线观看 | 综合网天天射 | 亚洲伦理中文字幕 | 亚洲美女视频在线观看 | 丁香色婷婷 | 99爱国产精品| 亚洲综合激情小说 | 婷婷开心久久网 | 国产 欧美 在线 | 香蕉在线观看 | 国产一区国产二区在线观看 | 91在线免费观看网站 | 午夜视频免费播放 | 成人小视频在线 | 久久久久久久久久久久av | 色网站视频 | 国产精品久久久久高潮 | 色橹橹欧美在线观看视频高清 | 最近中文字幕免费观看 | 天天综合色天天综合 | 亚洲欧美在线视频免费 | 日韩成人av在线 | www.狠狠操.com | 亚洲成年人在线播放 | 成人免费视频网址 | 91一区啪爱嗯打偷拍欧美 | a天堂最新版中文在线地址 久久99久久精品国产 | 中文在线免费视频 | 一本之道乱码区 | 国产裸体永久免费视频网站 | 欧美一区二区三区免费观看 | 五月开心网 | 91在线看网站 | 成人午夜影视 | 狂野欧美激情性xxxx欧美 | 91自拍视频在线观看 | 久久草网站 | 99久e精品热线免费 99国产精品久久久久久久久久 | 日日夜夜国产 | 亚洲 综合 专区 | 激情久久久久久久久久久久久久久久 | 在线免费av网站 | 国产精品岛国久久久久久久久红粉 | 精品播放| 精品五月天| 色综合久久中文字幕综合网 | 国产一级片播放 | 久久成人18免费网站 | 91视频免费 | 成人一级影视 | 欧美在线18 | 超碰在线官网 | 在线欧美最极品的av | 日韩一三区 | 一区二区三区在线观看 | 午夜在线观看一区 | 色综合久久88色综合天天 | 国产精品乱码久久久久 | 亚洲国产人午在线一二区 | 亚洲在线视频免费 | 9ⅰ精品久久久久久久久中文字幕 | 婷婷丁香av | 国产视频2| 免费在线观看日韩欧美 | 亚洲 欧美 国产 va在线影院 | 免费男女羞羞的视频网站中文字幕 | 久久99免费观看 | 免费美女久久99 | 国产黄色片一级 | 91试看| 亚洲精品久| 久久精品老司机 | 夜夜夜夜夜夜操 | 欧美成人一区二区 | 欧美另类xxx | av免费电影在线观看 | 韩国av免费观看 | 久久久久综合 | 黄色福利网| 国产免费一区二区三区最新6 | 国产精品18久久久久久vr | 天天操夜操视频 | 一级片视频免费观看 | 久久精品国产99国产 | 91在线精品秘密一区二区 | 免费看污在线观看 | 久久乱码卡一卡2卡三卡四 五月婷婷久 | 日本高清中文字幕有码在线 | 亚洲三级影院 | 国产精品福利一区 | 国产免费作爱视频 | 国产69精品久久久久久久久久 | 欧美日韩免费一区二区三区 | 日韩精品你懂的 | 欧美精品少妇xxxxx喷水 | 国产91对白在线播 | 亚洲 欧美 另类人妖 | 欧美日韩一区二区三区视频 | 亚洲片在线 | 亚洲无吗av | 国产福利资源 | 欧美高清视频不卡网 | 激情xxxx | 欧美日本日韩aⅴ在线视频 插插插色综合 | 中文字幕亚洲欧美日韩 | 亚洲精品在线视频网站 | 久久a热6 | 丁香六月久久综合狠狠色 | 国产正在播放 | a黄在线观看 | 久久九九影院 | 1000部国产精品成人观看 | 成年人精品 | 中文字幕一区二区在线播放 | 免费在线观看成人av | 中文字幕在线字幕中文 | 色婷婷狠狠操 | 中文av在线免费观看 | 国产成人在线免费观看 | 久久爱992xxoo | 久国产在线播放 | 久久涩视频 | 国内视频在线 | 狠狠干狠狠久久 | 欧美视频网址 | 黄色片毛片 | 免费网站污 | 久草在线中文视频 | 毛片视频电影 | 日韩欧美在线视频一区二区三区 | 波多野结衣在线观看一区 | 99综合影院在线 | 最近日韩免费视频 | 国产 成人 久久 | 97人人视频 | 欧洲高潮三级做爰 | 亚洲精品视频在线免费播放 | 91专区在线观看 | 中文国产字幕在线观看 | 精品在线观看免费 | 中文字幕 婷婷 | 97操操操| 久久久久欠精品国产毛片国产毛生 | 天天干天天射天天插 | 亚洲国产中文在线 | 久久久久国产精品免费网站 | 在线视频一区二区 | 国产玖玖视频 | 在线成人小视频 | 精品久久久久久电影 | 91理论电影 | 999视频精品 | 日韩成人免费在线电影 | 日韩一区二区免费视频 | 久久精品亚洲一区二区三区观看模式 | 国产精品第72页 | 久久精品视频网站 | 日韩在线电影一区二区 | 在线观看激情av | 超碰在97| 欧美日韩免费在线视频 | 免费高清在线一区 | 麻豆视频www | 国产小视频你懂的在线 | 中文字幕视频在线播放 | 88av网站 | 亚洲一区二区高潮无套美女 | 九色琪琪久久综合网天天 | 黄色一级网 | 久久久久成人免费 | avav99| 久久久99精品免费观看乱色 | 午夜视频欧美 | 国产精品亚州 | 色com网| 久久伊人国产精品 | 四虎免费在线观看视频 | 中文字幕在线免费看 | 亚洲午夜精品福利 | 色91在线视频| 精品久久一二三区 | www国产一区 | 亚洲视频在线播放 | 色婷婷一区 | 精品国产一区二区三区四区vr | av免费高清观看 | 蜜桃麻豆www久久囤产精品 | 国产第一页在线播放 | 在线国产视频 | 日韩一级电影在线 | 伊人久久影视 | 91九色成人 | 日韩高清一二三区 | 国产精品毛片一区 | 国产中文字幕一区二区三区 | 精品一区电影国产 | 日韩中文字幕第一页 | 日韩手机在线观看 | 精品国偷自产在线 | 日韩av区| 欧美性脚交 | 99欧美| 91爱在线 | 在线观看网站你懂的 | 夜色资源站国产www在线视频 | 日韩欧美在线视频一区二区 | 日韩视频在线不卡 | 永久免费毛片 | 亚洲精品午夜aaa久久久 | 96香蕉视频 | 亚洲黄色免费电影 | 亚洲国产精品一区二区久久,亚洲午夜 | 91视频高清免费 | 91成人小视频 | 91精品推荐 | 黄色毛片在线 | 成人动漫视频在线 | 99视频免费播放 | 超碰在线99 | 中文字幕乱视频 | 国产一区久久久 | 精品国产1区二区 | 最近的中文字幕大全免费版 | 午夜精品福利一区二区 | 在线视频 日韩 | 亚洲传媒在线 | 香蕉视频免费看 | 久久久久看片 | 99久久婷婷国产一区二区三区 | 成 人 免费 黄 色 视频 | 日韩精品一区二区不卡 | 国产精品欧美在线 | 在线黄色国产电影 | 日日操日日插 | 免费看片网页 | 久久久国产精品久久久 | 91热爆视频| 五月的婷婷 | 久久福利 | 探花视频网站 | 久热免费在线 | 国产精品中文久久久久久久 | 日韩理论在线视频 | 韩国一区二区在线观看 | 国产精品毛片一区二区在线看 | 操操操日日日干干干 | 激情av网址 | 精品免费久久久久 | 日韩免费视频播放 | av韩国在线 | 国产视频 亚洲精品 | 探花系列在线 | 欧美日韩视频免费 | 欧美成人手机版 | 在线免费av观看 | 日韩中文字幕免费在线观看 | 99精品视频在线免费观看 | 国产精品久久久久久久久久久久 | 韩国av在线播放 | 夜夜视频| 九九视频在线 | 成人av电影免费在线播放 | 色多多污污 | 99久久久国产精品免费99 | 欧美性做爰猛烈叫床潮 | 国产精品久久久久av免费 | 玖玖爱国产在线 | 狠狠干.com | 色婷婷导航 | 日韩午夜电影 | 日韩中文字幕免费视频 | 成 人 免费 黄 色 视频 | 97电影手机 | 色香蕉在线视频 | 免费又黄又爽 | 日韩久久午夜一级啪啪 | 亚洲国产精品va在线看黑人动漫 | 国产精品美女久久 | 麻豆视频一区 | ,午夜性刺激免费看视频 | 亚洲精品动漫久久久久 | 夜夜操狠狠干 | 日本精品久久久久中文字幕 | 日韩欧美在线视频一区二区三区 | 91亚洲精品国偷拍自产在线观看 | 国产精品原创av片国产免费 | 久久精品国产精品 | 天天操天天射天天爽 | 黄色在线视频网址 | 黄色网中文字幕 | 国产精品中文 | 日日摸日日添夜夜爽97 | 午夜99| 91成人天堂久久成人 | 高清不卡一区二区在线 | 欧美日韩国产综合一区二区 | 夜夜操综合网 | 99热9| 日本精品久久久久影院 | 在线观看 国产 | 久草在线视频首页 | 欧美一级免费在线 | 美女黄频网站 | 欧美成人在线免费观看 | 日韩久久精品一区二区三区 | 成人动漫一区二区 | 国产一级一片免费播放放a 一区二区三区国产欧美 | 国产专区第一页 | 狠狠色丁香九九婷婷综合五月 | 久久久免费看视频 | 伊人五月 | 久久精品牌麻豆国产大山 | 国产精品久久久久免费 | 三级在线播放视频 | 手机在线永久免费观看av片 | 蜜臀av性久久久久av蜜臀三区 | 色伊人网 | 在线免费视频a | 国产美女精品久久久 | 91福利试看 | 久热香蕉视频 | 99久久久国产精品免费观看 | 欧美黑人xxxx猛性大交 | 精品久久久久国产免费第一页 | 亚洲成人黄 | 久久99精品国产麻豆宅宅 | 久久撸在线视频 | 91爱在线| 日韩色爱 | 超碰在线97国产 | 欧美激情视频在线观看免费 | 91亚洲影院 | 欧美精品在线观看一区 | 婷婷午夜 | 欧美成人999 | 国产高清久久 | 一级黄色片网站 | 亚洲精品国产品国语在线 | 在线视频 你懂得 | 欧美日韩精品在线一区二区 | 91激情视频在线观看 | 中文字幕2021 | 波多野结衣亚洲一区二区 | 亚洲欧美日韩一级 | 久久婷婷影视 | 亚洲精品视频在线观看视频 | 操操操日日 | 成人av电影免费在线观看 | 国产精品成人免费一区久久羞羞 | 免费在线观看日韩视频 | 久久99精品久久久久蜜臀 | 成人免费观看完整版电影 | 在线观看av黄色 | 狠狠干五月天 | 国产福利91精品 | 99久久99久久精品国产片果冰 | 色婷婷狠狠操 | 综合色狠狠 | 夜添久久精品亚洲国产精品 | 久久久这里有精品 | 成人黄色在线看 | 在线观看成人福利 | 一区二区精品视频 | 日韩av在线影视 | 日韩在线不卡av | 欧美国产三区 | 成人久久电影 | 国产精品中文字幕在线观看 | 成人国产精品 | 免费看黄色大全 | 国产精品观看在线亚洲人成网 | 国产中文字幕在线播放 | www国产亚洲| 在线观看久久久久久 | 久久综合狠狠综合久久狠狠色综合 | 免费福利在线视频 | 久久成人国产精品入口 | 亚洲免费国产视频 | 午夜三级毛片 | 在线看黄色的网站 | 天天干天天操天天做 | 亚洲精品短视频 | 色丁香婷婷 | 国产在线精品一区二区 | 五月婷婷六月丁香 | 麻豆一区在线观看 | 色婷婷亚洲综合 | 亚洲一区二区观看 | 欧美一级日韩免费不卡 | 天天做天天爱夜夜爽 | 在线精品亚洲 | 超碰精品在线观看 | 免费看网站在线 | 精品国产久| 99久久国产免费,99久久国产免费大片 | 亚洲va欧美va| 国产精品一区免费看8c0m | 精品国偷自产在线 | 精品a在线| 久久影院一区 | 天天操天天舔天天干 | 国产一区二区免费在线观看 | 最近中文字幕完整高清 | 中文字幕成人一区 | 丝袜少妇在线 | 精品久久久久久久久久久久久久久久久久 | 国产精品免费久久久久久 | 黄色毛片一级 | 黄色动态图xx| 麻豆影视网 | 久久精品这里热有精品 | 久久九九网站 | 91在线免费播放视频 | 久久精品久久综合 | 99热在线看| 国产婷婷久久 | 国产精品精品国产色婷婷 | 国产美女搞久久 | 波多野结衣在线播放视频 | 涩涩网站在线 | 欧美激情另类 | japanesexxxhd奶水 91在线精品一区二区 | 日韩免费在线网站 | 综合精品久久 | 国产一区免费观看 | 91九色视频在线观看 | 欧美国产在线看 | 亚洲国产字幕 | 999视频网站 | 日韩在线观看一区二区 | 亚洲精品视频二区 | 成人午夜影院在线观看 | 91成品视频 | 免费网站黄 | 91网在线| 国产黄色美女 | 亚洲成人资源在线 | 日日日视频 | 久久久久久久久久久久av | 日韩精品视频在线观看免费 | 亚洲美女精品 | 国产精品白浆 | 中文字幕欧美激情 | 国产成人区| 久久亚洲区 | 91久久一区二区 | 久久精品一区八戒影视 | 久久久久中文字幕 | 四虎国产| 亚洲精品高清一区二区三区四区 | 久久久精品欧美一区二区免费 | 亚洲国产日韩一区 | 国产成人在线观看免费 | 天天干.com| 日日干 天天干 | 97在线精品| 免费在线观看日韩 | 天天操天天添天天吹 | 日日干日日 | 天天射天天射天天 | 欧美一区二区视频97 | 婷婷国产在线观看 | 操操操影院 | 中文字幕在线视频网站 | 成人av一级片 | 香蕉在线视频观看 | 亚洲激情小视频 | 日韩精品一区二区三区水蜜桃 | 特级西西人体444是什么意思 | 国产黄色片一级 | 日日天天干 | 国产一区二区三区高清播放 | 久久精品区| 日韩在线观看视频网站 | 中文字幕在线观看三区 | 91色蜜桃 | 日韩av免费一区二区 | 亚洲精品久久激情国产片 | 在线视频精品 | 国产精品久久久久久久久久久不卡 | 97电影网手机版 | 久久精品爱爱视频 | 国产精品成人一区二区三区吃奶 | 97成人精品视频在线观看 |