IO多路復(fù)用

O多路復(fù)用技術(shù)是使用一個(gè)可以同時(shí)監(jiān)視多個(gè)IO阻塞的中間人去監(jiān)視這些不同的IO對象，這些被監(jiān)視的任何一個(gè)或多個(gè)IO對象有消息返回，都將會(huì)觸發(fā)這個(gè)中間人將這些有消息IO對象返回，以供獲取他們的消息。

使用IO多路復(fù)用的優(yōu)點(diǎn)在于進(jìn)程在單線程的情況下同樣可以同時(shí)處理多個(gè)IO阻塞。與傳統(tǒng)的多線程/多進(jìn)程模型比，I/O多路復(fù)用系統(tǒng)開銷小，系統(tǒng)不需要?jiǎng)?chuàng)建新的進(jìn)程或者線程，也不需要維護(hù)這些進(jìn)程和線程的運(yùn)行，降底了系統(tǒng)的維護(hù)工作量，節(jié)省了系統(tǒng)資源，

Python提供了selector模塊來實(shí)現(xiàn)IO多路復(fù)用。同時(shí)，不同的操作系統(tǒng)上，這中間人的可選則的類型是不同的，目前常見的有，epoll, kqueue, devpoll, poll,select等；kqueue(BSD，mac支持)，devpoll(solaris支持)和epoll的實(shí)現(xiàn)基本相同，epoll在Linux2.5+內(nèi)核中實(shí)現(xiàn)，Windows系統(tǒng)只實(shí)現(xiàn)了select。

epoll,poll, select的比較

select和poll使用輪詢的方式去檢測監(jiān)視的所有IO是否有數(shù)據(jù)返回，需要不斷的遍歷每一個(gè)IO對象，這是一種費(fèi)時(shí)的操作，效率較低。poll優(yōu)于select的一點(diǎn)是select限制了最大監(jiān)視IO數(shù)為1024，這對于需要大量網(wǎng)絡(luò)IO連接的服務(wù)器來顯然是不夠的；而poll對于這個(gè)個(gè)數(shù)沒有限制。但是這同樣面臨問題，在使用輪詢的方式監(jiān)視這些IO時(shí)，IO數(shù)越大，意味著每一次輪詢消耗的時(shí)間越多。效率也就越低，這是輪詢無法解決的問題。

epoll就是為了解決這樣的問題誕生的，首先他沒有最大的監(jiān)視的IO數(shù)的限制，并且沒有使用輪詢的方式去檢測這些IO，而是采用了事件通知機(jī)制和回調(diào)來獲取這些有消息返回的IO對象，只有“活躍”的IO才會(huì)主動(dòng)的去調(diào)用callback函數(shù)。這個(gè)IO將會(huì)直接被處理而不需要輪詢。

selector模塊的基本使用

importselectorsimportsocket#創(chuàng)建一個(gè)socketIO對象，監(jiān)聽后將可以接受請求消息了

sock =socket.socket()

sock.bind(("127.0.0.1", 80))

sock.listen()

slt= selectors.DefaultSelector() #使用系統(tǒng)默認(rèn)selector，Windows為select，linux為epoll

#將這個(gè)socketIO對象加入到，select中監(jiān)視

slt.register(fileobj=sock, events=selectors.EVENT_READ, data=None)#循環(huán)處理消息

whileTrue:#select方法：輪詢這個(gè)selector，當(dāng)有至少一個(gè)IO對象有消息返回時(shí)候，將會(huì)返回這個(gè)有消息的IO對象

ready_events = slt.select(timeout=None)print(ready_events) # 準(zhǔn)備好的IO對象們break

運(yùn)行上面的程序，打開瀏覽器訪問127.0.0.1默認(rèn)80端口，我們的服務(wù)器將會(huì)輸出以下內(nèi)容。

#ready_events為一個(gè)列表，列表中的每一個(gè)元組為一個(gè)IO對 和mask值(標(biāo)識該對象是被讀(1)還是寫(2)激活的，此處為1)

[(SelectorKey(fileobj=,

fd=456, events=1, data=None), 1)]

該SelectorKey對象有三個(gè)屬性

fileobj:注冊的socket對象

fd:文件描述符

data:注冊時(shí)我們傳入的參數(shù)，可以是任意值，綁定到一個(gè)屬性上，方便之后使用。

返回了一個(gè)列表，包含了注冊到這個(gè)select中的所有的有數(shù)據(jù)可接收IO對象。我們通過瀏覽器訪問該服務(wù)器后，該IO檢測到請求消息，將會(huì)被返回等待處理。上面使用break是因?yàn)槲覀儧]有對這個(gè)被激活的IO做處理，select方法將會(huì)一直檢測到這個(gè)激活信號，就會(huì)快速的死循環(huán)。可以去除break嘗試一下。

處理這個(gè)請求，只需要使用該socket對應(yīng)方法即可，該socket用于接收請求的連接，使用accept方法就可以處理這個(gè)請求。當(dāng)接受請求之后，又將會(huì)產(chǎn)生新的客戶端，我們將其放入selector中一并監(jiān)視，當(dāng)有消息來時(shí)，如果是連接請求，handle_request()函數(shù)處理，如果是客戶端的消息，handle_client_msg()函數(shù)處理。下面是部分代碼

#處理這連接請求

defhandle_request(sock:socket.socket):#使用accept方法可以將這個(gè)請求處理掉，該socket只有新的連接請求才會(huì)被再次被select檢測。

conn, addr =sock.accept()#返回了一個(gè)新的socket，添加到同一個(gè)select中去監(jiān)視它

slt.register(conn, selector.EVENT_READ, data=None)#此時(shí)slt中有兩個(gè)socket，一個(gè)接受新的連接，一個(gè)與已連接客戶端通信，我們需要做兩個(gè)處理方法

defhandle_client_msg(sock:socket.socket)

data= sock.recv() #處理消息，

print(data.decode())whileTrue:

ready_events= slt.select(timeout=None)for event inready_events:if event.fileobj is sock: #新的用戶連接請求，accept接受請求

handle_request(event.fileobj)else: #否則這是客戶端的消息

handle_client_msg(event.fileobj)

于select中有兩類socket，所以我們需要判斷被激活后返回的socket是哪一種，再調(diào)用不同的函數(shù)做不同的請求。如果這個(gè)select中的socket種類有很多，將無法如此判斷。解決辦法就是將處理函數(shù)綁定到對應(yīng)的selectkey對象中，可以使用data參數(shù)。

importselectorsimportsocketdef handle_request(sock:socket.socket): #處理新連接

conn, addr =sock.accept()

slt.register(conn, selector.EVENT_READ, data=handle_client_msg)def handle_client_msg(sock:socket.socket) #處理消息

data =sock.recv()print(data.decode())

sock=socket.socket()

sock.bind(("127.0.0.1", 80))

sock.listen()

slt=selectors.DefaultSelector()

slt.register(fileobj=sock, events=selectors.EVENT_READ, data=handle_request)whileTrue:

ready_events= slt.select(timeout=None)for event, _ inready_events:

event.data(event.fileobj)#不同的socket有不同data函數(shù)，使用自己綁定的data函數(shù)調(diào)用，再將自己的socket作為參數(shù)。就可以處理不同類型的socket。

上面使用data很好的解決了上面問題，但是需要注意，綁定到data屬性上函數(shù)(或者說可調(diào)用對象)最終會(huì)使用event.data(event.fileobj)的方式調(diào)用，這些函數(shù)接受的參數(shù)應(yīng)該相同。

總結(jié)

以上是生活随笔為你收集整理的python io多路复用_python实现IO多路复用 --- selector的全部內(nèi)容，希望文章能夠幫你解決所遇到的問題。

如果覺得生活随笔網(wǎng)站內(nèi)容還不錯(cuò)，歡迎將生活随笔推薦給好友。