本文目錄并發編程的基本概念

單線程VS多線程VS多進程

性能對比成果總結

前言

作為進階系列的一個分支「并發編程」，我覺得這是每個程序員都應該會的。

并發編程?這個系列，我準備了將近一個星期，從知識點梳理，到思考要舉哪些例子才能更加讓人容易吃透這些知識點。希望呈現出來的效果真能如想象中的那樣，對小白也一樣的友好。

昨天大致整理了下，這個系列我大概會講如下內容(后期可能調整)：

對于并發編程，Python的實現，總結了一下，大致有如下三種方法：多線程

多進程

協程(生成器)

在之后的章節里，將陸陸續續地給大家介紹到這三個知識點。

.并發編程的基本概念

在開始講解理論知識之前，先過一下幾個基本概念。雖然咱是進階教程，但我也希望寫得更小白，更通俗易懂。

串行：一個人在同一時間段只能干一件事，譬如吃完飯才能看電視；

并行：一個人在同一時間段可以干多件事，譬如可以邊吃飯邊看電視；

在Python中，多線程?和?協程?雖然是嚴格上來說是串行，但卻比一般的串行程序執行效率高得很。

一般的串行程序，在程序阻塞的時候，只能干等著，不能去做其他事。就好像，電視上播完正劇，進入廣告時間，我們卻不能去趁廣告時間是吃個飯。對于程序來說，這樣做顯然是效率極低的，是不合理的。

當然，學完這個課程后，我們就懂得，利用廣告時間去做其他事，靈活安排時間。這也是我們多線程和協程?要幫我們要完成的事情，內部合理調度任務，使得程序效率最大化。

雖然?多線程?和?協程?已經相當智能了。但還是不夠高效，最高效的應該是一心多用，邊看電視邊吃飯邊聊天。這就是我們的?多進程才能做的事了。

為了更幫助大家更加直觀的理解，在網上找到兩張圖，來生動形象的解釋了多線程和多進程的區別。(侵刪)多線程，交替執行，另一種意義上的串行。

多進程，并行執行，真正意義上的并發。

.單線程VS多線程VS多進程

文字總是蒼白無力的，千言萬語不如幾行代碼來得孔武有力。

接下來，讓我們一起用代碼來測試一下，單線程、多線程、多進程到底性能差多少呢？

首先，準備環境，我的實驗環境配置如下：操作系統CPU核數內存(G)硬盤CentOS 7.224核32機械硬盤注意

以下代碼，若要理解，對小白有如下知識點要求:裝飾器的運用

多線程的基本使用

多進程的基本使用

當然，看不懂也沒關系，主要最后的結論，能讓大家對單線程、多線程、多進程在實現效果上有個大體清晰的認識，達到這個效果，本文的使命也就完成了，等到最后，學完整個系列，不妨再回頭來理解也許會有更深刻的理解。

下面我們來看看，單線程，多線程和多進程，在運行中究竟孰強孰弱。

開始對比之前，首先定義四種類型的場景CPU計算密集型

磁盤IO密集型

網絡IO密集型

【模擬】IO密集型

為什么是這幾種場景，這和多線程?多進程的適用場景有關。結論里，我再說明。1# CPU計算密集型

2def count(x=1, y=1):

3 ? ?# 使程序完成150萬計算

4 ? ?c = 0

5 ? ?while c < 500000:

6 ? ? ? ?c += 1

7 ? ? ? ?x += x

8 ? ? ? ?y += y

9

10

11# 磁盤讀寫IO密集型

12def io_disk():

13 ? ?with open("file.txt", "w") as f:

14 ? ? ? ?for x in range(5000000):

15 ? ? ? ? ? ?f.write("python-learning\n")

16

17

18# 網絡IO密集型

19header = {

20 ? ?'User-Agent': 'Mozilla/5.0 (Windows NT 6.1; WOW64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/66.0.3359.139 Safari/537.36'}

21url = "https://www.tieba.com/"

22

23def io_request():

24 ? ?try:

25 ? ? ? ?webPage = requests.get(url, headers=header)

26 ? ? ? ?html = webPage.text

27 ? ? ? ?return

28 ? ?except Exception as e:

29 ? ? ? ?return {"error": e}

30

31

32# 【模擬】IO密集型

33def io_simulation():

34 ? ?time.sleep(2)

比拼的指標，我們用時間來考量。時間耗費得越少，說明效率越高。

為了方便，使得代碼看起來，更加簡潔，我這里先定義是一個簡單的時間計時器?的裝飾器。

如果你對裝飾器還不是很了解，也沒關系，你只要知道它是用于 計算函數運行時間的東西就可以了。1def timer(mode):

2 ? ?def wrapper(func):

3 ? ? ? ?def deco(*args, **kw):

4 ? ? ? ? ? ?type = kw.setdefault('type', None)

5 ? ? ? ? ? ?t1=time.time()

6 ? ? ? ? ? ?func(*args, **kw)

7 ? ? ? ? ? ?t2=time.time()

8 ? ? ? ? ? ?cost_time = t2-t1

9 ? ? ? ? ? ?print("{}-{}花費時間：{}秒".format(mode, type,cost_time))

10 ? ? ? ?return deco

11 ? ?return wrapper

第一步，先來看看單線程的1@timer("【單線程】")

2def single_thread(func, type=""):

3 ? ?for i in range(10):

4 ? ? ? ? ? ? ?func()

5

6# 單線程

7single_thread(count, type="CPU計算密集型")

8single_thread(io_disk, type="磁盤IO密集型")

9single_thread(io_request,type="網絡IO密集型")

10single_thread(io_simulation,type="模擬IO密集型")

看看結果1【單線程】-CPU計算密集型花費時間：83.42633867263794秒

2【單線程】-磁盤IO密集型花費時間：15.641993284225464秒

3【單線程】-網絡IO密集型花費時間：1.1397218704223633秒

4【單線程】-模擬IO密集型花費時間：20.020972728729248秒

第二步，再來看看多線程的1@timer("【多線程】")

2def multi_thread(func, type=""):

3 ? ?thread_list = []

4 ? ?for i in range(10):

5 ? ? ? ?t=Thread(target=func, args=())

6 ? ? ? ?thread_list.append(t)

7 ? ? ? ?t.start()

8 ? ?e = len(thread_list)

9

10 ? ?while True:

11 ? ? ? ?for th in thread_list:

12 ? ? ? ? ? ?if not th.is_alive():

13 ? ? ? ? ? ? ? ?e -= 1

14 ? ? ? ?if e <= 0:

15 ? ? ? ? ? ?break

16

17# 多線程

18multi_thread(count, type="CPU計算密集型")

19multi_thread(io_disk, type="磁盤IO密集型")

20multi_thread(io_request, type="網絡IO密集型")

21multi_thread(io_simulation, type="模擬IO密集型")

看看結果1【多線程】-CPU計算密集型花費時間：93.82986998558044秒

2【多線程】-磁盤IO密集型花費時間：13.270896911621094秒

3【多線程】-網絡IO密集型花費時間：0.1828296184539795秒

4【多線程】-模擬IO密集型花費時間：2.0288875102996826秒

第三步，最后來看看多進程1@timer("【多進程】")

2def multi_process(func, type=""):

3 ? ?process_list = []

4 ? ?for x in range(10):

5 ? ? ? ?p = Process(target=func, args=())

6 ? ? ? ?process_list.append(p)

7 ? ? ? ?p.start()

8 ? ?e = process_list.__len__()

9

10 ? ?while True:

11 ? ? ? ?for pr in process_list:

12 ? ? ? ? ? ?if not pr.is_alive():

13 ? ? ? ? ? ? ? ?e -= 1

14 ? ? ? ?if e <= 0:

15 ? ? ? ? ? ?break

16

17# 多進程

18multi_process(count, type="CPU計算密集型")

19multi_process(io_disk, type="磁盤IO密集型")

20multi_process(io_request, type="網絡IO密集型")

21multi_process(io_simulation, type="模擬IO密集型")

看看結果1【多進程】-CPU計算密集型花費時間：9.082211017608643秒

2【多進程】-磁盤IO密集型花費時間：1.287339448928833秒

3【多進程】-網絡IO密集型花費時間：0.13074755668640137秒

4【多進程】-模擬IO密集型花費時間：2.0076842308044434秒

.性能對比成果總結

將結果匯總一下，制成表格。種類CPU

計算密集型磁盤

IO密集型網絡

IO密集型模擬

IO密集型單線程83.4215.641.1320.02

多線程93.8213.270.182.02

多進程9.081.280.132.01

我們來分析下這個表格。

首先是CPU密集型，多線程以對比單線程，不僅沒有優勢，顯然還由于要不斷的加鎖釋放GIL全局鎖，切換線程而耗費大量時間，效率低下，而多進程，由于是多個CPU同時進行計算工作，相當于十個人做一個人的作業，顯然效率是成倍增長的。

然后是IO密集型，IO密集型可以是磁盤IO，網絡IO，數據庫IO等，都屬于同一類，計算量很小，主要是IO等待時間的浪費。通過觀察，可以發現，我們磁盤IO，網絡IO的數據，多線程對比單線程也沒體現出很大的優勢來。這是由于我們程序的的IO任務不夠繁重，所以優勢不夠明顯。

所以我還加了一個「模擬IO密集型」，用sleep來模擬IO等待時間，就是為了體現出多線程的優勢，也能讓大家更加直觀的理解多線程的工作過程。單線程需要每個線程都要sleep(2)，10個線程就是20s，而多線程，在sleep(2)的時候，會切換到其他線程，使得10個線程同時sleep(2)，最終10個線程也就只有2s.

可以得出以下幾點結論單線程總是最慢的，多進程總是最快的。

多線程適合在IO密集場景下使用，譬如爬蟲，網站開發等

多進程適合在對CPU計算運算要求較高的場景下使用，譬如大數據分析，機器學習等

多進程雖然總是最快的，但是不一定是最優的選擇，因為它需要CPU資源支持下才能體現優勢

總結

以上是生活随笔為你收集整理的python和java对比并发_Python并发编程之从性能角度来初探并发编程（一）的全部內容，希望文章能夠幫你解決所遇到的問題。

如果覺得生活随笔網站內容還不錯，歡迎將生活随笔推薦給好友。