什么是高并發(fā)？

高并發(fā)（High Concurrency）是一種系統(tǒng)運行過程中遇到的一種“短時間內(nèi)遇到大量操作請求”的情況，主要發(fā)生在web系統(tǒng)集中大量訪問收到大量請求（例如：12306的搶票情況；天貓雙十一活動）。該情況的發(fā)生會導(dǎo)致系統(tǒng)在這段時間內(nèi)執(zhí)行大量操作，例如對資源的請求，數(shù)據(jù)庫的操作等。

高并發(fā)的處理指標(biāo)？

高并發(fā)相關(guān)常用的一些指標(biāo)有:

1.響應(yīng)時間（Response Time）

響應(yīng)時間：系統(tǒng)對請求做出響應(yīng)的時間。例如系統(tǒng)處理一個HTTP請求需要200ms，這個200ms就是系統(tǒng)的響應(yīng)時間

2.吞吐量（Throughput）

吞吐量：單位時間內(nèi)處理的請求數(shù)量。

3.每秒查詢率QPS（Query Per Second）

QPS：每秒響應(yīng)請求數(shù)。在互聯(lián)網(wǎng)領(lǐng)域，這個指標(biāo)和吞吐量區(qū)分的沒有這么明顯。

4.并發(fā)用戶數(shù)

并發(fā)用戶數(shù)：同時承載正常使用系統(tǒng)功能的用戶數(shù)量。例如一個即時通訊系統(tǒng)，同時在線量一定程度上代表了系統(tǒng)的并發(fā)用戶數(shù)。

高并發(fā)和多線程的關(guān)系和區(qū)別

“高并發(fā)和多線程”總是被一起提起，給人感覺兩者好像相等，實則?高并發(fā) ≠ 多線程

1.多線程

多線程是java的特性，因為現(xiàn)在cpu都是多核多線程的，可以同時執(zhí)行幾個任務(wù)，為了提高jvm的執(zhí)行效率，java提供了這種多線程的機制，以增強數(shù)據(jù)處理效率。多線程對應(yīng)的是cpu，高并發(fā)對應(yīng)的是訪問請求，可以用單線程處理所有訪問請求，也可以用多線程同時處理訪問請求。

在過去單CPU時代，單任務(wù)在一個時間點只能執(zhí)行單一程序。之后發(fā)展到多任務(wù)階段，計算機能在同一時間點并行執(zhí)行多任務(wù)或多進程。雖然并不是真正意義上的“同一時間點”，而是多個任務(wù)或進程共享一個CPU，并交由操作系統(tǒng)來完成多任務(wù)間對CPU的運行切換，以使得每個任務(wù)都有機會獲得一定的時間片運行。

再后來發(fā)展到多線程技術(shù)，使得在一個程序內(nèi)部能擁有多個線程并行執(zhí)行。一個線程的執(zhí)行可以被認為是一個CPU在執(zhí)行該程序。當(dāng)一個程序運行在多線程下，就好像有多個CPU在同時執(zhí)行該程序。

總之，多線程即可以這么理解：多線程是處理高并發(fā)的一種編程方法，即并發(fā)需要用多線程實現(xiàn)。

2.高并發(fā)

高并發(fā)不是JAVA的專有的東西，是語言無關(guān)的廣義的，為提供更好互聯(lián)網(wǎng)服務(wù)而提出的概念。

典型的場景，例如：12306搶火車票，天貓雙十一秒殺活動等。該情況的發(fā)生會導(dǎo)致系統(tǒng)在這段時間內(nèi)執(zhí)行大量操作，例如對資源的請求，數(shù)據(jù)庫的操作等。如果高并發(fā)處理不好，不僅僅降低了用戶的體驗度（請求響應(yīng)時間過長），同時可能導(dǎo)致系統(tǒng)宕機，嚴(yán)重的甚至導(dǎo)致OOM異常，系統(tǒng)停止工作等。

如果要想系統(tǒng)能夠適應(yīng)高并發(fā)狀態(tài)，則需要從各個方面進行系統(tǒng)優(yōu)化，包括，硬件、網(wǎng)絡(luò)、系統(tǒng)架構(gòu)、開發(fā)語言的選取、數(shù)據(jù)結(jié)構(gòu)的運用、算法優(yōu)化、數(shù)據(jù)庫優(yōu)化等……而多線程只是其中解決方法之一。

多線程并發(fā)技術(shù)

java多線程編程將會涉及到如下技術(shù)點：

1.并發(fā)編程三要素

• 原子性原子，即一個不可再被分割的顆粒。在Java中原子性指的是一個或多個操作要么全部執(zhí)行成功要么全部執(zhí)行失敗。
• 有序性程序執(zhí)行的順序按照代碼的先后順序執(zhí)行。（處理器可能會對指令進行重排序）
• 可見性當(dāng)多個線程訪問同一個變量時，如果其中一個線程對其作了修改，其他線程能立即獲取到最新的值。

2. 線程的五大狀態(tài)

• 創(chuàng)建狀態(tài)當(dāng)用 new 操作符創(chuàng)建一個線程的時候
• 就緒狀態(tài)調(diào)用 start 方法，處于就緒狀態(tài)的線程并不一定馬上就會執(zhí)行 run 方法，還需要等待CPU的調(diào)度
• 運行狀態(tài)CPU 開始調(diào)度線程，并開始執(zhí)行 run 方法
• 阻塞狀態(tài)線程的執(zhí)行過程中由于一些原因進入阻塞狀態(tài)比如：調(diào)用 sleep 方法、嘗試去得到一個鎖等等
• 死亡狀態(tài)run 方法執(zhí)行完 或者 執(zhí)行過程中遇到了一個異常

3.悲觀鎖與樂觀鎖

• 悲觀鎖：每次操作都會加鎖，會造成線程阻塞。
• 樂觀鎖：每次操作不加鎖而是假設(shè)沒有沖突而去完成某項操作，如果因為沖突失敗就重試，直到成功為止，不會造成線程阻塞。

4.線程之間的協(xié)作：wait/notify/notifyAll等

5.synchronized 關(guān)鍵字

6.CAS

CAS全稱是Compare And Swap，即比較替換，是實現(xiàn)并發(fā)應(yīng)用到的一種技術(shù)。操作包含三個操作數(shù) —— 內(nèi)存位置（V）、預(yù)期原值（A）和新值（B）。 如果內(nèi)存位置的值與預(yù)期原值相匹配，那么處理器會自動將該位置值更新為新值 。否則，處理器不做任何操作。

7.線程池

如果我們使用線程的時候就去創(chuàng)建一個線程，雖然簡單，但是存在很大的問題。如果并發(fā)的線程數(shù)量很多，并且每個線程都是執(zhí)行一個時間很短的任務(wù)就結(jié)束了，這樣頻繁創(chuàng)建線程就會大大降低系統(tǒng)的效率，因為頻繁創(chuàng)建線程和銷毀線程需要時間。線程池通過復(fù)用可以大大減少線程頻繁創(chuàng)建與銷毀帶來的性能上的損耗。

高并發(fā)技術(shù)方案：提高高并發(fā)能力

1.分布式緩存：redis、memcached等，結(jié)合CDN來解決圖片文件等訪問。

2.消息隊列中間件：activeMQ等，解決大量消息的異步處理能力。

3.應(yīng)用拆分:一個工程被拆分為多個工程部署，利用dubbo解決多工程之間的通信。

4.數(shù)據(jù)庫垂直拆分和水平拆分（分庫分表）等。

5.數(shù)據(jù)庫讀寫分離，解決大數(shù)據(jù)的查詢問題。

6.還可以利用nosql ，例如mongoDB配合mysql組合使用。

7.還需要建立大數(shù)據(jù)訪問情況下的服務(wù)降級以及限流機制等。

你可能也喜歡:

Java多線程系列(二)：線程的五大狀態(tài)，以及線程之間的通信與協(xié)作

最全多線程經(jīng)典面試題和答案

Java多線程系列(一)：最全面的Java多線程學(xué)習(xí)概述

史上最強多線程面試44題和答案：線程鎖+線程池+線程同步等

Java多線程系列(六)：深入詳解Synchronized同步鎖的底層實現(xiàn)

史上最全Java多線程面試60題，含答案大贈送！

---

總結(jié)

以上是生活随笔為你收集整理的阿里P8架构师谈：高并发与多线程的关系、区别、高并发的技术方案的全部內(nèi)容，希望文章能夠幫你解決所遇到的問題。

如果覺得生活随笔網(wǎng)站內(nèi)容還不錯，歡迎將生活随笔推薦給好友。