Java-Java中的线程池原理分析及使用
文章目錄
- 概述
- 線程池的優點
- 線程池的實現原理
- 線程池的使用
- 創建線程池
- 向線程池中提交任務
- 關閉線程池
- 合理的配置線程池
- 線程池的監控
概述
我們在上篇博文 Java-多線程框架Executor解讀 可以看到 Executors 工廠方法中的幾個靜態工廠方法中的內部實現都是 ThreadPoolExecutor。
比如:
JDK中的線程池均由ThreadPoolExecutor類實現。
ThreadPoolExecutor 是JDK中線程池的具體實現 , ThreadPoolExecutor 類是線程池的核心實現類,用來執行被提交的任務。
線程池的優點
Java中的線程池是運用場景最多的并發框架,幾乎所有需要異步或并發執行任務的程序都可以使用線程池。在開發過程中,合理地使用線程池能夠帶來3個好處。
-
降低資源消耗。
通過重復利用已創建的線程來降低線程創建和銷毀的造成的消耗 -
提高響應速度
當任務到達時,任務可不用等待線程創建就能立即執行 -
提高線程的可管理性
線程是稀缺資源,不能無限制的創建,使用線程池可以進行統一分配、調優和監控,增強穩定性。
線程池的實現原理
當向線程池提交一個任務之后,線程池是如何處理這個任務的呢?
我們來看一下線程池的主要處理流程,處理流程圖如下:
從圖中可以看出,當提交一個新任務到線程池時,線程池的處理流程如下。
-
1)線程池判斷核心線程池里的線程是否都在執行任務。如果不是,則創建一個新的工作線程來執行任務。如果核心線程池里的線程都在執行任務,則進入下個流程。
-
2)線程池判斷工作隊列是否已經滿。如果工作隊列沒有滿,則將新提交的任務存儲在這個工作隊列里。如果工作隊列滿了,則進入下個流程。
-
3)線程池判斷線程池的線程是否都處于工作狀態。如果沒有,則創建一個新的工作線程來執行任務。如果已經滿了,則交給飽和策略來處理這個任務。
ThreadPoolExecutor執行execute()方法的示意圖 如下所示:
ThreadPoolExecutor執行execute方法分下面4種情況。
-
1)如果當前運行的線程少于corePoolSize,則創建新線程來執行任務(注意,執行這一步驟 需要獲取全局鎖)。
-
2)如果運行的線程等于或多于corePoolSize,則將任務加入BlockingQueue。
-
3)如果無法將任務加入BlockingQueue(隊列已滿),則創建新的線程來處理任務(注意,執 行這一步驟需要獲取全局鎖)。
-
4)如果創建新線程將使當前運行的線程超出maximumPoolSize,任務將被拒絕,并調用RejectedExecutionHandler.rejectedExecution()方法。
ThreadPoolExecutor采取上述步驟的總體設計思路,是為了在執行execute()方法時,盡可能地避免獲取全局鎖(那將會是一個嚴重的可伸縮瓶頸)。
在ThreadPoolExecutor完成預熱之后(當前運行的線程數大于等于corePoolSize),幾乎所有的execute()方法調用都是執行步驟2,而步驟2不需要獲取全局鎖。
ThreadPoolExecutor中線程執行任務的示意圖如下
線程池中的線程執行任務分兩種情況,如下。
-
1)在execute()方法中創建一個線程時,會讓這個線程執行當前任務。
-
2)這個線程執行完上圖中1的任務后,會反復從BlockingQueue獲取任務來執行。
線程池的使用
創建線程池
我們可以通過ThreadPoolExecutor來創建一個線程池
其中一個構造函數如下:
public ThreadPoolExecutor(int corePoolSize,int maximumPoolSize,long keepAliveTime,TimeUnit unit,BlockingQueue<Runnable> workQueue,RejectedExecutionHandler handler) {this(corePoolSize, maximumPoolSize, keepAliveTime, unit, workQueue,Executors.defaultThreadFactory(), handler);}可以抽象為
new ThreadPoolExecutor(corePoolSize, maximumPoolSize, keepAliveTime, milliseconds,runnableTaskQueue, handler);參數解讀:
-
corePoolSize (線程池的基本大小):當提交一個任務到線程池時,線程池會創建一個線程來執行任務,即使其他空閑的基本線程能夠執行新任務也會創建線程,等到需要執行的任務數大于線程池基本大小時就不再創建。如果調用了線程池的prestartAllCoreThreads()方法,線程池會提前創建并啟動所有基本線程。
-
maximumPoolSize(線程池最大數量):線程池允許創建的最大線程數。如果隊列滿了,并且已創建的線程數小于最大線程數,則線程池會再創建新的線程執行任務。值得注意的是,如果使用了無界的任務隊列這個參數就沒什么效果。
-
keepAliveTime(線程活動保持時間):線程池的工作線程空閑后,保持存活的時間。所以如果任務很多,并且每個任務執行的時間比較短,可以調大時間,提高線程的利用率。
-
TimeUnit (線程活動保持時間的單位):可選的單位有天(DAYS)、小時(HOURS)、分鐘(MINUTES)、毫秒(MILLISECONDS)、微秒(MICROSECONDS,千分之一毫秒)和納秒(NANOSECONDS,千分之一微秒)。
-
runnableTaskQueue(任務隊列):用于保存等待執行的任務的阻塞隊列。可以選擇以下幾 個阻塞隊列。
·ArrayBlockingQueue:是一個基于數組結構的有界阻塞隊列,此隊列按FIFO(先進先出)原 則對元素進行排序。
·LinkedBlockingQueue:一個基于鏈表結構的阻塞隊列,此隊列按FIFO排序元素,吞吐量通常要高于ArrayBlockingQueue。靜態工廠方法Executors.newFixedThreadPool()使用了這個隊列。
·SynchronousQueue:一個不存儲元素的阻塞隊列。每個插入操作必須等到另一個線程調用移除操作,否則插入操作一直處于阻塞狀態,吞吐量通常要高于Linked-BlockingQueue,靜態工廠方法Executors.newCachedThreadPool使用了這個隊列。
·PriorityBlockingQueue:一個具有優先級的無限阻塞隊列。
- RejectedExecutionHandler (飽和策略):當隊列和線程池都滿了,說明線程池處于飽和狀 態,那么必須采取一種策略處理提交的新任務。默認策略為AbortPolicy,表示無法 處理新任務時拋出異常。
在JDK 1.5中Java線程池框架提供了以下4種策略。
·AbortPolicy:直接拋出異常。
·CallerRunsPolicy:只用調用者所在線程來運行任務。
·DiscardOldestPolicy:丟棄隊列里最近的一個任務,并執行當前任務。
·DiscardPolicy:不處理,丟棄掉。
當然,也可以根據應用場景需要來實現RejectedExecutionHandler接口自定義策略。如記錄 日志或持久化存儲不能處理的任務。
- ThreadFactory:用于設置創建線程的工廠,可以通過線程工廠給每個創建出來的線程設置更有意義的名字。使用開源框架guava提供的ThreadFactoryBuilder可以快速給線程池里的線程設置有意義的名字,代碼如下。
向線程池中提交任務
可以使用兩個方法向線程池提交任務,分別為execute()和submit()方法。
execute()方法用于提交不需要返回值的任務,所以無法判斷任務是否被線程池執行成功。
通過以下代碼可知execute()方法輸入的任務是一個Runnable類的實例。
threadsPool.execute(new Runnable() {@Overridepublic void run() {// TODO Auto-generated method stub} });submit()方法用于提交需要返回值的任務。
線程池會返回一個future類型的對象,通過這個future對象可以判斷任務是否執行成功,并且可以通過future的get()方法來獲取返回值,get()方法會阻塞當前線程直到任務完成,而使用get(long timeout,TimeUnit unit)方法則會阻塞當前線程一段時間后立即返回,這時候有可能任務沒有執行完。
Future<Object> future = executor.submit(harReturnValuetask);try {Object s = future.get();} catch (InterruptedException e) {// 處理中斷異常} catch (ExecutionException e) {// 處理無法執行任務異常} finally {// 關閉線程池executor.shutdown(); }關閉線程池
可以通過調用線程池的shutdown或shutdownNow方法來關閉線程池。
它們的原理是遍歷線程池中的工作線程,然后逐個調用線程的interrupt方法來中斷線程,所以無法響應中斷的任務可能永遠無法終止。
但是它們存在一定的區別:
-
shutdownNow首先將線程池的狀態設置成STOP,然后嘗試停止所有的正在執行或暫停任務的線程,并返回等待執行任務的列表,
-
而shutdown只是將線程池的狀態設置成SHUTDOWN狀態,然后中斷所有沒有正在執行任務的線程。
只要調用了這兩個關閉方法中的任意一個,isShutdown方法就會返回true。
當所有的任務都已關閉后,才表示線程池關閉成功,這時調用isTerminaed方法會返回true。
至于應該調用哪一種方法來關閉線程池,應該由提交到線程池的任務特性決定,通常調用shutdown方法來關閉線程池,如果任務不一定要執行完,則可以調用shutdownNow方法。
合理的配置線程池
要想合理地配置線程池,就必須首先分析任務特性.
可以從以下幾個角度來分析。
- ·任務的性質:CPU密集型任務、IO密集型任務和混合型任務。
- ·任務的優先級:高、中和低。
- ·任務的執行時間:長、中和短。
- ·任務的依賴性:是否依賴其他系統資源,如數據庫連接。
性質不同的任務可以用不同規模的線程池分開處理。
CPU密集型任務應配置盡可能小的線程,如配置Ncpu +1個線程的線程池。
由于IO密集型任務線程并不是一直在執行任務,則應配置盡可能多的線程,如2*N cpu 。
混合型的任務,如果可以拆分,將其拆分成一個CPU密集型任務和一個IO密集型任務,只要這兩個任務執行的時間相差不是太大,那么分解后執行的吞吐量將高于串行執行的吞吐量。如果這兩個任務執行時間相差太大,則沒必要進行分解。
可以通過
Runtime.getRuntime().availableProcessors()方法獲得當前設備的CPU個數。
優先級不同的任務可以使用優先級隊列PriorityBlockingQueue來處理。它可以讓優先級高的任務先執行。
注意:如果一直有優先級高的任務提交到隊列里,那么優先級低的任務可能永遠不能執行。
執行時間不同的任務可以交給不同規模的線程池來處理,或者可以使用優先級隊列,讓執行時間短的任務先執行。
依賴數據庫連接池的任務,因為線程提交SQL后需要等待數據庫返回結果,等待的時間越長,則CPU空閑時間就越長,那么線程數應該設置得越大,這樣才能更好地利用CPU。
建議使用有界隊列。有界隊列能增加系統的穩定性和預警能力,可以根據需要設大一點兒,比如幾千。
有一次,我們系統里后臺任務線程池的隊列和線程池全滿了,不斷拋出拋棄任務的異常,通過排查發現是數據庫出現了問題,導致執行SQL變得非常緩慢,因為后臺任務線程池里的任務全是需要向數據庫查詢和插入數據的,所以導致線程池里的工作線程全部阻塞,任務積壓在線程池里。如果當時我們設置成無界隊列,那么線程池的隊列就會越來越多,有可能會撐滿內存,導致整個系統不可用,而不只是后臺任務出現問題。當然,我們的系統所有的任務是用單獨的服務器部署的,我們使用不同規模的線程池完成不同類型的任務,但是出現這樣問題時也會影響到其他任務。
線程池的監控
如果在系統中大量使用線程池,則有必要對線程池進行監控,方便在出現問題時,可以根據線程池的使用狀況快速定位問題。可以通過線程池提供的參數進行監控,在監控線程池的時候可以使用以下屬性。
-
taskCount:線程池需要執行的任務數量。
-
·completedTaskCount:線程池在運行過程中已完成的任務數量,小于或等于taskCount。
-
·largestPoolSize:線程池里曾經創建過的最大線程數量。通過這個數據可以知道線程池是否曾經滿過。如該數值等于線程池的最大大小,則表示線程池曾經滿過。
-
·getPoolSize:線程池的線程數量。如果線程池不銷毀的話,線程池里的線程不會自動銷 毀,所以這個大小只增不減。
-
·getActiveCount:獲取活動的線程數。
通過擴展線程池進行監控。可以通過繼承線程池來自定義線程池,重寫線程池的beforeExecute、afterExecute和terminated方法,這幾個方法在線程池里是空方法。
protected void beforeExecute(Thread t, Runnable r) { }protected void afterExecute(Runnable r, Throwable t) { }protected void terminated() { }也可以在任務執行前、執行后和線程池關閉前執行一些代碼來進行監控。例如,監控任務的平均執行時間、最大執行時間和最小執行時間等。
總結
以上是生活随笔為你收集整理的Java-Java中的线程池原理分析及使用的全部內容,希望文章能夠幫你解決所遇到的問題。
- 上一篇: Spring-AOP @AspectJ切
- 下一篇: Java-Java I/O流解读之基于字