池技术
什么是池?
漢字的基本釋義:
池塘;旁邊高中間洼的地方等
在網絡技術范疇內,池(Pool)的概念被廣泛的應用在服務器端軟件的開發上。
?
使用池結構相比于不使用池結構的基本優勢分析
在銜接節點上,無池結構時需要不斷的創建和銷毀新服務對象必將給造成系統資源的巨大開銷,導致系統的性能下降,甚至系統資源耗盡
使用池結構可以減少不必要的新服務對象的創建和銷毀,用一個容器保存著各種需要的對象。對這些對象進行復用,從而降低系統資源開銷、提高程序的響應速度、改善效率。
?
常用的池技術有:Socket連接池、JDBC連接池、線程池等。
本質上池是在資源使用時將使用率高且可以復用的對象保存在一個類似容器的地方,對這些對象進行復用,從而降低非必須的系統資源開銷、提高程序的響應速度、改善效率。
?
線程池剖析
線程池的生命周期及其使用
1.創建
new?ThreadPoolExecutor(corePoolSize,?maximumPoolSize,?keepAliveTime,
milliseconds,runnableTaskQueue,?handler);
corePoolSize(線程池的基本大小)提交一個任務到線程池時,線程池會創建一個線程來執行任務,即使其他空閑的基本線程能夠執行新任務也會創建線程,等到需要執行的任務數大于線程池基本大小時就不再創建。如果調用了線程池的prestartAllCoreThreads()方法,線程池會提前創建并啟動所有基本線程。
maximumPoolSize(線程池最大數量):線程池允許創建的最大線程數。如果隊列滿了,并且已創建的線程數小于最大線程數,則線程池會再創建新的線程執行任務。值得注意的是,如果使用了無界的任務隊列這個參數就沒什么效果。
keepAliveTime(線程活動保持時間):線程池的工作線程空閑后,保持存活的時間。所以,如果任務很多,并且每個任務執行的時間比較短,可以調大時間,提高線程的利用率。
TimeUnit(線程活動保持時間的單位):可選的單位有天(DAYS)、小時(HOURS)、分鐘(MINUTES)、毫秒(MILLISECONDS)、微秒(MICROSECONDS,千分之一毫秒)和納秒(NANOSECONDS,千分之一微秒)
runnableTaskQueue(任務隊列):用于保存等待執行的任務的阻塞隊列。可以選擇以下幾個阻塞隊列:
ArrayBlockingQueue:是一個基于數組結構的有界阻塞隊列,此隊列按FIFO(先進先出)原則對元素進行排序
LinkedBlockingQueue:一個基于鏈表結構的阻塞隊列,此隊列按FIFO排序元素,吞吐量通常要高于ArrayBlockingQueue。靜態工廠方法Executors.newFixedThreadPool()使用了這個隊列
SynchronousQueue:一個不存儲元素的阻塞隊列。每個插入操作必須等到另一個線程調用
移除操作,否則插入操作一直處于阻塞狀態,吞吐量通常要高于Linked-BlockingQueue,默認為Integer.MAX_VALUE2147483647。靜態工廠方法Executors.newCachedThreadPool使用了這個隊列
PriorityBlockingQueue:一個具有優先級的無限阻塞隊列
ThreadFactory:用于設置創建線程的工廠,可以通過線程工廠給每個創建出來的線程設置更有意義的名字。使用開源框架guava提供的ThreadFactoryBuilder可以快速給線程池里的線
程設置有意義的名字,代碼如下
new?ThreadFactoryBuilder().setNameFormat("XX-task-%d").build()
RejectedExecutionHandler(飽和策略):當隊列和線程池都滿了,說明線程池處于飽和狀
態,那么必須采取一種策略處理提交的新任務。這個策略默認情況下是AbortPolicy,表示無法
處理新任務時拋出異常。在JDK?1.5中Java線程池框架提供了以下4種策略。
·AbortPolicy:直接拋出異常。
·CallerRunsPolicy:只用調用者所在線程來運行任務。
·DiscardOldestPolicy:丟棄隊列里最近的一個任務,并執行當前任務。
·DiscardPolicy:不處理,丟棄掉。
當然,也可以根據應用場景需要來實現RejectedExecutionHandler接口自定義策略。如記錄日志或持久化存儲不能處理的任務
2.提交
execute()用于提交不需要返回值的任務,所以無法判斷任務是否被線程池執行成功。
submit()提交需要返回值的任務。線程池會返回一個future類型的對象,通過這個future對象可以判斷任務是否執行成功,并且可以通過future的get()方法來獲取返回值,get()方法會阻塞當前線程直到任務完成,而使用get(long?timeout,TimeUnit?unit)方法則會阻塞當前線程一段時間后立即返回,這時候有可能任務沒有執行完。
3.關閉
shutdown將線程池的狀態設置成SHUTDOWN狀態,然后中斷所有沒有正在執行任務的線程。
shutdownNow首先將線程池的狀態設置成STOP,然后嘗試停止所有的正在執行或暫停任務的線程,并返回等待執行任務的列表。
線程池的類型
newCachedThreadPool創建一個可緩存線程池,如果線程池長度超過處理需要,可靈活回收空閑線程,若無可回收,則新建線程。隊列-SynchronizedQueue存放大小1
newFixedThreadPool定長線程池,可控制線程最大并發數,超出的線程會在隊列中等待。
隊列-LinkedBlockingQueue-無界導致maxNumPoolSize無效
newScheduledThreadPool?創建一個定長線程池,支持定時及周期性任務執行。
newSingleThreadExecutor?創建一個單線程化的線程池,它只會用唯一的工作線程來執行任務,保證所有任務按照指定順序(FIFO,?LIFO,?優先級)執行。
合理使用線程池
從幾個不同角度來判斷和分析
任務的性質:
CPU密集型任務-應配置盡可能小的線程數量,如配置N*cpu+1個線程的線程池?
【獲取cpu核數:Runtime.getRuntime().availableProcessors()】
IO密集型任務-線程并不是一直在執行任務,則應配置盡可能多的線程
混合型任務-如果可以拆分,將其拆分成一個CPU密集型任務和一個IO密集型任務,只要這兩個任務執行的時間相差不是太大,那么分解后執行的吞吐量
將高于串行執行的吞吐量。如果這兩個任務執行時間相差太大,則沒必要進行分解。
可以通過Runtime.getRuntime().availableProcessors()方法獲得當前設備的CPU個數
任務的優先級
可以使用優先級隊列PriorityBlockingQueue來處理。它可以讓優先級高的任務先執行。
執行時間不同
可以交給不同規模的線程池來處理,或者可以使用優先級隊列,讓執行時間短的任務先執行。
依賴數據庫連接池的任務,因為線程提交SQL后需要等待數據庫返回結果,等待的時間越
長,則CPU空閑時間就越長,那么線程數應該設置得越大,這樣才能更好地利用CPU。線程池的監控
?
線程池的實現原理
當一個任務提交時(excute())
1.線程池判斷核心線程池里的線程是否都在執行任務,若不是(少于corePoolSize)則創建一個工作線程在執行任務(需要獲取全局鎖),如果已滿,則進入下一步
2.線程池判斷工作隊列是否已滿,如果沒滿則將任務線程添加入工作隊列(BlockingQueue),否則進去下一步
3.判斷線程池里的線程是否都處于工作狀態,不是(小于maximumPoolSize)則創建新線程來完成任務(需要獲取全局鎖),否則交給飽和策略[RejectExcutionHandle.rejectedExcution()]來處理這個任務
這些步驟是為了避免使用全局鎖[可能是一個嚴重的可伸縮瓶頸]
工作線程:線程池創建線程時,會將線程封裝成工作線程worker,worker在執行任務完成之后會循環從阻塞隊列里獲取任務來執行。
轉載于:https://www.cnblogs.com/white-snow/p/10212224.html
總結
- 上一篇: JavaScript基础事件(6)
- 下一篇: ajax跨域访问控制