认识Java异步编程
一 、認(rèn)識(shí)異步編程
通常Java開(kāi)發(fā)人員喜歡使用同步代碼編寫(xiě)程序,因?yàn)檫@種請(qǐng)求(request)/響應(yīng)(response)的方式比較簡(jiǎn)單,并且比較符合編程人員的思維習(xí)慣;這種做法很好,直到系統(tǒng)出現(xiàn)性能瓶頸;在同步編程方式時(shí)由于每個(gè)線程同時(shí)只能發(fā)起一個(gè)請(qǐng)求并同步等待返回,所以為了提高系統(tǒng)性能,此時(shí)我們就需要引入更多的線程來(lái)實(shí)現(xiàn)并行化處理;但是多線程下對(duì)共享資源進(jìn)行訪問(wèn)時(shí),不可避免會(huì)引入資源爭(zhēng)用和并發(fā)問(wèn)題;另外操作系統(tǒng)層面對(duì)線程的個(gè)數(shù)是有限制的,不可能通過(guò)無(wú)限的增加線程數(shù)來(lái)提供系統(tǒng)性能;最后使用同步阻塞的編程方式還會(huì)導(dǎo)致浪費(fèi)資源,比如發(fā)起網(wǎng)絡(luò)IO請(qǐng)求時(shí)候,調(diào)用線程就會(huì)處于同步阻塞等待響應(yīng)結(jié)果的狀態(tài),而這時(shí)候調(diào)用線程明明可以去做其他事情,等網(wǎng)絡(luò)IO響應(yīng)結(jié)果返回后在對(duì)結(jié)果進(jìn)行處理。
可見(jiàn)通過(guò)增加單機(jī)系統(tǒng)線程個(gè)數(shù)的并行編程方式并不是靈丹妙藥;通過(guò)編寫(xiě)異步、非阻塞的代碼,則可以使用相同的底層資源將執(zhí)行切換到另一個(gè)活動(dòng)任務(wù),然后在異步處理完成后在返回到當(dāng)前線程進(jìn)行繼續(xù)處理,從而提高系統(tǒng)性能。
異步編程是可以讓程序并行運(yùn)行的一種手段,其可以讓程序中的一個(gè)工作單元與主應(yīng)用程序線程分開(kāi)獨(dú)立運(yùn)行,并且等工作單元運(yùn)行結(jié)束后通知主應(yīng)用程序線程它的運(yùn)行結(jié)果或者失敗原因。使用它有許多好處,例如可以提高應(yīng)用程序的性能和響應(yīng)能力。
比如當(dāng)調(diào)用線程使用異步方式發(fā)起網(wǎng)絡(luò)IO請(qǐng)求后,調(diào)用線程就不會(huì)同步阻塞等待響應(yīng)結(jié)果,而是在內(nèi)存保存請(qǐng)求上下文后,會(huì)馬上返回后做其他事情,等網(wǎng)絡(luò)IO響應(yīng)結(jié)果返回后在使用IO線程通知業(yè)務(wù)線程響應(yīng)結(jié)果已經(jīng)返回,然后業(yè)務(wù)線程在對(duì)結(jié)果進(jìn)行處理。可知異步調(diào)用方式提高了線程的利用率,讓系統(tǒng)有更多的線程資源來(lái)處理更多的請(qǐng)求。
比如在移動(dòng)應(yīng)用程序中,在用戶操作移動(dòng)設(shè)備屏幕發(fā)起請(qǐng)求后,如果是同步等待后臺(tái)服務(wù)器返回結(jié)果,則當(dāng)后臺(tái)服務(wù)操作非常耗時(shí)時(shí),就會(huì)造成用戶看到移動(dòng)設(shè)備屏幕凍結(jié)(一直處理請(qǐng)求處理中),在結(jié)果返回前,用戶不能操作移動(dòng)設(shè)備的其他功能,這對(duì)用戶體驗(yàn)非常不好。而使用異步編程則當(dāng)發(fā)起請(qǐng)求后,調(diào)用線程會(huì)馬上返回,具體返回結(jié)果則會(huì)通過(guò)UI線程異步進(jìn)行渲染,而在這期間用戶可以使用移動(dòng)設(shè)備的其他功能。
二、 異步編程場(chǎng)景概述
在日常開(kāi)發(fā)中我們經(jīng)常會(huì)遇到這樣的情況,就是需要異步的處理一些事情,而不需要知道異步任務(wù)的結(jié)果;比如在調(diào)用線程里面異步打日志,為了不讓日志打印阻塞調(diào)用線程,會(huì)把日志設(shè)置為異步方式。如下圖1-2-1日志異步化打印,使用一個(gè)內(nèi)存隊(duì)列把日志打印異步化,使用單一線程來(lái)消費(fèi)隊(duì)列里面日志事件執(zhí)行具體的日志落盤操作(本質(zhì)是一個(gè)多生產(chǎn)單消費(fèi)模型),這種情況下調(diào)用線程把日志任務(wù)放入隊(duì)列后就繼續(xù)去干自己的事情了,而不再關(guān)心日志任務(wù)具體是什么時(shí)候入盤的;
圖 1-2-1 日志異步打印
在Java中每當(dāng)我們需要執(zhí)行異步任務(wù)的時(shí)候我們可以直接開(kāi)啟一個(gè)線程來(lái)實(shí)現(xiàn),也可以把異步任務(wù)封裝為任務(wù)對(duì)象投遞到線程池里面來(lái)執(zhí)行,在Spring框架中則提供了@Async注解把一個(gè)任務(wù)異步化來(lái)進(jìn)行處理,這些內(nèi)容會(huì)在后面章節(jié)具體講解。
另外有時(shí)候我們還需要在主線程等待異步任務(wù)的執(zhí)行結(jié)果,這時(shí)候Future就排上用場(chǎng)了;比如調(diào)用線程要等執(zhí)行任務(wù)A執(zhí)行完畢后在順序執(zhí)行任務(wù)B,并且把兩者結(jié)果拼接起來(lái)作為前端展示使用,如果調(diào)用線程是同步調(diào)用兩次查詢(如下圖1-2-2同步調(diào)用),則整個(gè)過(guò)程耗時(shí)時(shí)間為執(zhí)行任務(wù)A的耗時(shí)加上執(zhí)行任務(wù)B的耗時(shí)。
圖1-2-2 同步調(diào)用
如果使用異步編程(如下圖1-2-3)則可以在調(diào)用線程內(nèi)開(kāi)啟一個(gè)異步運(yùn)行單元來(lái)執(zhí)行任務(wù)A,開(kāi)啟異步運(yùn)行單元后調(diào)用線程會(huì)馬上返回一個(gè)Future對(duì)象(futureB),然后調(diào)用線程本身來(lái)執(zhí)行任務(wù)B,等任務(wù)B執(zhí)行完畢后,調(diào)用線程可以調(diào)用futureB的get()方法獲取任務(wù)A的執(zhí)行結(jié)果,最后在拼接兩者結(jié)果。這時(shí)由于任務(wù)A和任務(wù)B是并行運(yùn)行的,所以整個(gè)過(guò)程耗時(shí)為max(調(diào)用線程執(zhí)行任務(wù)B耗時(shí),異步運(yùn)行單元執(zhí)行任務(wù)A耗時(shí))。
圖1-2-3 異步調(diào)用
可見(jiàn)整個(gè)過(guò)程耗時(shí)有顯著縮短,對(duì)于用戶來(lái)說(shuō)頁(yè)面響應(yīng)時(shí)間會(huì)更短,對(duì)用戶體驗(yàn)會(huì)更好,其中異步單元的執(zhí)行一般是線程池中的線程。
使用Future確實(shí)可以獲取異步任務(wù)的執(zhí)行結(jié)果,但是獲取其結(jié)果還是會(huì)阻塞調(diào)用線程的,并沒(méi)有實(shí)現(xiàn)完全異步化處理,在JDK8中提供了CompletableFuture來(lái)彌補(bǔ)了其缺點(diǎn)。CompletableFuture類允許以非阻塞方式和基于通知的方式處理結(jié)果,其通過(guò)設(shè)置回調(diào)函數(shù)方式,讓主線程徹底解放出來(lái),做自己的事情,實(shí)現(xiàn)了實(shí)際意義上的異步處理;
如下圖1-2-4使用CompletableFuture時(shí)候當(dāng)異步單元返回futureB后,調(diào)用線程可以在其上調(diào)用whenComplete方法設(shè)置一個(gè)回調(diào)函數(shù)action,然后調(diào)用線程就會(huì)馬上返回了,等異步任務(wù)執(zhí)行完畢后會(huì)使用異步線程來(lái)執(zhí)行回調(diào)函數(shù)action,而無(wú)需調(diào)用線程干預(yù),如果你對(duì)CompletableFuture不了解,沒(méi)關(guān)系,后面章節(jié)我們會(huì)詳細(xì)講解,這里你只需要知道其解決了傳統(tǒng)Future的缺陷就可以了。
圖1-2-4 CompletableFuture異步執(zhí)行
JDK8還引入了Stream,它旨在有效地處理數(shù)據(jù)流(包括原始類型),其使用聲明式編程讓我們可以寫(xiě)出可讀性、可維護(hù)性很強(qiáng)的代碼,并且結(jié)合CompletableFuture可以完美的實(shí)現(xiàn)異步編程。但是它產(chǎn)生的流只能使用一次,并且缺少與時(shí)間相關(guān)的操作(例如RxJava中的基于時(shí)間窗口的緩存元素),雖然可以執(zhí)行并行計(jì)算,但無(wú)法指定要使用的線程池。并且它還沒(méi)有設(shè)計(jì)用于處理延遲的操作(例如RxJava中的defer操作);而Reactor或RxJava等Reactive API就是為了解決這些問(wèn)題而生的。
Reactor或RxJava等反應(yīng)式API也提供Java 8 Stream的運(yùn)算符,但它們更適用于任何流序列(不僅僅是集合),并允許定義一個(gè)轉(zhuǎn)換操作的管道,該管道將應(yīng)用于通過(guò)它的數(shù)據(jù),這要?dú)w功于方便的流暢API和Lambda表達(dá)式的使用。Reactive旨在處理同步或異步操作,并允許您緩沖(buffer)、合并(merge)、連接(join) 元素等對(duì)元素做各種轉(zhuǎn)換。
上面我們講解了單JVM內(nèi)的異步編程,那么對(duì)于跨網(wǎng)絡(luò)的交互是否也存在異步編程范疇那?對(duì)于網(wǎng)絡(luò)請(qǐng)求來(lái)說(shuō),同步調(diào)用時(shí)比較直截了當(dāng)?shù)?#xff0c;比如我們?cè)谝粋€(gè)線程A中通過(guò)RPC請(qǐng)求獲取服務(wù)B和服務(wù)C的數(shù)據(jù),然后基于兩者結(jié)果做一些事情。在同步調(diào)用情況下,線程A需要調(diào)用服務(wù)B,然后需要同步等待服務(wù)B結(jié)果返回后,才可以對(duì)服務(wù)C發(fā)起調(diào)用,然后等服務(wù)C結(jié)果返回后才可以結(jié)合服務(wù)B和C的結(jié)果做一件事,如下圖1-2-5:
圖1-2-5 同步RPC調(diào)用
如上圖1-2-5線程A同步獲取服務(wù)B結(jié)果后,在同步調(diào)用服務(wù)C獲取結(jié)果,可見(jiàn)在同步調(diào)用情況下業(yè)務(wù)執(zhí)行語(yǔ)義比較清晰,線程A順序的對(duì)多個(gè)服務(wù)請(qǐng)求進(jìn)行調(diào)用;但是同步調(diào)用意味著當(dāng)前發(fā)起請(qǐng)求的調(diào)用線程在遠(yuǎn)端機(jī)器返回結(jié)果前必須阻塞等待,這明顯很浪費(fèi)資源。好的做法應(yīng)該是發(fā)起請(qǐng)求的調(diào)用線程發(fā)起請(qǐng)求后,注冊(cè)一個(gè)回調(diào)函數(shù),然后馬上返回去做其他事情,當(dāng)遠(yuǎn)端把結(jié)果返回后在使用IO線程執(zhí)行回調(diào)函數(shù)。
那么如何實(shí)現(xiàn)異步調(diào)用?在Java中NIO的出現(xiàn)讓實(shí)現(xiàn)上面的功能變得簡(jiǎn)單,而高性能異步、基于事件驅(qū)動(dòng)的網(wǎng)絡(luò)編程框架Netty的出現(xiàn)讓我們從編寫(xiě)繁雜的Java NIO程序出解放出來(lái)了,現(xiàn)在的RPC框架比如Dubbo底層網(wǎng)絡(luò)通信就是基于Netty實(shí)現(xiàn)的;Netty框架將網(wǎng)絡(luò)編程邏輯與業(yè)務(wù)邏輯處理分離開(kāi)來(lái),其內(nèi)部幫我們自動(dòng)處理好網(wǎng)絡(luò)與異步處理邏輯,讓我們專心寫(xiě)自己的業(yè)務(wù)處理邏輯,Netty的異步非阻塞能力與CompletableFuture結(jié)合就可以輕松的實(shí)現(xiàn)網(wǎng)絡(luò)請(qǐng)求的異步調(diào)用。
在執(zhí)行RPC(遠(yuǎn)程過(guò)程調(diào)用)調(diào)用時(shí)候,使用異步編程可以提高系統(tǒng)的性能;如下圖1-2-6,在異步調(diào)用情況下,當(dāng)線程A調(diào)用服務(wù)B后,馬上會(huì)返回一個(gè)異步的futureB對(duì)象,然后線程A可以在futureB上設(shè)置一個(gè)回調(diào)函數(shù);然后線程A可以繼續(xù)訪問(wèn)服務(wù)C,也會(huì)馬上返回一個(gè)futureC對(duì)象,然后線程A可以在futureC上設(shè)置一個(gè)回調(diào)函數(shù):
圖1-2-6 RPC異步調(diào)用
如上圖1-2-6可知異步調(diào)用情況下線程A可以并發(fā)的調(diào)用服務(wù)B和服務(wù)C,而不再是順序的,由于服務(wù)B和服務(wù)C是并發(fā)運(yùn)行,所以相比線程A同步調(diào)用,線程A獲取到服務(wù)B和服務(wù)C結(jié)果的時(shí)間會(huì)縮短很多(同步調(diào)用情況下耗時(shí)時(shí)間為服務(wù)B和服務(wù)C返回結(jié)果耗時(shí)的和,異步調(diào)用時(shí)候耗時(shí)為max(服務(wù)B耗時(shí),服務(wù)C耗時(shí)));另外這里可以借助CompletableFuture的能力等兩次RPC調(diào)用都異步返回結(jié)果后做一件事情,這時(shí)候調(diào)用流程如下圖圖1-2-7:
圖1-2-7 合并Rpc調(diào)用結(jié)果
如上圖圖1-2-7調(diào)用線程A首先發(fā)起服務(wù)B的遠(yuǎn)程調(diào)用,然后馬上返回一個(gè)futureB對(duì)象,然后發(fā)起服務(wù)C的遠(yuǎn)程調(diào)用,然后馬上返回一個(gè)futureC對(duì)象,最后調(diào)用線程A使用代碼futureB.thenCombine(futureC,action)等f(wàn)utureB和futureC結(jié)果可用時(shí)候執(zhí)行回調(diào)函數(shù)action;這里我們只是簡(jiǎn)單的概述下基于Netty的異步非阻塞能力以及CompletableFuture的可編排能力,我們可以實(shí)現(xiàn)功能很強(qiáng)大的異步編程能力,后面章節(jié)我們會(huì)以Dubbo框架為例講解其借助Netty的非阻塞異步API實(shí)現(xiàn)了服務(wù)消費(fèi)端的異步調(diào)用。
其實(shí)有了CompletableFuture實(shí)現(xiàn)異步編程,我們可以很自然的使用適配器來(lái)實(shí)現(xiàn)Reactive風(fēng)格的編程,當(dāng)我們使用RxJava API時(shí)候我們只需要使用Flowable的一些函數(shù)轉(zhuǎn)換CompletableFuture為Flowable對(duì)象即可,這個(gè)我們?cè)诤竺嬲鹿?jié)也會(huì)講述。
上節(jié)講解了網(wǎng)絡(luò)請(qǐng)求中的RPC框架的異步請(qǐng)求,其實(shí)還有一類,也就是Web請(qǐng)求,在Web應(yīng)用中Servlet占有一席之地。在Servlet3.0規(guī)范前,Servlet容器對(duì)Servlet的處理都是每個(gè)請(qǐng)求對(duì)應(yīng)一個(gè)線程這種1:1的模式進(jìn)行處理的(如下圖1-2-8),每當(dāng)來(lái)一個(gè)請(qǐng)求時(shí)候都會(huì)開(kāi)啟一個(gè)Servlet容器內(nèi)的線程來(lái)進(jìn)行處理,如果Servlet內(nèi)處理比較耗時(shí),則會(huì)把Servlet容器內(nèi)線程使用耗盡,然后容器就不能再處理新的請(qǐng)求。
圖1-2-8 Servlet的阻塞處理模型
Servlet3.0規(guī)范中則提供了異步處理的能力,讓Servlet容器中的線程可以及時(shí)釋放,具體Servlet業(yè)務(wù)處理邏輯是在業(yè)務(wù)自己線程池內(nèi)來(lái)處理;雖然Servlet3.0規(guī)范讓Servlet的執(zhí)行變?yōu)榱水惒?#xff0c;但是其IO還是阻塞式的,IO阻塞是說(shuō)在Servlet處理請(qǐng)求時(shí)候從ServletInputStream中讀取請(qǐng)求體時(shí)候是阻塞的,而我們想要的是當(dāng)數(shù)據(jù)已經(jīng)就緒時(shí)候通知我們?nèi)プx取就可以了,因?yàn)檫@可以避免占用我們自己的線程來(lái)進(jìn)行阻塞讀取,Servlet3.1規(guī)范則提供了非阻塞IO來(lái)解決這個(gè)問(wèn)題。
雖然Servlet技術(shù)棧的不斷發(fā)展實(shí)現(xiàn)了異步處理與非阻塞IO,但是其異步是不徹底的,因?yàn)槭苤朴赟ervlet規(guī)范本身,比如其規(guī)范是同步的(Filter,Servlet)或阻塞(getParameter,getPart)。所以新的使用少量線程和較少的硬件資源來(lái)處理并發(fā)的非阻塞Web技術(shù)棧應(yīng)運(yùn)而生-WebFlux,其是與Servlet技術(shù)棧并行存在的一種新的技術(shù),其基于JDK8函數(shù)式編程與Netty實(shí)現(xiàn)天然的異步、非阻塞處理,這些我們?cè)诤竺嬲鹿?jié)會(huì)具體介紹。
另外為了更好的處理異步編程,降低我們異步編程的成本,一些框架也應(yīng)運(yùn)而生,比如高性能線程間消息傳遞庫(kù)Disruptor,其通過(guò)為事件(events)預(yù)先分配內(nèi)存、無(wú)鎖CAS算法、緩沖行填充、兩階段協(xié)議提交來(lái)實(shí)現(xiàn)多線程并發(fā)的處理不同的元素,從而實(shí)現(xiàn)高性能的異步處理;比如Akka其基于Actor模式實(shí)現(xiàn)了天然支持分布式的使用消息進(jìn)行異步處理的服務(wù);比如高性能分布式消息中間件Apache RocketMetaQ用來(lái)實(shí)現(xiàn)應(yīng)用間的異步解耦、流量削峰。
一些新興的語(yǔ)言對(duì)異步處理的支持能力讓我們?nèi)滩蛔》Q贊,GoLang就是其中之一,其通過(guò)語(yǔ)言層面內(nèi)置的goroutine與channel可以輕松的實(shí)現(xiàn)復(fù)雜的異步處理能力。
《Java異步編程實(shí)戰(zhàn)》),一書(shū)則是根據(jù)上述介紹的次序,把內(nèi)容劃分了若干章節(jié),每章則具體展開(kāi)討論相應(yīng)的異步編程技術(shù)。
三、 為何寫(xiě)作本書(shū)
異步編程是可以讓程序并行運(yùn)行的一種手段,其可以讓程序中的一個(gè)工作單元與主應(yīng)用程序線程分開(kāi)獨(dú)立運(yùn)行,使用它有許多好處,例如可以提高應(yīng)用程序的性能和響應(yīng)能力。
雖然Java中不同技術(shù)域提供了相應(yīng)的異步編程技術(shù),但是對(duì)異步編程技術(shù)的描述散落到了不同技術(shù)域的技術(shù)文檔中,并沒(méi)有一個(gè)統(tǒng)一的地方對(duì)這些技術(shù)進(jìn)行梳理歸納。另外這些技術(shù)之間是什么關(guān)系,各自的出現(xiàn)都是為了解決什么問(wèn)題,我們也很難找到資料來(lái)解釋。
本書(shū)的出現(xiàn)則是為了打破這種局面,本書(shū)旨在把Java中相關(guān)的異步編程技術(shù)進(jìn)行歸納分類總結(jié),然后呈現(xiàn)給大家,讓大家可以有一個(gè)統(tǒng)一的地方來(lái)查看與探究。
四、本書(shū)特色
本書(shū)涵蓋了Java中常見(jiàn)的異步編程場(chǎng)景,這包含單JVM內(nèi)的異步編程、以及跨主機(jī)通過(guò)網(wǎng)絡(luò)通訊的遠(yuǎn)程過(guò)程調(diào)用的異步調(diào)用與異步處理、以及Web請(qǐng)求的異步處理等等。
本書(shū)在講解Java中每種異步編程技術(shù)時(shí)都附有案例,以便理論與實(shí)踐進(jìn)行結(jié)合。
本書(shū)在講解每種異步編程技術(shù)時(shí)大多都會(huì)對(duì)其實(shí)現(xiàn)原理進(jìn)行講解,以便讓讀者知其然也知其所以然。
本書(shū)對(duì)最近比較火的反應(yīng)式編程以及WebFlux的使用與原理解析有一定深入的探索。
五、 業(yè)界推薦
原文鏈接
本文為阿里云原創(chuàng)內(nèi)容,未經(jīng)允許不得轉(zhuǎn)載。
總結(jié)
以上是生活随笔為你收集整理的认识Java异步编程的全部?jī)?nèi)容,希望文章能夠幫你解決所遇到的問(wèn)題。
- 上一篇: 如何为Kubernetes实现原地升级
- 下一篇: 周志明:职业电竞选手的Java大神路