API性能优化之异步
? ? ?很多時(shí)候?yàn)榱诉_(dá)到SLA承諾(Service-Level Agreement)即為“服務(wù)水平承諾,我們需要拼命的優(yōu)化我們的api的性能,其中最有效的便是異步了
異步和同步:
定義:同步和異步關(guān)注的是消息通信機(jī)制?(synchronous communication/ asynchronous communication)。
同步:一件事當(dāng)成一件事做,順序執(zhí)行;
異步:一件事當(dāng)作多件事做,可以并行執(zhí)行,或者干脆全部交給另一個(gè)人做,自己只負(fù)責(zé)告訴那個(gè)人一聲。
異步請求和同步請求:
同步請求:提交請求->等待服務(wù)器處理->處理完畢返回這個(gè)期間客戶端瀏覽器不能干任何事
異步請求: 請求通過事件觸發(fā)->服務(wù)器處理(這是瀏覽器仍然可以作其他事情)->處理完畢
可以先釋放容器分配給請求的線程與相關(guān)資源,減輕系統(tǒng)負(fù)擔(dān),釋放了容器所分配線程的請求,其響應(yīng)將被延后,可以在耗時(shí)處理完成(例如長時(shí)間的運(yùn)算)時(shí)再對客戶端進(jìn)行響應(yīng)。一句話:增加了服務(wù)器對客戶端請求的吞吐量(實(shí)際生產(chǎn)上我們用的比較少,如果并發(fā)請求量很大的情況下,我們會通過nginx把請求負(fù)載到集群服務(wù)的各個(gè)節(jié)點(diǎn)上來分?jǐn)傉埱髩毫?#xff0c;當(dāng)然還可以通過消息隊(duì)列來做請求的緩沖)。
異步調(diào)用:
異步請求的處理。除了異步請求,一般上我們用的比較多的應(yīng)該是異步調(diào)用。通常在開發(fā)過程中,會遇到一個(gè)方法是和實(shí)際業(yè)務(wù)無關(guān)的,沒有緊密性的。比如記錄日志信息等業(yè)務(wù)。這個(gè)時(shí)候正常就是啟一個(gè)新線程去做一些業(yè)務(wù)處理,讓主線程異步的執(zhí)行其他業(yè)務(wù)。異步調(diào)用對于api調(diào)用的性能提升是十分顯著的,但是有一個(gè)缺陷,沒辦法等待api返回的數(shù)據(jù),所以只能針對那些在后臺運(yùn)行而不十分不要返回值的數(shù)據(jù),或者在異步方法中再調(diào)用一個(gè)方法去主動往客戶端推送數(shù)據(jù)。
SpringBoot中異步調(diào)用的使用
- 需要在啟動類加入@EnableAsync使異步調(diào)用@Async注解生效
? ?在需要異步執(zhí)行的方法上加入此注解即可@Async
測試:
可以看出,調(diào)用異步方法時(shí),是立即返回的,基本沒有耗時(shí)。
注意事項(xiàng)
- 在默認(rèn)情況下,未設(shè)置TaskExecutor時(shí),默認(rèn)是使用SimpleAsyncTaskExecutor這個(gè)線程池,但此線程不是真正意義上的線程池,因?yàn)榫€程不重用,每次調(diào)用都會創(chuàng)建一個(gè)新的線程。可通過控制臺日志輸出可以看出,每次輸出線程名都是遞增的。所以最好我們來自定義一個(gè)線程池。
自定義線程池
創(chuàng)建一個(gè)自定義的ThreadPoolTaskExecutor線程池:
此時(shí),使用的是就只需要在@Async加入線程池名稱即可:
- 調(diào)用的異步方法,不能為同一個(gè)類的方法(包括同一個(gè)類的內(nèi)部類),簡單來說,因?yàn)镾pring在啟動掃描時(shí)會為其創(chuàng)建一個(gè)代理類,而同類調(diào)用時(shí),還是調(diào)用本身的代理類的,所以和平常調(diào)用是一樣的。其他的注解如@Cache等也是一樣的道理,說白了,就是Spring的代理機(jī)制造成的。所以在開發(fā)中,最好把異步服務(wù)單獨(dú)抽出一個(gè)類來管理。下面會重點(diǎn)講述。
@Async異步失效
異步請求與異步調(diào)用的區(qū)別
- 兩者的使用場景不同,異步請求用來解決并發(fā)請求對服務(wù)器造成的壓力,從而提高對請求的吞吐量;而異步調(diào)用是用來做一些非主線流程且不需要實(shí)時(shí)計(jì)算和響應(yīng)的任務(wù),比如同步日志到kafka中做日志分析等。
- 異步請求是會一直等待response相應(yīng)的,需要返回結(jié)果給客戶端的;而異步調(diào)用我們往往會馬上返回給客戶端響應(yīng),完成這次整個(gè)的請求,至于異步調(diào)用的任務(wù)后臺自己慢慢跑就行,客戶端不會關(guān)心。
調(diào)用同一個(gè)類下注有@Async異步方法:
在spring中像@Async和@Transactional、cache等注解本質(zhì)使用的是動態(tài)代理,其實(shí)Spring容器在初始化的時(shí)候Spring容器會將含有AOP注解的類對象“替換”為代理對象(簡單這么理解),那么注解失效的原因就很明顯了,就是因?yàn)檎{(diào)用方法的是對象本身而不是代理對象,因?yàn)闆]有經(jīng)過Spring容器,那么解決方法也會沿著這個(gè)思路來解決。
將要異步執(zhí)行的方法單獨(dú)抽取成一個(gè)類,原理就是當(dāng)你把執(zhí)行異步的方法單獨(dú)抽取成一個(gè)類的時(shí)候,這個(gè)類肯定是被Spring管理的,其他Spring組件需要調(diào)用的時(shí)候肯定會注入進(jìn)去,這時(shí)候?qū)嶋H上注入進(jìn)去的就是代理類了。其實(shí)我們的注入對象都是從Spring容器中給當(dāng)前Spring組件進(jìn)行成員變量的賦值,由于某些類使用了AOP注解,那么實(shí)際上在Spring容器中實(shí)際存在的是它的代理對象。那么我們就可以通過上下文獲取自己的代理對象調(diào)用異步方法
@Controller
@RequestMapping("/app")
public class EmailController {
?//獲取ApplicationContext對象方式有多種,這種最簡單,其它的大家自行了解一下
?@Autowired
?private ApplicationContext applicationContext;
??
??@RequestMapping(value = "/email/asyncCall", method = GET)
??@ResponseBody
??public Map<String, Object> asyncCall () {
????Map<String, Object> resMap = new HashMap<String, Object>();
????try{
??//這樣調(diào)用同類下的異步方法是不起作用的
??????//this.testAsyncTask();
??//通過上下文獲取自己的代理對象調(diào)用異步方法
???EmailController emailController = (EmailController)applicationContext.getBean(EmailController.class);
???emailController.testAsyncTask();
??????resMap.put("code",200);
????}catch (Exception e) {
??resMap.put("code",400);
??????logger.error("error!",e);
????}
????return resMap;
??}
?//注意一定是public,且是非static方法
?@Async
??public void testAsyncTask() throws InterruptedException {
????Thread.sleep(10000);
????System.out.println("異步任務(wù)執(zhí)行完成!");
??}
}
開啟cglib代理,手動獲取Spring代理類,從而調(diào)用同類下的異步方法。
首先,在啟動類上加上@EnableAspectJAutoProxy(exposeProxy = true)注解。
代碼實(shí)現(xiàn),如下:
@Service
@Transactional(value = "transactionManager", readOnly = false, propagation = Propagation.REQUIRED, rollbackFor = Throwable.class)
public class EmailService {
??@Autowired
??private ApplicationContext applicationContext;
??@Async
??public void testSyncTask() throws InterruptedException {
????Thread.sleep(10000);
????System.out.println("異步任務(wù)執(zhí)行完成!");
??}
??public void asyncCallTwo() throws InterruptedException {
????//this.testSyncTask();
//??? EmailService emailService = (EmailService)applicationContext.getBean(EmailService.class);
//??? emailService.testSyncTask();
????boolean isAop = AopUtils.isAopProxy(EmailController.class);//是否是代理對象;
????boolean isCglib = AopUtils.isCglibProxy(EmailController.class); //是否是CGLIB方式的代理對象;
????boolean isJdk = AopUtils.isJdkDynamicProxy(EmailController.class); //是否是JDK動態(tài)代理方式的代理對象;
????//以下才是重點(diǎn)!!!
?EmailService emailService = (EmailService)applicationContext.getBean(EmailService.class);
????EmailService proxy = (EmailService) AopContext.currentProxy();
????System.out.println(emailService == proxy ? true : false);
????proxy.testSyncTask();
????System.out.println("end!!!");
??}
}
參考資料:https://www.jb51.net/article/159256.htm
https://www.cnblogs.com/baixianlong/p/10661591.html
https://blog.csdn.net/Dongguabai/article/details/80782081
總結(jié)
以上是生活随笔為你收集整理的API性能优化之异步的全部內(nèi)容,希望文章能夠幫你解決所遇到的問題。
- 上一篇: 「数据库系列杂谈」数据库访问性能优化
- 下一篇: 数据分析入门(第一课)