API性能优化之异步
? ? ?很多時(shí)候?yàn)榱诉_(dá)到SLA承諾(Service-Level Agreement)即為“服務(wù)水平承諾,我們需要拼命的優(yōu)化我們的api的性能,其中最有效的便是異步了
異步和同步:
定義:同步和異步關(guān)注的是消息通信機(jī)制?(synchronous communication/ asynchronous communication)。
同步:一件事當(dāng)成一件事做,順序執(zhí)行;
異步:一件事當(dāng)作多件事做,可以并行執(zhí)行,或者干脆全部交給另一個(gè)人做,自己只負(fù)責(zé)告訴那個(gè)人一聲。
異步請(qǐng)求和同步請(qǐng)求:
同步請(qǐng)求:提交請(qǐng)求->等待服務(wù)器處理->處理完畢返回這個(gè)期間客戶(hù)端瀏覽器不能干任何事
異步請(qǐng)求: 請(qǐng)求通過(guò)事件觸發(fā)->服務(wù)器處理(這是瀏覽器仍然可以作其他事情)->處理完畢
可以先釋放容器分配給請(qǐng)求的線(xiàn)程與相關(guān)資源,減輕系統(tǒng)負(fù)擔(dān),釋放了容器所分配線(xiàn)程的請(qǐng)求,其響應(yīng)將被延后,可以在耗時(shí)處理完成(例如長(zhǎng)時(shí)間的運(yùn)算)時(shí)再對(duì)客戶(hù)端進(jìn)行響應(yīng)。一句話(huà):增加了服務(wù)器對(duì)客戶(hù)端請(qǐng)求的吞吐量(實(shí)際生產(chǎn)上我們用的比較少,如果并發(fā)請(qǐng)求量很大的情況下,我們會(huì)通過(guò)nginx把請(qǐng)求負(fù)載到集群服務(wù)的各個(gè)節(jié)點(diǎn)上來(lái)分?jǐn)傉?qǐng)求壓力,當(dāng)然還可以通過(guò)消息隊(duì)列來(lái)做請(qǐng)求的緩沖)。
異步調(diào)用:
異步請(qǐng)求的處理。除了異步請(qǐng)求,一般上我們用的比較多的應(yīng)該是異步調(diào)用。通常在開(kāi)發(fā)過(guò)程中,會(huì)遇到一個(gè)方法是和實(shí)際業(yè)務(wù)無(wú)關(guān)的,沒(méi)有緊密性的。比如記錄日志信息等業(yè)務(wù)。這個(gè)時(shí)候正常就是啟一個(gè)新線(xiàn)程去做一些業(yè)務(wù)處理,讓主線(xiàn)程異步的執(zhí)行其他業(yè)務(wù)。異步調(diào)用對(duì)于api調(diào)用的性能提升是十分顯著的,但是有一個(gè)缺陷,沒(méi)辦法等待api返回的數(shù)據(jù),所以只能針對(duì)那些在后臺(tái)運(yùn)行而不十分不要返回值的數(shù)據(jù),或者在異步方法中再調(diào)用一個(gè)方法去主動(dòng)往客戶(hù)端推送數(shù)據(jù)。
SpringBoot中異步調(diào)用的使用
- 需要在啟動(dòng)類(lèi)加入@EnableAsync使異步調(diào)用@Async注解生效
? ?在需要異步執(zhí)行的方法上加入此注解即可@Async
測(cè)試:
可以看出,調(diào)用異步方法時(shí),是立即返回的,基本沒(méi)有耗時(shí)。
注意事項(xiàng)
- 在默認(rèn)情況下,未設(shè)置TaskExecutor時(shí),默認(rèn)是使用SimpleAsyncTaskExecutor這個(gè)線(xiàn)程池,但此線(xiàn)程不是真正意義上的線(xiàn)程池,因?yàn)榫€(xiàn)程不重用,每次調(diào)用都會(huì)創(chuàng)建一個(gè)新的線(xiàn)程。可通過(guò)控制臺(tái)日志輸出可以看出,每次輸出線(xiàn)程名都是遞增的。所以最好我們來(lái)自定義一個(gè)線(xiàn)程池。
自定義線(xiàn)程池
創(chuàng)建一個(gè)自定義的ThreadPoolTaskExecutor線(xiàn)程池:
此時(shí),使用的是就只需要在@Async加入線(xiàn)程池名稱(chēng)即可:
- 調(diào)用的異步方法,不能為同一個(gè)類(lèi)的方法(包括同一個(gè)類(lèi)的內(nèi)部類(lèi)),簡(jiǎn)單來(lái)說(shuō),因?yàn)镾pring在啟動(dòng)掃描時(shí)會(huì)為其創(chuàng)建一個(gè)代理類(lèi),而同類(lèi)調(diào)用時(shí),還是調(diào)用本身的代理類(lèi)的,所以和平常調(diào)用是一樣的。其他的注解如@Cache等也是一樣的道理,說(shuō)白了,就是Spring的代理機(jī)制造成的。所以在開(kāi)發(fā)中,最好把異步服務(wù)單獨(dú)抽出一個(gè)類(lèi)來(lái)管理。下面會(huì)重點(diǎn)講述。
@Async異步失效
異步請(qǐng)求與異步調(diào)用的區(qū)別
- 兩者的使用場(chǎng)景不同,異步請(qǐng)求用來(lái)解決并發(fā)請(qǐng)求對(duì)服務(wù)器造成的壓力,從而提高對(duì)請(qǐng)求的吞吐量;而異步調(diào)用是用來(lái)做一些非主線(xiàn)流程且不需要實(shí)時(shí)計(jì)算和響應(yīng)的任務(wù),比如同步日志到kafka中做日志分析等。
- 異步請(qǐng)求是會(huì)一直等待response相應(yīng)的,需要返回結(jié)果給客戶(hù)端的;而異步調(diào)用我們往往會(huì)馬上返回給客戶(hù)端響應(yīng),完成這次整個(gè)的請(qǐng)求,至于異步調(diào)用的任務(wù)后臺(tái)自己慢慢跑就行,客戶(hù)端不會(huì)關(guān)心。
調(diào)用同一個(gè)類(lèi)下注有@Async異步方法:
在spring中像@Async和@Transactional、cache等注解本質(zhì)使用的是動(dòng)態(tài)代理,其實(shí)Spring容器在初始化的時(shí)候Spring容器會(huì)將含有AOP注解的類(lèi)對(duì)象“替換”為代理對(duì)象(簡(jiǎn)單這么理解),那么注解失效的原因就很明顯了,就是因?yàn)檎{(diào)用方法的是對(duì)象本身而不是代理對(duì)象,因?yàn)闆](méi)有經(jīng)過(guò)Spring容器,那么解決方法也會(huì)沿著這個(gè)思路來(lái)解決。
將要異步執(zhí)行的方法單獨(dú)抽取成一個(gè)類(lèi),原理就是當(dāng)你把執(zhí)行異步的方法單獨(dú)抽取成一個(gè)類(lèi)的時(shí)候,這個(gè)類(lèi)肯定是被Spring管理的,其他Spring組件需要調(diào)用的時(shí)候肯定會(huì)注入進(jìn)去,這時(shí)候?qū)嶋H上注入進(jìn)去的就是代理類(lèi)了。其實(shí)我們的注入對(duì)象都是從Spring容器中給當(dāng)前Spring組件進(jìn)行成員變量的賦值,由于某些類(lèi)使用了AOP注解,那么實(shí)際上在Spring容器中實(shí)際存在的是它的代理對(duì)象。那么我們就可以通過(guò)上下文獲取自己的代理對(duì)象調(diào)用異步方法
@Controller
@RequestMapping("/app")
public class EmailController {
?//獲取ApplicationContext對(duì)象方式有多種,這種最簡(jiǎn)單,其它的大家自行了解一下
?@Autowired
?private ApplicationContext applicationContext;
??
??@RequestMapping(value = "/email/asyncCall", method = GET)
??@ResponseBody
??public Map<String, Object> asyncCall () {
????Map<String, Object> resMap = new HashMap<String, Object>();
????try{
??//這樣調(diào)用同類(lèi)下的異步方法是不起作用的
??????//this.testAsyncTask();
??//通過(guò)上下文獲取自己的代理對(duì)象調(diào)用異步方法
???EmailController emailController = (EmailController)applicationContext.getBean(EmailController.class);
???emailController.testAsyncTask();
??????resMap.put("code",200);
????}catch (Exception e) {
??resMap.put("code",400);
??????logger.error("error!",e);
????}
????return resMap;
??}
?//注意一定是public,且是非static方法
?@Async
??public void testAsyncTask() throws InterruptedException {
????Thread.sleep(10000);
????System.out.println("異步任務(wù)執(zhí)行完成!");
??}
}
開(kāi)啟cglib代理,手動(dòng)獲取Spring代理類(lèi),從而調(diào)用同類(lèi)下的異步方法。
首先,在啟動(dòng)類(lèi)上加上@EnableAspectJAutoProxy(exposeProxy = true)注解。
代碼實(shí)現(xiàn),如下:
@Service
@Transactional(value = "transactionManager", readOnly = false, propagation = Propagation.REQUIRED, rollbackFor = Throwable.class)
public class EmailService {
??@Autowired
??private ApplicationContext applicationContext;
??@Async
??public void testSyncTask() throws InterruptedException {
????Thread.sleep(10000);
????System.out.println("異步任務(wù)執(zhí)行完成!");
??}
??public void asyncCallTwo() throws InterruptedException {
????//this.testSyncTask();
//??? EmailService emailService = (EmailService)applicationContext.getBean(EmailService.class);
//??? emailService.testSyncTask();
????boolean isAop = AopUtils.isAopProxy(EmailController.class);//是否是代理對(duì)象;
????boolean isCglib = AopUtils.isCglibProxy(EmailController.class); //是否是CGLIB方式的代理對(duì)象;
????boolean isJdk = AopUtils.isJdkDynamicProxy(EmailController.class); //是否是JDK動(dòng)態(tài)代理方式的代理對(duì)象;
????//以下才是重點(diǎn)!!!
?EmailService emailService = (EmailService)applicationContext.getBean(EmailService.class);
????EmailService proxy = (EmailService) AopContext.currentProxy();
????System.out.println(emailService == proxy ? true : false);
????proxy.testSyncTask();
????System.out.println("end!!!");
??}
}
參考資料:https://www.jb51.net/article/159256.htm
https://www.cnblogs.com/baixianlong/p/10661591.html
https://blog.csdn.net/Dongguabai/article/details/80782081
總結(jié)
以上是生活随笔為你收集整理的API性能优化之异步的全部?jī)?nèi)容,希望文章能夠幫你解決所遇到的問(wèn)題。
- 上一篇: 「数据库系列杂谈」数据库访问性能优化
- 下一篇: 数据分析入门(第一课)