解密双十一小程序云背后毫秒级伸缩的Serverless计算平台:函数计算
自2017年第一批小程序上線以來,越來越多的移動(dòng)端應(yīng)用以小程序的形式呈現(xiàn)。小程序擁有觸手可及、用完即走的優(yōu)點(diǎn),這大大減少了用戶的使用負(fù)擔(dān),使小程序得到了廣泛的傳播。在阿里小程序也被廣泛地應(yīng)用在淘寶/支付寶/釘釘/高德等平臺(tái)上,例如今年雙11大家在淘寶/天貓上參加的活動(dòng),大部分都是通過小程序提供的。
一個(gè)小程序可以分為客戶端和服務(wù)端:客戶端包括界面的展示和交互邏輯,服務(wù)端則包括數(shù)據(jù)的處理和分析。為了支撐大量的小程序,平臺(tái)在服務(wù)端面臨的挑戰(zhàn)有:
針對(duì)小程序場(chǎng)景,阿里云提供了完整的小程序解決方案:小程序云。資源的有效利用和彈性伸縮,是小程序云提供的核心能力之一,而這背后依托的,就是阿里云函數(shù)計(jì)算服務(wù)。函數(shù)計(jì)算是一個(gè)全托管Serverless計(jì)算服務(wù),讓開發(fā)者無需管理服務(wù)器等基礎(chǔ)設(shè)施,只需編寫和上傳代碼,就能夠構(gòu)建可靠、彈性、安全的服務(wù)。下面就以雙11小程序場(chǎng)景為例,解析函數(shù)計(jì)算在彈性伸縮上的核心技術(shù)。
小程序架構(gòu)
讓我們先來看一下淘寶小程序的技術(shù)架構(gòu)是什么樣的:
用戶的函數(shù)代碼執(zhí)行在小程序云中,用戶可以實(shí)現(xiàn)自定義的業(yè)務(wù)邏輯。利用小程序云提供的豐富的擴(kuò)展能力,用戶可以方便地構(gòu)建完整的電商應(yīng)用
- 數(shù)據(jù)存儲(chǔ):存儲(chǔ)結(jié)構(gòu)化的數(shù)據(jù)
- 文件存儲(chǔ):存儲(chǔ)文本/圖片/視頻等文件
- 電商服務(wù):獲取用戶信息/創(chuàng)建支付交易
- 統(tǒng)計(jì)分析:自動(dòng)統(tǒng)計(jì)小程序的使用信息及用戶分析,支撐商業(yè)決策
可以看到,函數(shù)是整個(gè)小程序的業(yè)務(wù)邏輯的核心,它將云端的基礎(chǔ)能力組合串聯(lián)起來,對(duì)客戶端提供服務(wù)能力。如果函數(shù)能力成為瓶頸,將影響整個(gè)小程序的運(yùn)行。在這樣的架構(gòu)下,要支撐大量的小程序,需要函數(shù)能夠做到一是隨時(shí)在線以支持小程序即開即用,二是彈性伸縮以應(yīng)對(duì)小程序訪問突增。為了做到以上兩點(diǎn),讓我們看一下函數(shù)計(jì)算的技術(shù)架構(gòu):
函數(shù)計(jì)算架構(gòu)
其中幾個(gè)核心組件的功能如下:
基于這個(gè)架構(gòu),函數(shù)計(jì)算是如何解決上面提到的小程序平臺(tái)的挑戰(zhàn)呢?接下來我們逐一分析。
1. 冷啟動(dòng)
當(dāng)用戶創(chuàng)建函數(shù)上傳代碼時(shí),函數(shù)計(jì)算只是將代碼包保存到OSS,并沒有分配計(jì)算資源,因此函數(shù)計(jì)算可以支撐海量的小程序。當(dāng)函數(shù)第一次被調(diào)用時(shí),函數(shù)計(jì)算會(huì)分配計(jì)算資源、下載函數(shù)代碼、加載并執(zhí)行代碼。這一過程稱為冷啟動(dòng),函數(shù)計(jì)算通過大量的優(yōu)化,將系統(tǒng)側(cè)的冷啟動(dòng)時(shí)間優(yōu)化到200ms以內(nèi)。因此即使是冷的小程序,在初次調(diào)用時(shí)也能夠做到快速的即開即用。
2. 彈性伸縮
當(dāng)小程序持續(xù)調(diào)用過程中,負(fù)載逐漸上升或者突然升高的情況下,函數(shù)計(jì)算是如何應(yīng)對(duì)的?函數(shù)計(jì)算的“資源調(diào)度”模塊,會(huì)精確管理每個(gè)實(shí)例的狀態(tài),當(dāng)請(qǐng)求到來時(shí),它首先檢查是否有空閑的實(shí)例可以服務(wù),如果沒有請(qǐng)求就會(huì)進(jìn)入等待隊(duì)列,當(dāng)有空閑的實(shí)例釋放出來時(shí),請(qǐng)求就能夠被及時(shí)處理。同時(shí),調(diào)度器還會(huì)在后臺(tái)創(chuàng)建新的實(shí)例,當(dāng)新的實(shí)例準(zhǔn)備好后,也能夠服務(wù)請(qǐng)求。在這種策略下,能夠做到在負(fù)載以2倍的速度增長情況下,請(qǐng)求的P95延時(shí)是穩(wěn)定的。優(yōu)化細(xì)節(jié)可以參考我們?cè)谠茥鐓^(qū)的文章。
上面是某個(gè)淘寶小程序的調(diào)用量和延時(shí)監(jiān)控?cái)?shù)據(jù)。可以看到,在整點(diǎn)活動(dòng)時(shí),TPS出現(xiàn)了瞬間的高峰,但是P95延時(shí)卻沒有明顯的波動(dòng)。這是因?yàn)楹瘮?shù)計(jì)算在請(qǐng)求高峰來臨時(shí),能夠快速地彈性伸縮創(chuàng)建新的實(shí)例,同時(shí)利用已有資源做一定的緩沖,使得整個(gè)攀升的過程能夠比較平滑。
3. 預(yù)留實(shí)例
對(duì)于一些“秒殺”的場(chǎng)景,要求瞬間提供大量的計(jì)算資源。此時(shí)靠實(shí)時(shí)的彈性伸縮是不夠的:一是冷啟動(dòng)的時(shí)間即使是200ms,對(duì)于秒殺場(chǎng)景也太慢了;二是底層的計(jì)算資源在擴(kuò)容時(shí)也會(huì)有流控。針對(duì)這種場(chǎng)景,函數(shù)計(jì)算提供了預(yù)留實(shí)例的功能。使用預(yù)留實(shí)例,用戶可以為一些可預(yù)測(cè)的活動(dòng)提前預(yù)留好資源,徹底消除冷啟動(dòng)。
和傳統(tǒng)的基于服務(wù)器的做法不同,用戶不需要按峰值來預(yù)留資源,而是可以結(jié)合預(yù)留實(shí)例和按量實(shí)例的混合模式:請(qǐng)求先被預(yù)留實(shí)例處理,當(dāng)預(yù)留實(shí)例用滿時(shí),會(huì)自動(dòng)彈性伸縮出更多的按量實(shí)例來處理請(qǐng)求。由于有一定的資源基礎(chǔ),結(jié)合調(diào)度優(yōu)化,按量實(shí)例的冷啟動(dòng)所產(chǎn)生的影響就被大大減小了。這就是利用函數(shù)計(jì)算的彈性伸縮能力,在性能和成本之間達(dá)到很好的平衡。
總結(jié)
小程序是輕量級(jí)的快速迭代的移動(dòng)應(yīng)用,對(duì)小程序開發(fā)者的開發(fā)效率有很高的要求。小程序上線后隨著訪問量的增加或者活動(dòng)期間的訪問突增,對(duì)后端服務(wù)的穩(wěn)定和彈性也是一個(gè)很大的考驗(yàn)。函數(shù)計(jì)算上傳代碼即可運(yùn)行,極大地提高了后端服務(wù)的開發(fā)效率;混合模式的彈性伸縮,輕松應(yīng)對(duì)負(fù)載變化。這些特點(diǎn)使得函數(shù)計(jì)算成為支撐小程序平臺(tái)的最佳選擇。
原文鏈接
本文為云棲社區(qū)原創(chuàng)內(nèi)容,未經(jīng)允許不得轉(zhuǎn)載。
總結(jié)
以上是生活随笔為你收集整理的解密双十一小程序云背后毫秒级伸缩的Serverless计算平台:函数计算的全部內(nèi)容,希望文章能夠幫你解決所遇到的問題。
- 上一篇: MySQL8.0.17 - 初探 Clo
- 下一篇: 重磅开源|AOP for Flutter