作者：元毅、如葑

Kubernetes 作為當今云原生業(yè)界標準，被眾多開發(fā)者所擁抱。Serverless Kubernetes 基于 Kubernetes 之上，提供按需使用、節(jié)點免運維的 Serverless 能力。當前 Serverless Kubernetes 中默認提供 Nginx Ingress Controller 已不能滿足按需使用、免運維的訴求，Serverless Kubernetes 與 ALB 結(jié)合提供按需使用、免運維的云產(chǎn)品網(wǎng)關(guān)能力，同時在微服務(wù)場景下提供 MSE 云原生網(wǎng)關(guān)能力支持。這里給大家介紹一下如何在 Serverless Kubernetes 中提供網(wǎng)關(guān)能力增強。

背景

Serverless Kubernetes (ASK)

ASK 集群是阿里云推出的無服務(wù)器 Kubernetes 容器服務(wù)。您無需購買節(jié)點即可直接部署容器應(yīng)用，無需對集群進行節(jié)點維護和容量規(guī)劃，并且根據(jù)應(yīng)用配置的 CPU 和內(nèi)存資源量進行按需付費。ASK 集群提供完善的 Kubernetes 兼容能力，同時降低了 Kubernetes 使用門檻，讓您更專注于應(yīng)用程序，而不是管理底層基礎(chǔ)設(shè)施。

在 Kubernetes 上實現(xiàn) Serverless 主要做到以下兩點：

第一：線上如何更聚焦業(yè)務(wù)應(yīng)用。

這里我們通過 Knative ，聚焦業(yè)務(wù)應(yīng)用，進一步抽象 Kubernetes 資源，提供按需使用自動彈性的能力。Knative 是基于 Kubernetes 之上提供的一款開源 Serverless 應(yīng)用框架，幫助您部署和管理現(xiàn)代化的 Serverless 工作負載，打造企業(yè)級 Serverless 平臺。

Knative 主要包括 2 大核心模塊：Serving 和 Eventing

? Serving 提供了 Service 應(yīng)用模型，支持基于流量的灰度發(fā)布、版本管理、縮容到 0 以及自動彈性。
? Eventing 提供事件驅(qū)動能力。支持豐富的事件源，以及用于事件流轉(zhuǎn)、過濾的 Broker/Trigger 模型。

第二：向下如何讓用戶減少對基礎(chǔ)設(shè)施的關(guān)注

通過 IaaS 資源免運維，減少對基礎(chǔ)設(shè)施的關(guān)注，做到節(jié)點免運維。在 Serverless Kubernetes 中通過虛擬節(jié)點結(jié)合彈性容器實例 ECI，讓用戶徹底擺脫對 IaaS 的運維。

使用默認網(wǎng)關(guān)遇到的痛點

聊完了什么是 Serverless Kubernetes, 我們接著說當前在 ASK 中使用默認網(wǎng)關(guān)遇到哪些問題。當前在 ASK 中默認使用 Nginx Ingress, 但是用戶需要面對如下問題：

? 自有組件，維護升級
? 手動配置彈性策略
? 手動性能調(diào)優(yōu)

顯然滿足不了 Serverless 按需使用、節(jié)點免運維的訴求。那么接下來我們講一下如何在Serverless Kubernetes 進行網(wǎng)關(guān)增強。

Knative 與 ALB

ALB

應(yīng)用型負載均衡 ALB（Application Load Balancer）是阿里云推出的專門面向 HTTP、HTTPS 和 QUIC 等應(yīng)用層負載場景的負載均衡服務(wù)，具備超強彈性及大規(guī)模應(yīng)用層流量處理能力。ALB 具備處理復雜業(yè)務(wù)路由的能力，與云原生相關(guān)服務(wù)深度集成，提供的云原生 Ingress 網(wǎng)關(guān)。

應(yīng)用型負載均衡 ALB 具有即開即用，超大性能，穩(wěn)定可靠，彈性伸縮，按需付費等特點，更加適合 7 層應(yīng)用交付場景。

應(yīng)用型負載均衡 ALB 面向 7 層，支持 HTTP/HTTPS/HTTP2/WSS/QUIC/GRPC 等眾多協(xié)議，單實例可支持高達 100 萬 QPS，業(yè)界性能遙遙領(lǐng)先。

產(chǎn)品優(yōu)勢
相較于傳統(tǒng)負載均衡（原 SLB），ALB 在產(chǎn)品定位、性能、功能特性、運維以及云原生支持方面具備如下優(yōu)勢：

彈性增強

ALB 從 0 升級到 100 萬 QPS，平滑無感，無需額外操作，且完全按量付費。

性能增強
如何做到比 SLB 更強的性能，主要源于多級負載、多級調(diào)度：
?提供域名，單實例支持多達 99 個 VIP，多級流量調(diào)度。
?根據(jù)流量的增長在 AZ 間智能化擴縮，用戶無需感知。
?流量在所有 AZ 所有 RS 上均勻、打散調(diào)度，防止雪崩效應(yīng)。

運維增強
? 基于海量大數(shù)據(jù)計算能力打造的實時訪問日志中心
? 高精度實時流量秒級監(jiān)控。陡增陡降，尖峰突刺一覽無余。
? 實例配置管理。向 git 一樣管理配置并可一鍵回滾。

ALB Ingress Controller

顯示結(jié)合 ALB 自身產(chǎn)品優(yōu)勢，我們?nèi)绾闻c Kubernetes 結(jié)合使用呢？這里我們提供 cloud provider：ALB Ingress Controller。通過 Kubernetes Ingress 直接創(chuàng)建 ALB 實例與規(guī)則。實現(xiàn) Kubernetes 與 ALB 的集成。

ALB Ingress Controller 通過 API Server 獲取 Ingress 資源的變化，動態(tài)地生成 AlbConfig，然后依次創(chuàng)建 ALB 實例、監(jiān)聽、路由轉(zhuǎn)發(fā)規(guī)則以及后端服務(wù)器組。Kubernetes 中 Service、Ingress 與 AlbConfig 有著以下關(guān)系：

? Service 是后端真實服務(wù)的抽象，一個 Service 可以代表多個相同的后端服務(wù)。

? Ingress 是反向代理規(guī)則，用來規(guī)定 HTTP/HTTPS 請求應(yīng)該被轉(zhuǎn)發(fā)到哪個 Service 上。例如：根據(jù)請求中不同的 Host 和 URL 路徑，讓請求轉(zhuǎn)發(fā)到不同的 Service 上。

? AlbConfig 是在 ALB Ingress Controller 提供的 CRD 資源，使用 AlbConfig CRD 來配置 ALB 實例和監(jiān)聽。一個 AlbConfig 對應(yīng)一個 ALB 實例。

?豐富的轉(zhuǎn)發(fā)特性

基于 Header、Cookie 轉(zhuǎn)發(fā)。

域名 URL 轉(zhuǎn)發(fā)：支持根據(jù)不同的域名和 URL 進行流量調(diào)度，提升應(yīng)用系統(tǒng)靈活性。

?高彈性大吞吐

性能保障型實例：推出性能保障型實例，實現(xiàn)不同實例間的性能隔離，提供相應(yīng)規(guī)格下的性能保障。

超大性能規(guī)格：針對高性能需求，提供超大規(guī)格的負載均衡實例，解決性能瓶頸問題。

?面向云原生應(yīng)用

基于原生 Kubernetes Ingress

天然支持阿里云容器服務(wù) Kubernetes 產(chǎn)品

兼容 Nginx Ingress 語義

?更安全可靠

ALB 自帶 DDoS 防護，可一鍵集成 Web 應(yīng)用防火墻。

集成 WAF 防護能力

支持持全鏈路 HTTPS 加密，支持 TLS 1.3 等高效安全的加密協(xié)議。

ALB Ingress Controller 架構(gòu)

ALB Ingress Controller 架構(gòu)如下：

實例級別配置
?自定義 CR：ALBConfig

并發(fā)控制
?同一個 Lb 串行變配，不同 Lb 并行變配。
?同一個 RsPool 串行變配，不同 RsPool 并行變配。
?Lb 變配和 Rs 變配相互獨立

限速控制
?Controller 同時處理的 Lb 變配和 Rs 變配分別可配置
?Controller 每秒處理的 Lb 變配和 Rs 變配分別可配置
?當 Lb 變配或 Rs 變配失敗，重新 Reconcile 的時間控制、重試次數(shù)、重試間隔分別可以配置。

Knative 流量管理

那么有了這個橋梁，我們可以很方便的將 ALB 作為 Knative 網(wǎng)關(guān)使用，這里我們先介紹一下 Knative 的流量管理。

Knative 提供了強大的流量管理能力，包括：基于流量的灰度發(fā)布、基于流量的自動彈性以及請求事件驅(qū)動的能力。

Knative 結(jié)合 ALB 的實現(xiàn)

接下來我們看一下 Knative 結(jié)合 ALB 的實現(xiàn)。這里關(guān)鍵設(shè)計：將 Knative Ingress 轉(zhuǎn)換成 Kubernetes Ingress， 然后通過 ALB Ingress Controller 創(chuàng)建 ALB 以及轉(zhuǎn)發(fā)規(guī)則。

Knative 與 ALB 結(jié)合優(yōu)勢

那么 Knative 與 ALB 結(jié)合給我們帶來了哪些呢？

? 網(wǎng)關(guān)全托管、免運維
? 基于流量彈性
? Header/Cookie/權(quán)重灰度發(fā)布
? 自動證書發(fā)現(xiàn)

MSE 云原生網(wǎng)關(guān)

在虛擬化的微服務(wù)架構(gòu)下，業(yè)務(wù)通常采用流量網(wǎng)關(guān) + 微服務(wù)網(wǎng)關(guān)的兩層架構(gòu)，流量網(wǎng)關(guān)負責南北向流量調(diào)度和安全防護，微服務(wù)網(wǎng)關(guān)負責東西向流量調(diào)度和服務(wù)治理，而在容器和 Kubernetes 主導的云原生時代，Ingress 成為 Kubernetes 生態(tài)的網(wǎng)關(guān)標準，賦予了網(wǎng)關(guān)新的使命，使得流量網(wǎng)關(guān) + 微服務(wù)網(wǎng)關(guān)合二為一成為可能。MSE 云原生網(wǎng)關(guān)是兼容 Kubernetes Ingress 標準的下一代網(wǎng)關(guān)，將傳統(tǒng)的流量網(wǎng)關(guān)和微服務(wù)網(wǎng)關(guān)合并，降低 50%資源成本。

MSE 云原生網(wǎng)關(guān) - 與 ASK 集成支持微服務(wù)能力

云原生網(wǎng)關(guān)默認集成了容器服務(wù) ASK，支持一鍵導入 Kubernetes 服務(wù)且自動同步 Endpoint；且自研 Multi-Ingress Controller 組件支持多 ASK 集群復用同一個網(wǎng)關(guān)實例，支持 Nginx Ingress 核心功能注解的無縫轉(zhuǎn)換。這里只做簡單的介紹，更多 MSE 云原生網(wǎng)關(guān)內(nèi)容，可以關(guān)注后續(xù)的專門介紹。

使用場景

Serverless Kubernetes 目前支持的場景包括高彈性互聯(lián)網(wǎng)場景、視音頻行業(yè)低延遲場景、面向云原生應(yīng)用場景等按需使用場景。結(jié)合 ALB 網(wǎng)關(guān)，可以實現(xiàn)新功能上線灰度發(fā)布，業(yè)務(wù)流量仿真，結(jié)合 MSE 云原生網(wǎng)關(guān)，可以在微服務(wù)架構(gòu)最后實現(xiàn)快速服務(wù)發(fā)現(xiàn)。

小結(jié)

Severless Kubernetes 網(wǎng)關(guān)增強:
?Knative 與 ALB 集成，提供更應(yīng)用感知 Serverless。
?支持 MSE 云原生網(wǎng)關(guān)，提供微服務(wù)場景能力。

聯(lián)系我們

歡迎加入以下釘釘群，有興趣的可以多多交流：

總結(jié)

以上是生活随笔為你收集整理的Serverless Kubernetes 再升级 | 全新的网关能力增强的全部內(nèi)容，希望文章能夠幫你解決所遇到的問題。

如果覺得生活随笔網(wǎng)站內(nèi)容還不錯，歡迎將生活随笔推薦給好友。