《螞蟻金服 Service Mesh 大規(guī)模落地系列》將會從核心、RPC、消息、無線網(wǎng)關(guān)、控制面、安全、運維、測試等模塊對 Service Mesh 雙十一大規(guī)模落地實踐進行詳細解析，文末包含往期系列文章。本文為該系列文章的第三篇 - 運維篇。

引言

Service Mesh 是螞蟻金服下一代架構(gòu)的核心，也是螞蟻金服內(nèi)部向云原生演進的重要一環(huán)。本文為 Service Mesh 系列文章的運維篇，作者：黃家琦 （花名：嘉祁），螞蟻金服運維專家，Service Mesh SRE，主要關(guān)注云原生基礎(chǔ)設(shè)施、中間件及 Service Mesh 的穩(wěn)定性，同時也是 Pythoner，sofa-bolt-python 作者。

本文將主要分享大規(guī)模服務(wù)網(wǎng)格在螞蟻金服當(dāng)前體量下落地到支撐螞蟻金服雙十一大促過程中，運維角度所面臨的挑戰(zhàn)與演進，包括云原生化的選擇與問題，對資源模型的挑戰(zhàn)，大規(guī)模下運維設(shè)施的演進，以及周邊技術(shù)風(fēng)險能力的建設(shè)。

Service Mesh 在2019年得到了大規(guī)模的應(yīng)用與落地，截止目前，螞蟻金服的 Service Mesh 數(shù)據(jù)平面 MOSN 已接入應(yīng)用數(shù)百個，接入容器數(shù)量達數(shù)十萬，是目前已知的全世界最大的 Service Mesh 集群。同時，在剛剛結(jié)束的雙十一大促中，Service Mesh 的表現(xiàn)也十分亮眼，RPC 峰值 QPS 達到了幾千萬，消息峰值 TPS 達到了幾百萬，且引入 Service Mesh 后的平均 RT 增長幅度控制在 0.2 ms 以內(nèi)。

擁抱云原生

Service Mesh 在軟件形態(tài)上，是將中間件的能力從框架中剝離成獨立軟件。而在具體部署上，保守的做法是以獨立進程的方式與業(yè)務(wù)進程共同存在于業(yè)務(wù)容器內(nèi)。我們在螞蟻金服內(nèi)部的做法，則從開始，就選擇了擁抱云原生。

Sidecar 模式

業(yè)務(wù)容器內(nèi)獨立進程的好處在于與傳統(tǒng)的部署模式兼容，易于快速上線；但獨立進程強侵入業(yè)務(wù)容器，對于鏡像化的容器更難于管理。而云原生化，則可以將 Service Mesh 本身的運維與業(yè)務(wù)容器解耦開來，實現(xiàn)中間件運維能力的下沉。在業(yè)務(wù)鏡像內(nèi)，僅僅保留長期穩(wěn)定的 Service Mesh 相關(guān) JVM 參數(shù)，從而僅通過少量環(huán)境變量完成與 Service Mesh 的聯(lián)結(jié)。同時考慮到面向容器的運維模式的演進，接入 Service Mesh 還同時要求業(yè)務(wù)完成鏡像化，為進一步的云原生演進打下基礎(chǔ)。

	優(yōu)	劣
獨立進程	兼容傳統(tǒng)的部署模式 改造成本低 快速上線	侵入業(yè)務(wù)容器 鏡像化難于運維
Sidecar	面向終態(tài) 運維解耦	依賴 K8s?基礎(chǔ)設(shè)施 運維環(huán)境改造成本高 應(yīng)用需要鏡像化改造

在接入 Service Mesh 之后，一個典型的 POD 結(jié)構(gòu)可能包含多個 Sidecar：

• MOSN：RPC Mesh, MSG Mesh, ...（擴展中）；

• 其它 Sidecar；

MOSN：https://github.com/sofastack/sofa-mosn

這些 Sidecar 容器，與業(yè)務(wù)容器共享相同的網(wǎng)絡(luò) Namespace，使得業(yè)務(wù)進程可以以本地端口訪問 Service Mesh 提供的服務(wù)，保證了與保守做法一致的體驗。

基礎(chǔ)設(shè)施云原生支撐

我們也在基礎(chǔ)設(shè)施層面同步推進了面向云原生的改造，以支撐 Service Mesh 的落地。

業(yè)務(wù)全面鏡像化

首先是在螞蟻金服內(nèi)部推進了全面的鏡像化，我們完成了內(nèi)部核心應(yīng)用的全量容器的鏡像化改造。改造點包括：

• 基礎(chǔ)鏡像層面增加對于 Service Mesh 的環(huán)境變量支撐；

• 應(yīng)用 Dockerfile 對于 Service Mesh 的適配；

• 推進解決了存量前后端分離管理的靜態(tài)文件的鏡像化改造；

• 推進了大量使用前端區(qū)塊分發(fā)的應(yīng)用進行了推改拉的改造；

• 大批量的 VM 模式的容器升級與替換；

容器 POD 化

除了業(yè)務(wù)鏡像層面的改造，Sidecar 模式還需要業(yè)務(wù)容器全部跑在 POD 上，來適應(yīng)多容器共享網(wǎng)絡(luò)。由于直接升級的開發(fā)和試錯成本很高，我們最終選擇將接入 Service Mesh 的 數(shù)百個應(yīng)用的數(shù)萬個非 K8s 容器，通過大規(guī)模擴縮容的方式，全部更換成了 K8s PODs。

經(jīng)過這兩輪改造，我們在基礎(chǔ)設(shè)施層面同步完成了面向云原生的改造。

資源的演進

Sidecar 模式的帶來一個重要的問題，如何分配資源。

理想比例的假設(shè)

最初的資源設(shè)計基于內(nèi)存無法超賣的現(xiàn)實。我們做了一個假設(shè)：

• MOSN 的基本資源占用與業(yè)務(wù)選擇的規(guī)格同比例這一假設(shè)。

CPU 和 Memory 申請與業(yè)務(wù)容器相應(yīng)比例的額外資源。這一比例最后設(shè)定在了 CPU 1/4，Memory 1/16。

此時一個典型 Pod 的資源分配如下圖示：

這一方式帶來了兩個問題：

• 螞蟻金服已經(jīng)實現(xiàn)了業(yè)務(wù)資源的 Quota 管控，但 Sidecar 并不在業(yè)務(wù)容器內(nèi)，Service Mesh 容器成為了一個資源泄漏點；

• 業(yè)務(wù)很多樣，部分高流量應(yīng)用的 Service Mesh 容器出現(xiàn)了嚴(yán)重的內(nèi)存不足和 OOM 情況；

完美分割的不完美

不止于此，為了快速支撐 Service Mesh 在非云環(huán)境的鋪開，上線了原地接入 Service Mesh。而原地接入 Service Mesh 的資源無法額外分配，在內(nèi)存不能超賣的情況下，采取了二次分割的分配方式。此時的 POD 內(nèi)存資源被切分為1/16內(nèi)存給 Sidecar，與15/16給業(yè)務(wù)容器。除了以上兩個問題，還帶來一些新的問題：

• 業(yè)務(wù)可見內(nèi)存不一致，業(yè)務(wù)監(jiān)控偏差，業(yè)務(wù)進程 OOM 風(fēng)險。

討論之后，我們追加了一個假設(shè)：

• Service Mesh 容器占用的資源實質(zhì)是在接入 Service Mesh 之前業(yè)務(wù)已使用的資源。接入 Service Mesh 的過程，同時也是一次資源置換。

共享

基于這個假設(shè)，推進了調(diào)度層面支持 POD 內(nèi)的資源超賣，新的資源分配方案如下圖，Service Mesh 容器的 CPU、MEM 都從 POD 中超賣出來，業(yè)務(wù)容器內(nèi)仍然可以看到全部的資源。

考慮到內(nèi)存超賣也引入了 POD OOM 的風(fēng)險，因此對于 Sidecar 容器還調(diào)整了 OOM Score，保證在內(nèi)存不足時，Service Mesh 進程能夠發(fā)揮啟動比 Java 業(yè)務(wù)進程更快的優(yōu)勢，降低影響。

新的分配方案解決了同時解決了以上兩個問題，并且平穩(wěn)支持了大促前的多輪壓測。

重建

但新的分配方案上線時，Service Mesh 已經(jīng)在彈性建站時同步上線。同時我們還發(fā)現(xiàn)在一些場景下，Service Mesh 容器無法搶占到 CPU 資源，導(dǎo)致業(yè)務(wù) RT 出現(xiàn)了大幅抖動，原因是在 CPU Share 模式下，POD 內(nèi)默認(rèn)并沒有等額的分配 CPU Quota 給 Sidecar。

于是還有兩個問題待解決：

• 存量的已分配 Sidecar 仍有 OOM 風(fēng)險；

• Sidecar 無法搶占到 CPU；

我們已經(jīng)無法承受更換全部 POD 的代價。最終在調(diào)度的支持下，通過對 Pod Annotation 的手動重新計算+修改，在 POD 內(nèi)進行了全部資源的重分配，來修復(fù)這兩個風(fēng)險。最終的修復(fù)容器總數(shù)約 25w 個。

變更與規(guī)模化下的運維挑戰(zhàn)

Service Mesh 的變更包括了接入與升級，所有變更底層都是由 Operator 組件來接受上層寫入到 POD annotation 上的標(biāo)識，對相應(yīng) POD Spec 進行修改來完成，這是典型的云原生的方式。由于螞蟻金服的資源現(xiàn)狀與運維需要，又發(fā)展出了原地接入與平滑升級。與 Operator 有關(guān)的具體細節(jié)在 Operator 篇中會詳細介紹，請持續(xù)關(guān)注本公眾號。

接入

最初的 Service Mesh 接入只提供了創(chuàng)建時注入 Sidecar。之后引入原地接入的原因，是為了支撐大規(guī)模的快速接入與回滾。

• 創(chuàng)建接入：

• • 資源替換過程需要大量 Buffer；

  • 回滾困難；

• 原地接入：

• • 不需要重新分配資源；

  • 可原地回滾；

原地接入/回滾需要對 POD Spec 進行精細化的修改，實踐中發(fā)現(xiàn)了很多問題，當(dāng)前能力只做了小范圍的測試。

升級

Service Mesh 是深度參與業(yè)務(wù)流量的，因此最初的 Sidecar 的升級方式也需要業(yè)務(wù)伴隨重啟。看似簡單的這個過程中，我們也遇到了一個嚴(yán)重問題：

• Pod 內(nèi)的容器啟動順序隨機導(dǎo)致業(yè)務(wù)無法啟動。

這個問題最終依賴于調(diào)度層修改了啟動邏輯，POD 內(nèi)需要優(yōu)先等待所有 Sidecar 啟動完成，于是帶來第二個問題：

• Sidecar 啟動慢了，上層超時。

此問題仍在解決中。

Sidecar 中，MOSN 提供了更為靈活的平滑升級機制：由 Operator 控制啟動第二個 MOSN Sidecar，完成連接遷移，再退出舊的 Sidecar。小規(guī)模測試顯示，整個過程業(yè)務(wù)可以做到流量不中斷，幾近無感。目前平滑升級同樣涉及到 POD Spec 的大量操作，考慮到大促前的穩(wěn)定性，目前此方式未做大規(guī)模使用。

規(guī)模化的問題

在逐漸達到大促狀態(tài)的過程中，接入 Service Mesh 的容器數(shù)量開始大爆炸式增加。容器數(shù)量從千級別迅速膨脹到10w+，最終達到全站數(shù)十萬容器規(guī)模，并在膨脹后還經(jīng)歷了數(shù)次版本變更。

快速奔跑的同時，缺少相應(yīng)的平臺能力也給大規(guī)模的 Sidecar 運維帶來了極大挑戰(zhàn)：

• 版本管理混亂：

• • Sidecar 的版本與應(yīng)用/ Zone 的映射關(guān)系維護在內(nèi)部元數(shù)據(jù)平臺的配置中。大量應(yīng)用接入后，全局版本，實驗版本，特殊 Bugfix 版本等混雜在多個配置項中，統(tǒng)一基線被打破，難于維護。

• 元數(shù)據(jù)不一致：

• • 元數(shù)據(jù)平臺維護了 POD 粒度的 Sidecar 版本信息，但是由于 Operator 是面向終態(tài)的，會出現(xiàn)元數(shù)據(jù)與底層實際不一致的情況，當(dāng)前仍依賴巡檢發(fā)現(xiàn)。

• 缺少完善的 Sidecar ops 支撐平臺：

• • 缺少多維度的全局視圖；

  • 缺少固化的灰度發(fā)布流程；

  • 依賴于人工經(jīng)驗配置管理變更；

• 監(jiān)控噪聲巨大；

當(dāng)然，Service Mesh 與 PaaS 的開發(fā)團隊都已經(jīng)在建設(shè)相應(yīng)的一些能力，這些問題正得到逐步的緩解。

技術(shù)風(fēng)險建設(shè)

監(jiān)控能力

我們的監(jiān)控平臺為 Service Mesh 提供了基礎(chǔ)的監(jiān)控能力和大盤，以及應(yīng)用維度的 Sidecar 的監(jiān)控情況。包括：

• 系統(tǒng)監(jiān)控：

• • CPU；

  • MEM；

  • LOAD；

• 業(yè)務(wù)監(jiān)控：

• • RT；

  • RPC 流量；

  • MSG 流量；

  • Error 日志監(jiān)控；

Service Mesh 進程還提供了相應(yīng)的 Metrics 接口，提供服務(wù)粒度的數(shù)據(jù)采集與計算。

巡檢

在 Service Mesh 上線后，巡檢也陸續(xù)被加入：

• 日志 Volume 檢查；

• 版本一致性；

• 分時調(diào)度狀態(tài)一致；

預(yù)案與應(yīng)急

Service Mesh 自身具備按需關(guān)閉部分功能的能力，當(dāng)前通過配置中心實現(xiàn)：

• 日志分級降級；

• Tracelog 日志分級降級；

• 控制面(Pilot)依賴降級；

• 軟負(fù)載均衡長輪詢降級；

對于 Service Mesh 依賴的服務(wù)，為了防止?jié)撛诘亩秳语L(fēng)險，也增加了相應(yīng)的預(yù)案：

• 軟負(fù)載均衡列表停止變更；

• 服務(wù)注冊中心高峰期關(guān)閉推送；

Service Mesh 是非常基礎(chǔ)的組件，目前的應(yīng)急手段主要是重啟：

• Sidecar 單獨重啟；

• POD 重啟；

變更風(fēng)險防控

除了傳統(tǒng)的變更三板斧之外，我們還引入了無人值守變更，對 Service Mesh 變更做了自動檢測，自動分析與變更熔斷。

無人值守變更防控主要關(guān)注變更后對系統(tǒng)和業(yè)務(wù)和影響，串聯(lián)了多層檢測，主要包括：

• 系統(tǒng)指標(biāo)：包括機器內(nèi)存、磁盤、CPU；

• 業(yè)務(wù)指標(biāo)：業(yè)務(wù)和 Service Mesh 的 RT、QPS 等；

• 業(yè)務(wù)關(guān)聯(lián)鏈路：業(yè)務(wù)上下游的的異常情況；

• 全局的業(yè)務(wù)指標(biāo)；

經(jīng)過這一系列防控設(shè)施，可以將全站性的 Service Mesh 變更風(fēng)險在單一批次變更內(nèi)發(fā)現(xiàn)和阻斷，避免了風(fēng)險放大。

未來

Service Mesh 在快速落地的過程中，遇到并解決了一系列的問題，但同時也要看到還有更多的問題還亟待解決。做為下一代云原生化中間件的核心組件之一，Service Mesh 的技術(shù)風(fēng)險能力還需要持續(xù)的建議與完善。未來需要在下面這些方面持續(xù)建設(shè)：

• 大規(guī)模高效接入與回滾能力支撐；

• 更靈活的變更能力，包括業(yè)務(wù)無感的平滑/非平滑變更能力；

• 更精準(zhǔn)的變更防控能力；

• 更高效，低噪聲的監(jiān)控；

• 更完善的控制面支持；

• 應(yīng)用維度的參數(shù)定制能力；

歡迎有志于中間件 Service Mesh 化與云原生穩(wěn)定性的同學(xué)加入我們，共同建設(shè) Service Mesh 的未來。

往期系列閱讀

• 螞蟻金服 Service Mesh 大規(guī)模落地系列 - 消息篇

• 螞蟻金服 Service Mesh 大規(guī)模落地系列 - 核心篇

• Service Mesh 落地負(fù)責(zé)人親述：螞蟻金服雙十一四大考題
  

?????獎勵支持 SOFAStack 的你~

* 點下右下角“在看”

? ? ? ?? #接力技術(shù)，鏈接價值#精彩推薦1.?阿里技術(shù)專家加多：Java異步編程實戰(zhàn)之基于JDK中的Future實現(xiàn)異步編程2. 為什么你干不過黑客？從多個平臺爆發(fā)安全漏洞損失千萬說起3.?知道創(chuàng)宇楊冀龍：技術(shù)人的商業(yè)思維都是錘出來的，真實需求長在客戶的KPI上 4.?程序員埋邏輯炸彈，被判 6 個月5.?一個全世界最大成人網(wǎng)站的爬蟲 6.?大中臺模式下如何構(gòu)建復(fù)雜業(yè)務(wù)核心狀態(tài)機組件漫畫推薦1.?漫畫：程序員真是太太太太太太太太有趣了！ 2.?漫畫：程序員真的是太太太太太太太太難了！3.?漫畫：普通程序員 vs 優(yōu)秀程序員 4.?漫畫：35歲的IT何去何從？ 5.?漫畫：從修燈泡來看各種 IT 崗位，你是哪一種？ 6. 漫畫：一批90后已經(jīng)30歲了，更扎心的是…

總結(jié)

以上是生活随笔為你收集整理的蚂蚁金服 Service Mesh 大规模落地系列 - 运维篇的全部內(nèi)容，希望文章能夠幫你解決所遇到的問題。

如果覺得生活随笔網(wǎng)站內(nèi)容還不錯，歡迎將生活随笔推薦給好友。