日韩av黄I国产麻豆传媒I国产91av视频在线观看I日韩一区二区三区在线看I美女国产在线I麻豆视频国产在线观看I成人黄色短片

歡迎訪問 生活随笔!

生活随笔

當前位置: 首頁 > 编程资源 > 编程问答 >内容正文

编程问答

TOP互联网公司都在用,为什么SRE比传统运维更抢手?

發布時間:2024/8/23 编程问答 72 豆豆
生活随笔 收集整理的這篇文章主要介紹了 TOP互联网公司都在用,为什么SRE比传统运维更抢手? 小編覺得挺不錯的,現在分享給大家,幫大家做個參考.

阿里妹導讀:雙11的完美收官,2684億的銷售奇跡及順滑極致的客戶體驗讓雙11背后的技術再次被推到風頭浪尖。而雙11技術熱點話題,不得不提集團核心系統100%上云這一技術創舉。

作為集團上云的底座產品,ECS承擔了集團上云基礎設施的重任,對如何保障集團上云的極致穩定性及性能需求,彈性計算管控團隊做了長期的探索與實踐,竹澗作為SRE參與了這場“革命”,接下來他將分享ECS管控SRE在落地穩定性體系建設中的探索及背后的思考。

前言

SRE是什么?

SRE(Site Reliability Engineering)即網站可靠性工程,提及SRE很多人會聯想到運維工程師、系統工程師,其實不然,SRE本質上仍然是軟件工程師,下面我們從SRE的發展歷史展開來進行介紹。SRE最早在十多年前Google提出并應用,近幾年逐步在國內外TOP互聯網公司都開始廣泛應用。據筆者了解業界SRE落地成功的權威有Google、Netflix等,前者締造了SRE,并奠定了其權威的地位,而后者將SRE的實踐做到了極致,據官方曝露的信息,Netflix僅有的個位數的Core SRE支持了190個國家、數億用戶、數萬微服務實例業務規模的運維。近幾年隨著DevOps的發展,SRE開始被大家熟知,國內的一線互聯網公司如BAT、美團也都逐步從組織架構、招聘上均有體現。以阿里為例,不同的BU均有設置SRE團隊,然而在不同的部門,SRE的職責劃分卻不盡相同,那么SRE究竟在做什么?

SRE的職責

SRE主要負責Google所有核心業務系統的可用性、性能、容量相關的事情,根據《Site Reliability Engineering 》一書提及的內容,筆者做簡單匯總,Google SRE的工作主要包括但不限于如下:

  • 基礎設施容量規劃
  • 生產系統的監控
  • 生產系統的負載均衡
  • 發布與變更工程管理
  • on-call(輪值) 與?Firefighting(緊急故障救火)
  • 與業務團隊協作,共同完成疑難問題的處理
  • ...

而在國內,非常多的SRE部門與傳統運維部門職責類似,本質來說負責的是互聯網服務背后的技術運維工作。區別于傳統的運維SRE,如何在業務研發團隊落地SRE,我們做了一年多的探索與實踐,筆者認為業務團隊SRE的核心是:以軟件工程的方法論重新定義研發運維,驅動并賦能業務演進。下文將重點介紹彈性計算落地SRE的一些實踐及背后的思考。

一、為何要成立SRE?

面臨的挑戰

ECS作為阿里云最核心的云產品,對內承擔了集團上云、云產品On ECS的重任,是阿里云經濟體的基礎設施;對外作為亞洲最大的云計算廠商,服務著遍布全球的大中小客戶(包括各種專有域、專有云),而ECS管控作為核心調度大腦,重要性不言而喻。隨著集團上云、云產品On ECS的進程加速,ECS的OpenAPI調用量達到了數億/日,ECS峰值創建量達到了 百萬/日,ECS管控調度系統在容量規模、極致性能、高可用性等方面,面臨著一系列挑戰:

  • 數據庫瓶頸,頂配數據庫空間仍然無法支撐業務半年發展。
  • 慢SQL數量爆發式增長,應用穩定性岌岌可危。
  • 全鏈路預警信息最多每天200+,系統隱患逐步暴雷。
  • 工作流框架使用面臨瓶頸,無法支撐業務三個月的業務體量,人工運維風險極高。
  • 人工運維頻率高,研發幸福感下降。
  • 長尾請求嚴重影響服務質量,5XX錯誤持續走高,影響客戶體驗。
  • 不一致性資源長期無法收斂,資損無法解決。
  • ...

SRE應運而生

如何在保障業務高速發展的同時,構建系統高可用的穩定性體系,同時在性能與容量上支撐業務未來3-5年的發展是團隊面臨的重大挑戰。在SRE團隊成立之前ECS管控團隊是按照業務域進行的團隊劃分如實例、存儲、鏡像、網絡、體驗、ESS、ROS等。而在上述組織架構下研發團隊可以在垂直領域做到精深,但團隊整體會缺少頂層的視角,很難從局部看到整體,進而看到全局。康維定律指出 “設計系統的架構受制于產生這些設計的組織的溝通結構”,簡單來說可以理解為:組織架構=系統架構,當我們系統穩定性體系需要跨業務團隊的頂層視角來構建的時候,最好的保障就是組織架構的落地,ECS SRE團隊應運而生。

二、SRE做了什么?

前文簡單介紹了Google SRE團隊的職責包括容量規劃、分布式系統監控、負載均衡、服務容錯、on-call、故障應急、業務協同支持等,同時也簡單描述了國內偏系統運維的SRE團隊。而ECS SRE落地的探索過程中,吸取業界優秀經驗的同時也結合ECS團隊的業務及團隊特色形成了一套獨有的方法論及實踐體系。對于此,筆者的觀點是:沒有放之四海而皆準的標準,需要我們不斷探索的是與“當下、業務、團隊“契合的方案,古語謂之“天時、地利、人和”。下文將整體上介紹ECS SRE團隊在穩定性體系建設上所做的一些事情。

ECS SRE體系大圖

2.1 容量與性能

前文提到ECS的OpenAPI調用量達到數億/日,ECS創建峰值達到了百萬/日,在此背景下,管控服務的容量與性能面臨嚴峻問題,比如數據庫容量面臨枯竭、服務長尾請求頻現等。隨著集團上云、云產品On ECS的演進需求,以及整個云原生大環境的高歌猛進,未雨綢繆已然變成了迫在眉睫。以ECS管控核心的工作流引擎為例,在我們業務體量快速增長的背景下,工作流任務單表一個月的數據就達到了3T+,這意味即使是頂配數據庫也無法支撐業務數月的發展。除了工作流,核心的訂單、訂購、資源表均面臨相同問題,如何在業務高速發展的同時,保障業務延續性是我們面臨的頭號問題。為了解決當下的容量與性能問題,同時面向未來擴展,我們針對ECS自研的基礎組建包括工作流引擎、冪等框架、緩存框架、數據清理框架等進行了升級改造,為了后續可以賦能給其它云產品或者團隊使用,所有的基礎組件全部通過二方包標準輸出。

基礎組件升級:通過對ECS管控自研的業務基礎組件進行架構升級來應對業務未來的規模化發展。

  • 工作流引擎:14年ECS團隊自研的輕量工作流引擎,與AWS SWF類似, 18年改造后支持數億級工作流創建,我們當前還在做一些框架可用性、容量與性能相關的優化。
  • 輕量冪等框架:通過注解自定義業務冪等規則,通過輕量持久化方式支持業務冪等。
  • 數據異步清理框架:通過注解配置業務數據清理策略。
  • 緩存框架:通過注解支持業務定義緩存命中與失效規則,并支持批量。

性能優化:多維度的性能調優策略來提升管控整體服務的性能指標。

  • JVM調優:通過不斷調整優化JVM參數來減少其FGC次數及STW時間,縮短服務不可用時間,提升用戶服務體驗 。
  • 數據緩存:核心鏈路多級緩存,減少數據庫IO,提升服務性能。
  • SQL性能調優:通過優化SQL執行效率提升業務性能。
  • 核心鏈路RT優化:業務優化保障ECS核心創建、啟動鏈路性能。
  • API批量服務能力:批量的服務能力,提升整體服務性能。

2.2 全鏈路穩定性治理

穩定性體系化建設是我們在過去一年摸索中最重要的一環,對此筆者的心得是:穩定性治理一定要有全鏈路頂層視野,從上至下進行細分。下文將簡單介紹一下ECS管控穩定性治理體系。

1)數據庫穩定性治理

數據庫是應用的核心命脈,對于ECS管控來說,所有的核心業務全部跑在RDS之上,如果數據庫發生故障,對應用的損害無論從管控面或者數據面都是致命的。所以,SRE做的第一件事情就是守住核心命脈,對數據庫穩定性進行全面的治理。首先,我們先來看一下ECS管控在規模化業務下,數據庫面臨的問題:

  • 空間增長過快,無法支撐業務近期發展需求。
  • 慢SQL頻發,嚴重影響應用穩定性。
  • 數據庫變更故障率高,DDL大表變更引起的故障占比高。
  • RDS性能指標異常,數據庫各種性能指標異常。
  • RDS報警配置混亂,報警信息存在遺漏,誤報的情況。

對于數據庫的問題我們的策略是數據庫+業務兩手抓,單純優化數據庫或者業務調優效果都不是最佳的。比如典型的數據庫大表問題,占用空間大,查詢慢,如果單純從數據庫層面進行空間擴容,索引優化可以解決短期問題,當業務規模足夠大的時候,數據庫優化一定會面臨瓶頸,這個時候需要業務調優雙管齊下。下面簡單介紹一下優化思路:

  • 數據庫占用空間大問題,兩個思路,降低當前數據庫占用空間,同時控制數據空間增長。我們通過歸檔歷史數據釋放數據空洞來達到數據頁復用,從而控制數據庫磁盤空間增長;但是delete數據并不會釋放表空間,為了釋放已經占用大量空間的大表,我們業務上進行了改造,通過生產中間表輪轉來解決。
  • 慢SQL頻發問題,數據庫優化與業務改造兩手抓。數據庫層面通過索引優化來提高查詢效率,同時減少無效數據來減少掃描行數;應用層面通過緩存降低數據庫讀次數、優化業務代碼等方式減少與規避慢SQL。
  • 數據庫變更故障率高問題,管控流程增強,增加Review流程。DDL變更類型多,由于開發人員對數據庫的專業性與敏感度不夠導致數據庫引發變更增多,對于這類情況,我們針對DDL變更增加了 檢查項列表與評審流程,控制數據庫變更風險。
  • 數據庫性能指標與配置問題,以項目方式推進數據庫健康度提升,統一管控數據庫預警配置。
  • 慢SQL限流與快恢的探索。慢SQL嚴重情況會導致RDS整體不可用,當前我們正在探索如何通過自動/半自動化的方式限流慢SQL來保障數據庫穩定性。

下圖是ECS在數據庫穩定性治理上的幾個探索。

2)監控預警治理預警對于問題與故障的發現至關重要,尤其在規模化的分布式系統中,精準而及時的監控可以幫助研發人員第一時間發現問題,減少甚至避免故障的發生。而無效、冗余、不精確的低質量報警不僅耗時耗力,影響SRE on-call人員幸福感,同時也嚴重影響故障診斷。ECS管控預警質量不高的因素主要包括:

  • 數量多,平均每天100+,峰值200+,信噪比低。
  • 渠道多,大量重復報警,干擾大。
  • 配置異常,存在預警丟失情況,風險高。
  • 損耗人力,預警反復出現導致處理預警需要投入大量人力,人效低。
  • 黑屏操作風險高,大量黑屏操作增加生產運維風險,風險高。

針對上述情況,我們的策略是針對預警進行體系化整理,實現預警的真實性、準確性、精確性、高質量。我們的打法大概分了以下幾個步驟:

  • 刪除無效報警,清理監控平臺歷史無效的預警,提高預警真實性。
  • 優化預警配置
  • 統一預警接收人,保障預警只投遞到正確的接收人。
  • 優化預警等級,設置合理的預警級別。
  • 劃分預警渠道,按照預類型與嚴重程度進行渠道劃分,如致命預警電話預警、嚴重預警短信預警、普通預警釘釘預警等。
  • 自動化一切人肉干預的預警,反復需要人工參與解決的報警通過自動化方式來解決。比如大量業務日志導致磁盤存儲空間不足,可以通過優化log rolling策略實現自動化。

3)故障診斷

關于故障恢復我們有一個1-5-10的理想模型,意思是1分鐘發現問題,5分鐘定位問題,10分鐘恢復問題。1分鐘發現問題依賴于前文提到的高質量的監控預警體系,5分鐘定位問題則依賴于系統的故障診斷能力,如何基于已有的預警信息實現故障快速診斷面臨一系列挑戰:

  • 系統調用鏈路長,從控制臺/OpenAPI到底層虛擬化/存儲,RPC鏈路調用鏈路大概有10層以上,依賴系統30+,業務串聯難度大。
  • 系統間依賴復雜,ECS管控自身有多層架構,同時與集團訂單、計費等系統相互依賴。
  • 影響面分析困難,無法量化故障影響面。

在故障診斷體系的建設上,我們初步劃分三個階段:

  • 全鏈路Trace模型建立,通過TraceID打通調用調用鏈路,實現業務串聯。
  • 核心應用場景故障診斷模型,針對當前業務核心鏈路以及以往故障的高頻場景進行診斷模型訓練,由點到面的突破。
  • 故障影響面模型,自動分析故障影響用戶、資源、資金,方便故障快速恢復及故障善后。

4)全鏈路SLO

沒有100%可靠的系統,對于終端用戶而言99.999%和100%的可用性沒有本質區別。我們的目標是通過持續迭代優化保障用戶99.999%的可用性服務體驗,而現狀是終端用戶發起的行為會經過一系列中間系統,任意一個系統可靠性出現問題都會影響客戶體驗。而全鏈路各個節點的穩定性如何衡量是我們面臨的問題,對此我們開始了全鏈路SLO體系建設,主要策略如下:

  • 識別上下游依賴業務方,簽訂SLO協議。
  • 建設全鏈路SLO可視化能力。
  • 推進上下游依賴促成SLO達標。

5)資源一致性治理

根據分布式系統CAP原理,一致性(Consistency)、可用性(Availability)、分區容錯性(Partition tolerance)無法同時滿足。ECS管控作為規模化的分布式系統面臨同樣的問題:資源一致性問題,具體表現在ECS、磁盤、帶寬等在ECS管控、訂單、計量等多個系統存在數據不一致問題。分布式系統為了保障系統可用性,通常會犧牲部分數據實時一致性,轉而通過最終一致性來解決。針對ECS的技術架構及業務特性,我們對保障資源一致性的策略如下:

  • 數據驅動,首先建立全鏈路可視化對賬體系,所有不一致資源全部數據化。
  • 財(錢)、產(資源)兩個抓手,從資源和資損兩個角度來度量一致性問題。
  • 離線(T+1)與實時(一小時對賬)兩種方式,及時止損。

2.3 SRE流程體系建設

ECS在 近百人并行研發& 核心應用每日發布&全年數千余次發布?的背景下,可以做到故障率每年下降的關鍵因素之一,就是有一套相對完善的研發與變更流程保障。下文將簡單介紹ECS SRE在研發與變更流程體系上所做的的一些探索。

研發流程:整個軟件生命周期研發流程規范升級。1)設計流程與規范從軟件工程角度來看,越早引入問題帶來的人力消耗和經濟損失就越小。沒有被良好設計的系統后續在維護階段投入的成本要遠高于前期設計的投入。為了把控設計質量我們在設計流程與規范上做了如下探索:

  • 加強前期設計,統一設計模版。(完整的設計應該包括架構設計、詳細設計、測試用例、橫向設計、監控預警、灰度方案、發布方案等)
  • 線上(釘釘直播)& 線下并行模式進行設計評審。

2)CodeReview升級之前ECS的CodeReview主要在GitLab平臺,其主要問題是gitlab與阿里內部持續集成相關組件集成不夠穩定、另外無法設置準入卡點,Aone CodeReview平臺很好的解決了與Aone實驗室的集成問題,并且提供了代碼合入的卡點配置功能,另外我們定義了一套ECS管控的CodeReview流程,如下所示:

  • 統一研發規范,包括(開發環境規范、編碼規范on 集團開發規約 等)。
  • CodeReviw checklist
  • git commit 關聯issues,做到代碼與需求/任務/缺陷關聯,可追蹤。
  • 靜態掃描無Block。
  • UT通過率100%,覆蓋率不低于主干(重點關注UT覆蓋率)。
  • 代碼規范符合阿里巴巴代碼規約。
  • 業務關鍵點Review。
  • MR要提供標準報備信息,說明變更內容。

3)全鏈路CI標準化我們將ECS管控所有核心應用按照標準模式統一遷移至標準CI平臺,大幅提升CI成功率,減少頻繁人工干預造成的人力損耗。我們的方案如下:

  • 標準化CI接入方式,標準化CI pipeline:
  • prepare environment
  • run unit tests
  • run coverage analysis
  • ...
  • UT并行運行模式改造,提升UT運行效率。

4)全鏈路日常/隔離環境打通ECS部署環境復雜度極高,具體表現在部署架構復雜、部署工具多樣、依賴多(幾乎依賴了集團和阿里云所有的核心中間件及應用),在近百人并行研發的模式下 穩定可靠的全鏈路日常環境是研發效能與質量的基礎保障。全鏈路日常環境的改造無法一蹴而就,我們當前等構建路徑大致如下:

  • 全鏈路容器化,同時支持日常環境與隔離環境。?
  • 第三方服務依賴Mock。
  • 全鏈路測試環境打通。

5)預發環境使用規范預發環境與生產環境使用相同的數據庫,很容易出現預發測試影響生產服務穩定性的問題。在預發與生產無法數據隔離的情況下,我們的短期方案是通過標準化流程來提升預發布代碼質量,盡可能減少或規避此類問題發生。

  • 預發等同于生產,一定要在CI通過、日常基本驗證通過后才可以部署預發。
  • DDL及大表查詢需要Review后才可以上預發,避免預發慢SQL導致RDS穩定性,進而影響生產環境。

6)FVT發布準入每天凌晨通過運行基于OpenAPI的功能性測試用例集,來驗證預發布代碼的穩定性,是日常發布準入最后一道防線,FVT 100%通過率極大保障了ECS核心管控每日發布的成功率。7)無人值守發布的探索當前發布模式是發布前一天晚上值班同學基于Develop分支拉取release發布分支部署預發,發布當天觀察FVT 成功率100%通過后通過Aone進行分批發布,每批暫停觀察業務監控、預警、錯誤日志,在該模式下核心應用每日發布大概占用0.5人/日。為了進一步提升人效,我們在自動化發布流程上進行來一些探索:

  • 流水線自動部署預發。
  • 自動發布準入校驗,通過判斷FVT成功率根據業務規則進行自動發布。
  • 無人值守發布,理想的發布模型,持續集成及相關發布準入卡點全部通過后,自動化進行發布。

?變更流程:通過規范變更流程、接入GOC強管控、變更白屏化及變更自動化來提升變更效率,同時保障變更質量。

1)管控規范流程定義通過約束現有的管控變更行為如熱升級、配置變更、DDL變更、約束配置變更、數據訂正、黑屏操作等實現所有變更可監控、可灰度、可回滾。2)強管控接入通過對接集團強管控,來保障所有變更可追溯、可評審。(也期望可以通過平臺對接強管控消除人肉提變更的繁瑣)3)變更白屏化整合ECS全鏈資源、管控、診斷、性能、運維、可視化及老嫦娥運維能力,打造統一、安全、高效的彈性計算統一運維平臺。4)變更自動化自動化一切需要人工干預的繁瑣事項。

2.4 穩定性運營體系

穩定性體系的建設中,基礎組件的容量性能優化、全鏈路穩定性體系建設、研發與變更流程的升級是其安身立命的基礎,而若想細水長流則離不開文化的建立以及持續的運營。下面是ECS SRE在穩定性運營體系上做的一些探索。

on-call輪值:on-call 在Google SRE的模式是 7*24小時輪值,負責生產系統的監控預警處理,緊急故障救火等。SRE本質仍然是軟件工程師,在ECS管控團隊,SRE每個同學在負責研發的同時也要處理線上預警、應對緊急故障以及參與到疑難雜癥的排查等日常繁瑣的工作,為了保障SRE同學核心研發工作不被打斷,我們開始嘗試使用on-call輪值機制。1)on-call的職責

  • 監控預警處理,第一時間處理生產環境的監控預警。
  • 緊急故障救火,協同業務團隊處理生產環境穩定性問題。
  • 穩定性問題排查,挖掘生產系統穩定性隱患,進入深水區進行挖掘。
  • 全鏈路穩定性巡檢,生產系統核心業務SLO指標、錯誤日志、RDS健康度、慢SQL巡檢等。
  • 參與故障復盤,此處的故障包括GOC故障與線上的穩定性問題。
  • 經驗總結輸出,將on-call過程進行的故障診斷、問題處理、故障復盤進行總結。

2)新人如何快速加入on-call

  • on-call 模版化,新人按圖索驥,目標明確。
  • on-call 知識庫,新人紅寶書。
  • 參與到輪值,實踐出真知。

?如何做故障復盤?

故障復盤機制針對產生故障或者影響內部穩定性的問題進行事后復盤,在ECS內部我們將影響生產穩定性的問題統一定義為“內部故障”,我們的觀點是?所有“內部故障” 都可能轉化為真實的故障,應該被給予足夠的重視度。為此我們內部與集團故障團隊也進行了多次的溝通合作,在內部故障的復盤與管理模式上進行了一些探索,下面將介紹故障復盤的一些基本理念及ECS管控在故障復盤上的一些實踐。故障復盤不是為了指責或者懲罰,而是為了發現故障表象背后深層次的技術與管理問題。

  • 避免指責
  • 對事不對人
  • 獎勵做正確事的人
  • 協作與知識共享

1)故障復盤的方式

  • 責任人填寫故障復盤報告。
  • SRE與相關干系人參與評審(嚴重故障線下會議對齊)
  • 故障干系人按照ETA保障故障Action落地。

2)故障復盤文檔庫故障復盤總結是我們重要的知識資產,我們內部針對每一次故障復盤進行了深刻的總結,形成內部知識庫 《Learn From Failure》

?穩定性日常運營

穩定性本身是一個產品,需要日常持續的運營,在ECS管控主要模式有穩定性日報與雙周報。

  • 穩定性日報,T+1 FBI報表,匯總全鏈路核心的指標數據如工作流、OpenAPI成功率、資源一致性及資損,主要目的是為了及時發現系統隱患,并推動解決。
  • 穩定性雙周報,雙周發布,郵件模式,階段性匯總全鏈路穩定性問題(包括故障、內部穩定性問題)、核心問題公示、核心鏈路指標分析等。

三、我認知的SRE

前文概要性介紹了ECS SRE過去的一些實踐經驗,筆者自18年開始以SRE的角色參與到ECS穩定性治理與研發工作,下文將談一下自己這一年時間實踐SRE的一些感悟,一家之言,供參考。

3.1 關于SRE的幾個認知誤區

1) SRE 就是運維

SRE不止于運維,確實部分公司的SRE崗位工作內容與傳統的運維或者系統工程師相近,但 主流或者說未來的SRE是一個技能綜合性崗位,不僅需要運維能力,也需要軟件工程能力、技術架構能力、編碼能力、以及項目管理與團隊協作能力。

2) SRE 不需要懂業務

脫離了業務的架構是沒有靈魂的!不懂業務的SRE是不合格的SRE,SRE要參與的技術與運維架構的優化與未來規劃,同時也要協同業務團隊完成故障排查,疑難雜癥的處理,這些工作沒有對業務的理解是無法很好的完成的(甚至無法完成)。

3.2 SRE能力模型

前面在“SRE=運維”的誤區解答中,簡單說明了SRE崗位對技術全面性的需求,下面筆者試著給出一個未來SRE能力模型,僅供參考。

1) 技術能力

a.研發能力

業務團隊的SRE首先要具備研發能力,以彈性計算SRE為例,我們會負責業務公共基礎組件比如工作流框架、冪等框架、緩存框架、數據清理框架等業務中間件的研發,研發能力是基礎。

b.運維能力

SRE是運維在DevOps發展進程中進化而來,無論是手動運維,抑或自動化運維,都需要SRE具備全面的運維能力。在彈性計算團隊,SRE負責了生產環境(網絡、服務器、數據庫、中間件等)的穩定性保障工作,在日常on-call與故障應急工作中,運維能力必不可少。

c.架構能力

SRE不僅要關注業務當前的穩定性與性能,同時要以未來視角對業務進行容量與性能的規劃,這一切都建立在對業務系統架構熟知,并具備優秀架構設計能力的基礎之上。作為彈性計算的SRE,有一項重要工作就是對技術架構作為未來規劃,并提供可執行的Roadmap。

d.工程能力

這里的工程能力主要指軟件工程的落地能力以及反向工程能力,首先SRE必須具備軟件工程的思維,具備大型軟件工程的可落地能力。另外,SRE核心的日常工作之一是穩定性問題以及疑難雜癥的處理,反向工程能力在分布式系統規模化下的異常問題排查起到關鍵作用,尤其在處理陌生問題方面。

2) 軟技能

a.業務能力

不懂業務的SRE是不合格的SRE。尤其是業務團隊的SRE,只有在熟悉業務技術架構、發展狀況、甚至是業務模塊細節的情況下,才能更好的開展諸如架構規劃、故障排查工作。以彈性計算SRE為例,必須要熟悉當前彈性計算的業務大圖以及后續的發展規劃,甚至是核心模塊的業務邏輯也必須做到心中有數。

b.溝通能力

作為一名工程師,毫無疑問溝通能力核心的軟技能之一。對于SRE來言,需要參與的大部分工作都是跨團隊甚至是跨BU的,溝通能力顯得尤為重要。在彈性計算團隊,作為SRE對內我們要與多個業務兄弟團隊緊密溝通協作,保障業務穩定性;對外,要與集團統一的研發平臺、基礎運維、監控平臺、中間件、網絡平臺等多方團隊進行核合作,甚至會走向一線直接面對外部客戶,此時談溝通能力與溝通技巧再重要也不為過。

c.團隊協作

SRE要非常重視團隊協作,尤其在故障應急上,要協作多方團隊,緊密合作,降低故障MTTR。而在日常工作中,SRE要積極協同業務團隊以及外部依賴團隊,主導并推動穩定性相關工作的落地。

d.項目管理

SRE的工作技術復雜度和事務繁瑣度更高,加上日常的on-call和Firefighting,如何保障所有工作可以有條不紊的健康運作,從團隊角度看,項目管理非常重要;從個人角度看,時間管理極具價值。仍然以筆者所在的彈性計算SRE團隊為例,為了保障穩定性體系的快速落地,在過去一年我們進行了多個小型項目的攻堅,效果甚佳。當前我們正在以虛擬組織、長期項目的方式進行管理運作。

3)思維模式

前面提到了SRE要具備的兩項軟技能包括團隊協作、及工程能力,與此同時需要SRE人員從思維模式上進行轉變升華,比如逆向思維、合作意識、同理心、隨機應變。

3.3 SRE核心理念

以下是筆者自己的從業心得,個人認為的SRE核心理念:

  • 軟件工程的方法論解決生產系統穩定性問題。
  • 自動化一切耗費團隊時間的事情。
  • 穩定性就是產品。
  • 團隊協作與賦能是關鍵。
  • 沒有銀彈,尋求適合業務與團隊的解決方案。
  • 優先做最重要的20%,解決80%的核心問題。

3.4 SRE精神

舍我其誰,SRE要有強烈的責任意識與使命感,作為穩定性的守護者,在團隊協作過程中,要做到無界擔當,一桿到底。

  • 敢于挑戰,包含兩層含義,其一,SRE要堅守穩定性底線,對于任何與之相悖的行為敢于說不;其二,要以未來視角看待問題,要善于創新,勇于挑戰。
  • 敬畏生產,SRE是生產環境的守護者,更是破壞者。組織賦予了SRE最大的生產變更權限(給予了SRE最大的自由),這其實更是一種責任,SRE要比任何人都心懷敬意,拒絕一切僥幸行為。
  • 擁抱風險,無論如何專業與謹慎,故障一定會發生。作為SRE要有學習從風險中學習的精神,科學的正視風險,通過不斷的學習風險應對,來避免失敗。

寫在最后

在信息爆炸的時代,技術的發展可謂日新月異,技術人不僅要保持對技術對熱情,也要具備思考力,沒有放之四海皆準的方案,只有因地制宜、因時制宜的方案。無論如何,從現在開始行動,前路慢慢,上下求索。


原文鏈接
本文為云棲社區原創內容,未經允許不得轉載。

創作挑戰賽新人創作獎勵來咯,堅持創作打卡瓜分現金大獎

總結

以上是生活随笔為你收集整理的TOP互联网公司都在用,为什么SRE比传统运维更抢手?的全部內容,希望文章能夠幫你解決所遇到的問題。

如果覺得生活随笔網站內容還不錯,歡迎將生活随笔推薦給好友。

日本韩国欧美在线观看 | 久久99视频免费观看 | 免费看的黄色的网站 | 天天爽天天爽夜夜爽 | 91日韩在线播放 | 伊人射| 免费黄色在线网址 | 精品成人网 | 97人人添人澡人人爽超碰动图 | 国产传媒一区在线 | 国产一区av在线 | 人人舔人人 | 日韩天堂网 | 久久午夜电影院 | 国产亚洲精品成人av久久影院 | 色综合色综合久久综合频道88 | 西西4444www大胆视频 | 亚洲精品99久久久久久 | 99免费在线观看 | 日韩在线观看第一页 | 一区二区成人国产精品 | 中文字幕日韩精品有码视频 | 国产高清久久久 | 久久99精品久久久久久久久久久久 | 国产91学生粉嫩喷水 | 亚洲欧美视频在线播放 | 久久夜色精品国产欧美一区麻豆 | 国产精品免费观看视频 | 国产一级高清视频 | 欧美精品中文在线免费观看 | 欧美一区二区在线免费看 | 国产精品1区2区 | 欧美精品xxx | 91在线入口 | 色com网 | 99视频免费| 天堂av在线 | 日韩精品免费在线播放 | 亚洲精品乱码久久久久久蜜桃不爽 | 欧美日韩一区二区三区在线免费观看 | 日韩在线小视频 | 在线观看视频国产 | 欧美日韩国产高清视频 | 欧美一级片在线播放 | 在线免费观看黄 | 国产精品欧美日韩 | 国产人成一区二区三区影院 | 国产精品一区二区三区久久久 | 友田真希x88av| 天天激情综合网 | 99操视频 | 色插综合| 日韩在线第一 | 99亚洲天堂| 久久久久综合网 | 久久久国产精品视频 | 人人要人人澡人人爽人人dvd | 国产精品网红福利 | 亚洲午夜精品久久久久久久久 | 日韩av在线看 | 天天爽天天做 | 亚州欧美精品 | 91精品国产91久久久久福利 | 91成人亚洲 | 奇米四色影狠狠爱7777 | www99久久| 99精品免费久久久久久久久 | 日韩不卡高清 | 日韩精品一区二区三区免费视频观看 | 中文区中文字幕免费看 | 中文字幕在线免费看线人 | 免费av一级电影 | 国产一区国产二区在线观看 | 国产很黄很色的视频 | 欧美成人精品xxx | 狠狠色婷婷丁香六月 | 69久久99精品久久久久婷婷 | 国产一级电影在线 | 国产精品久久久久久久久久尿 | 国产精品1区2区在线观看 | 激情综合亚洲 | 久久久99国产精品免费 | 一级久久久 | 国内一区二区视频 | 国产精品中文在线 | 亚洲一区二区精品 | 国产伦理久久 | 中文字幕久久亚洲 | 亚洲最大av网站 | 亚洲乱码国产乱码精品天美传媒 | 亚洲2019精品 | 午夜久久电影网 | 中文字幕国产 | 久久久三级视频 | 国产午夜精品免费一区二区三区视频 | 99精品在线视频观看 | 狠狠躁夜夜躁人人爽超碰97香蕉 | 韩国在线一区二区 | 夜夜婷婷| 视频在线观看入口黄最新永久免费国产 | 在线视频观看亚洲 | 亚洲精品国产精品国自产观看浪潮 | 97在线观看免费高清完整版在线观看 | 成人av免费网站 | 婷婷久久国产 | 亚洲精品一区二区三区新线路 | 中文字幕亚洲欧美日韩2019 | 午夜久久视频 | 在线观看黄色小视频 | 国产成人91| 美女露久久 | 在线观看亚洲精品 | 午夜精品一二三区 | 人人天天夜夜 | 久久免费av电影 | 亚洲aaa毛片 | 亚洲一区二区91 | 欧美日韩3p | 91精品国产自产在线观看永久 | 中文字幕亚洲情99在线 | 免费观看91视频大全 | 中文字幕 在线看 | av高清影院 | 草久在线播放 | 97涩涩视频| 99久在线精品99re8热视频 | 免费美女av| 91精品综合在线观看 | 激情图片区 | 性色大片在线观看 | 香蕉精品视频在线观看 | 又爽又黄又无遮挡网站动态图 | 久久久久久久国产精品视频 | 91免费网 | 亚洲激情 欧美激情 | 狠狠色丁香婷婷综合久小说久 | 欧美精品久久久久久久久久白贞 | 国产麻豆剧果冻传媒视频播放量 | 美女视频黄频大全免费 | 色五婷婷 | 婷婷午夜天| 日韩乱码中文字幕 | 一区 二区电影免费在线观看 | 黄色一级网 | 国产麻豆果冻传媒在线观看 | 91av在 | 91在线免费播放 | 美女激情影院 | 久久a v视频| 人人揉人人揉人人揉人人揉97 | 在线观看视频国产 | 欧美一级在线观看视频 | 国产精品一区二区在线免费观看 | 精品国产一区二区三区在线 | 免费日韩一区 | 四虎影视成人永久免费观看视频 | 丁香六月在线 | av爱干| 日本中文在线 | 日韩成人不卡 | 国产婷婷一区二区 | 国产在线国偷精品产拍 | 国产亚洲资源 | 欧美成人性战久久 | 亚洲精品99久久久久久 | 日本中文字幕电影在线免费观看 | 亚洲黄色一级电影 | a天堂最新版中文在线地址 久久99久久精品国产 | 欧美久久久一区二区三区 | 成人一区二区在线观看 | 一本大道久久精品懂色aⅴ 五月婷社区 | 久草网视频 | 插久久| 349k.cc看片app| 成人久久视频 | av免费在线网站 | 国产精品不卡在线观看 | 成年人黄色免费网站 | 色综合在 | 日本丶国产丶欧美色综合 | ww亚洲ww亚在线观看 | 一区二区三区手机在线观看 | 亚洲免费观看视频 | 三级动态视频在线观看 | 欧美精品久久久久久 | 美女视频a美女大全免费下载蜜臀 | 超碰在线94| 激情av综合| 特级毛片网| 不卡中文字幕在线 | 中文字幕欧美日韩va免费视频 | 91福利视频免费观看 | 九九视频免费在线观看 | 激情网色 | 操久 | 免费高清在线视频一区· | 97色综合 | 国产成人av综合色 | 国产91精品在线观看 | 九色一区二区 | 久热久草在线 | 99热这里精品 | 毛片区| 激情一区二区三区欧美 | 中文字幕乱在线伦视频中文字幕乱码在线 | 丁香婷婷综合激情五月色 | 国产日韩精品一区二区三区在线 | 欧美日韩国产xxx | 久草在线资源观看 | 欧美日韩国产在线精品 | 国产精品区二区三区日本 | 国产高清视频网 | 国产成人精品久久久 | 天天玩天天干天天操 | 99久久综合狠狠综合久久 | 特级a毛片 | av免费电影网站 | 麻豆国产电影 | 91av蜜桃| 国产在线观看,日本 | 欧美一级视频免费看 | 黄色毛片一级片 | 久久精品视频在线观看 | 色福利网站 | 亚洲精品久久久久www | 日日摸日日碰 | 成人黄色av网站 | 人人插人人搞 | 日韩欧美网址 | 五月香婷 | 日韩综合第一页 | 在线免费黄色毛片 | 精品亚洲va在线va天堂资源站 | 麻豆va一区二区三区久久浪 | 午夜精品久久久久久久99水蜜桃 | 色婷婷综合成人av | 手机看国产毛片 | 热久久精品在线 | 欧美一区免费在线观看 | 亚洲 欧美 综合 在线 精品 | 久久久午夜视频 | 国产精品一区久久久久 | 日本三级中文字幕在线观看 | 香蕉视频国产在线观看 | 亚洲激情一区二区三区 | 国内精品久久久久影院一蜜桃 | 视频1区2区 | 国产精品精 | 视频一区在线免费观看 | 亚洲最大成人免费网站 | 精品人人爽 | 尤物一区二区三区 | 免费看一级一片 | 久久视频国产精品免费视频在线 | 亚洲va欧美| 人人草在线视频 | 欧美综合久久久 | 久久99久久久久 | 99久久精品免费看国产一区二区三区 | 久久黄色影院 | 亚洲成人网在线 | 久久精品视频99 | 99久久99| 超碰成人免费电影 | 日韩一区正在播放 | 日日干干夜夜 | 国产一区免费看 | 久久9999久久免费精品国产 | 91tv国产成人福利 | 亚洲蜜桃av | 中文字幕亚洲欧美 | 免费人人干| 日韩在线观看你懂得 | 亚洲视频99 | 久久国产精品久久久久 | 日韩理论片中文字幕 | 久久婷婷一区 | 国产在线精品国自产拍影院 | 日日色综合 | 91精品国产亚洲 | 日韩高清久久 | 久久久国产精品一区二区中文 | 91人人人| 亚洲aⅴ在线观看 | 日韩综合第一页 | 国产在线a免费观看 | 黄色毛片在线 | 午夜av免费看 | 精品福利在线视频 | 国产不卡av在线播放 | 成人在线视频论坛 | 中文字幕av一区二区三区四区 | 日韩欧美视频在线免费观看 | 国产高清区 | 日p视频在线观看 | 国产中文a| 精品一区二区三区电影 | 美女免费视频网站 | 亚洲激情在线 | 久草视频观看 | 一区二区三区免费看 | 日韩精品视频在线观看免费 | 亚洲va欧美 | 国产中文字幕网 | 国产精品专区在线观看 | 91人人爱| 日韩精品网址 | 蜜桃视频在线观看一区 | 精品一区二区在线免费观看 | 亚洲v精品| 天天色视频 | 99视频在线精品 | 婷婷久月 | 欧美国产日韩在线观看 | 免费av影视 | 国产精品视频地址 | 久久婷婷一区二区三区 | 国产在线观看不卡 | 天天干天天拍天天操天天拍 | 国产视频亚洲精品 | 一区二区三区播放 | 国产亚洲精品久久久久久移动网络 | www.国产在线观看 | 麻豆国产精品永久免费视频 | 国产一区二区三区四区在线 | av看片在线 | 天天插天天狠 | 干天天 | 亚洲一级久久 | 精品国产诱惑 | 一级免费片 | 中文字幕日韩免费视频 | 国产网站av | 亚洲综合干| 黄色精品久久 | 久久人人爽人人爽人人 | 91欧美日韩国产 | 三级黄色a | 97超碰人人澡 | a v在线观看 | 国产精品久久久久久高潮 | 69亚洲视频| 在线看一区 | 日韩久久精品一区二区三区下载 | 人人干,人人爽 | 99视频在线精品免费观看2 | 五月天久久狠狠 | 亚洲精品免费播放 | 亚洲激情在线播放 | 天天干视频在线 | 国产成人久久av977小说 | 九九色综合| 91在线视频播放 | 免费在线观看日韩欧美 | www久久国产| 又黄又爽又湿又无遮挡的在线视频 | 国产精品一区二区在线观看 | 亚洲欧美成aⅴ人在线观看 四虎在线观看 | 色av资源网 | 中文字幕久久精品一区 | 亚洲黄色软件 | 亚洲精品成人在线 | 国产打女人屁股调教97 | 亚洲视频2 | 日韩精品中文字幕一区二区 | 国产999精品视频 | 夜夜狠狠| 久久午夜精品 | 超碰人在线 | 免费在线观看av不卡 | 日韩免费在线网站 | 国产a网站 | 欧美一级性生活 | 亚洲国产精品小视频 | 91在线播放视频 | 国产精品网址在线观看 | 精品亚洲免费视频 | 四虎影视成人精品国库在线观看 | 岛国av在线免费 | 毛片网站在线观看 | 中文字幕网址 | 一区二区影院 | 激情深爱| 激情网色 | 亚洲黄色片在线 | 天天干天天操天天爱 | 精品91久久久久 | 久久69精品久久久久久久电影好 | 国内视频一区二区 | av成人在线电影 | 精品国产亚洲一区二区麻豆 | 精品亚洲免费视频 | 视频三区在线 | 日日草av | 国产精品成人一区二区三区吃奶 | 国产精品久久久久久久久免费看 | 久久在线观看视频 | 日韩欧美一区二区三区视频 | 欧美国产日韩激情 | 久久字幕网 | 毛片播放网站 | 婷婷丁香在线观看 | 欧洲一区二区在线观看 | 婷婷视频导航 | 色综合天天综合 | 91精品国产成 | 天天搞天天 | 精品在线二区 | 久久91网 | 亚洲精品乱码白浆高清久久久久久 | 91人人澡人人爽人人精品 | 亚洲japanese制服美女 | 午夜私人影院 | 综合在线观看色 | 成人黄色大片网站 | 天天综合网 天天 | 成人在线一区二区 | 久久免费试看 | 亚洲国产婷婷 | 在线精品国产 | 九色91福利 | 国产成人精品aaa | 麻豆传媒一区二区 | 日韩av看片 | 久久伊人免费视频 | 人人爽人人乐 | 狠狠88综合久久久久综合网 | 超碰在线观看97 | 亚洲成人黄色 | 色视频在线 | 欧美一区二区精美视频 | 欧美日韩国产页 | 六月久久婷婷 | 97免费 | 日韩黄色中文字幕 | 激情综合色综合久久 | 精品久久久久免费极品大片 | 国产日韩欧美精品在线观看 | 天天干天天拍天天操天天拍 | 久久黄色片 | 在线免费观看国产黄色 | 久久婷亚洲五月一区天天躁 | 欧美日韩国产二区 | 天天拍天天操 | 深爱激情五月综合 | 免费在线观看一区 | 亚洲天天在线日亚洲洲精 | 91av片| 免费黄色在线播放 | 狠狠操电影网 | 玖玖在线资源 | 久久综合狠狠综合 | 亚洲影视九九影院在线观看 | 成人91视频 | 国产精品午夜免费福利视频 | 高清久久久久久 | 免费午夜av | 国产精品18久久久久久久久 | 欧美激情亚洲综合 | 一区二区中文字幕在线 | 亚洲 中文 欧美 日韩vr 在线 | 国产精品一区二区你懂的 | 中文字幕色婷婷在线视频 | 五月婷婷激情综合网 | 在线观看中文字幕视频 | 欧美成人中文字幕 | 色偷偷888欧美精品久久久 | 成人免费xxx在线观看 | 久久私人影院 | 国产成人在线综合 | www免费看片com | 国产精品人人做人人爽人人添 | 一区二区中文字幕在线播放 | 欧美肥妇free | 久久久亚洲精品 | 久久狠狠一本精品综合网 | 又黄又爽又色无遮挡免费 | 波多野结衣在线播放视频 | 免费高清国产 | 久久精品官网 | 久久精品国产免费看久久精品 | 中文字幕在线免费看线人 | 精品国产一区二区三区日日嗨 | 成人永久在线 | 免费三级av | 亚洲综合色av | 天天爱天天操天天爽 | 国内精品久久久久久久 | 国产精品一区在线观看 | 久久午夜精品视频 | 丁香综合激情 | 伊人色综合久久天天网 | 亚洲精品国偷拍自产在线观看 | 国产久草在线观看 | 在线观看视频你懂得 | 91香蕉视频色版 | 不卡视频一区二区三区 | 日韩电影中文字幕在线 | 久久久噜噜噜久久久 | 久久99精品久久只有精品 | 91人人爽人人爽人人精88v | 欧美成人xxx| 国产成人高清 | 亚洲高清视频一区二区三区 | 国产精品乱码久久久 | 国产精品女同一区二区三区久久夜 | 亚洲精品高清在线观看 | 婷婷久久网| 免费涩涩网站 | 国产精品理论在线观看 | 亚洲永久精品在线观看 | 日韩中文字幕在线 | 亚洲国产中文在线 | 日韩免费在线观看视频 | 国产精品久久久久久久久久直播 | 久久久久久蜜桃一区二区 | 在线观看www. | 欧美性春潮 | 久久999精品 | 精品在线你懂的 | 九九亚洲精品 | 日韩成人免费电影 | 在线观看色网 | 日韩网站中文字幕 | 国产高清在线免费观看 | 一区二区三区四区在线免费观看 | 最新久久免费视频 | 免费看三级网站 | 深爱婷婷 | 福利一区二区在线 | 欧美天天射 | 天天射天天干天天操 | 国产视频一区二区在线播放 | 中文字幕免费一区二区 | 手机av在线网站 | 欧美一级看片 | 91自拍成人 | 黄色片免费在线 | 天天操天天添天天吹 | 黄色性av | 国产精品久久久久久久久久不蜜月 | 日本性久久 | 一级黄色在线免费观看 | 激情综合六月 | 天天干夜夜爱 | 天天爽天天搞 | 黄网av在线 | 99热免费在线 | 日韩 在线| 午夜体验区 | 国产一区不卡在线 | 国产69久久精品成人看 | 亚洲精品视频在线观看免费 | 国产精品欧美日韩在线观看 | 久久精品中文字幕少妇 | 日韩性色 | 久久久高清免费视频 | 最新超碰 | 亚洲欧美在线视频免费 | 天天操夜夜摸 | 国产乱码精品一区二区蜜臀 | 国产精品成人在线 | 久久免费的精品国产v∧ | 超碰在线97观看 | 视频精品一区二区三区 | 成人动漫视频在线 | 青草视频在线 | 久久精品女人毛片国产 | 五月婷婷久久丁香 | 夜夜操网 | 看av免费 | 国色天香在线观看 | 日韩国产欧美在线播放 | 久久久久免费精品国产小说色大师 | 成人丁香花 | 最新国产福利 | 亚洲成人一区 | 午夜免费视频网站 | 久久国产精品视频 | 精品国产一区二区三区在线观看 | www.福利| 蜜桃视频精品 | 人人爱人人添 | 亚洲区视频在线观看 | 免费在线观看成人小视频 | 成人av免费网站 | 国色天香在线观看 | 欧美色精品天天在线观看视频 | 国产精品麻豆91 | 色噜噜狠狠狠狠色综合久不 | 欧美日韩午夜 | 91激情在线视频 | 视频一区在线免费观看 | 九九国产精品视频 | 在线观看日韩中文字幕 | 亚洲成人黄色在线观看 | 国产小视频在线免费观看视频 | 色综合咪咪久久网 | 超碰在线成人 | 日韩中文字幕在线不卡 | 日韩午夜精品 | 精品久久一区二区 | 91九色视频网站 | 亚洲人人爱 | 国产精品欧美在线 | 欧美一二三视频 | 一区二区三区日韩精品 | 中字幕视频在线永久在线观看免费 | 亚洲涩涩网 | 93久久精品日日躁夜夜躁欧美 | 亚洲黄色一级大片 | 日本中文字幕在线视频 | 久久综合爱 | 91网址在线观看 | 91夫妻视频| 精品国产_亚洲人成在线 | 美女国产在线 | 蜜臀av.com | 99热精品久久 | 999一区二区三区 | 天堂av在线网址 | 97人人澡人人添人人爽超碰 | 婷婷伊人综合亚洲综合网 | 久久久精品综合 | 激情五月在线 | 亚洲视频电影在线 | 五月婷婷丁香六月 | 手机av看片 | 午夜电影 电影 | 久久综合色天天久久综合图片 | 91精品视频一区二区三区 | 欧美日韩一区二区三区在线免费观看 | 六月丁香六月婷婷 | 国产在线观 | 综合网色| 欧美一区二区精品在线 | 天天草综合网 | 国产免费亚洲高清 | 国产精品av在线 | 精品久久久久久综合日本 | 亚洲v欧美v国产v在线观看 | 国产精品21区 | 中文字幕在线观看你懂的 | 99久久99久久精品国产片 | 久久国产欧美日韩精品 | 国产成人免费在线观看 | 毛片www | 日本中文字幕在线看 | 三级av免费 | 97国产 | 在线视频 精品 | 国产成人亚洲在线电影 | 欧美最猛性xxxxx免费 | av在线免费网站 | 成年人免费av网站 | 日韩欧美电影网 | 少妇bbb搡bbbb搡bbbb′ | 一级理论片在线观看 | 日韩在线一级 | 开心婷婷色 | 国产黄色片网站 | 99久热在线精品视频 | 国产人成看黄久久久久久久久 | 精品久久福利 | 国产成人精品综合久久久 | 国产精品成人免费一区久久羞羞 | 九九热国产视频 | 天天夜操| 国产99中文字幕 | 欧美精品v国产精品v日韩精品 | 久久久久久久久久网 | 久久久久国产成人免费精品免费 | 中文字幕频道 | 天堂av高清 | 国产亚洲欧美在线视频 | 亚洲日本色 | 欧美日韩免费在线视频 | 日本中文字幕在线一区 | 黄色片网站大全 | 五月婷婷视频在线观看 | 国产成人l区 | 十八岁以下禁止观看的1000个网站 | 国产真实在线 | 国产乱码精品一区二区三区介绍 | 天天久久综合 | 黄a在线看 | 国产香蕉久久 | 91手机电视 | 日日夜夜中文字幕 | 亚洲综合在线发布 | 91污在线| 在线视频日韩欧美 | 免费观看久久久 | 在线观看免费中文字幕 | 国产精品网址在线观看 | 久草视频观看 | 91在线免费观看网站 | 国产色道 | 午夜精品一区二区三区免费 | 婷婷久久久久 | 亚洲一区天堂 | 精品国产一区二区三区日日嗨 | 国产最新精品视频 | 亚洲综合在线五月 | 国产三级午夜理伦三级 | 在线观看av的网站 | 亚洲一区二区三区精品在线观看 | 国产成人av综合色 | 国产亚洲精品久久久久久移动网络 | 久久99久久精品 | 国产精品久久久久高潮 | 久久久久激情 | 综合中文字幕 | 91精品国产成 | a成人在线| 人人盈棋牌 | 黄色在线免费观看网址 | 免费电影一区二区三区 | 成人av动漫在线观看 | 99视频99| 久久精品视频日本 | 国产中文字幕视频在线观看 | 成人小视频在线观看免费 | 亚洲一区二区黄色 | 国产精品久久久久久久久久白浆 | 亚洲精品字幕在线观看 | 免费看国产曰批40分钟 | 亚洲国产免费看 | 国产亚洲成人网 | 国产精品综合久久久 | 国产涩涩网站 | 四虎在线免费观看 | 中文在线资源 | 99精品视频网| 国产不卡在线看 | 少妇bbw搡bbbb搡bbb | 免费成人黄色片 | 国产精品va在线 | a级片韩国 | 国产高清免费在线观看 | 日本久久影视 | 国产麻豆剧传媒免费观看 | 日韩综合色 | 日日草视频 | 国产精品免费久久久 | 2021av在线 | 激情丁香月 | 精品99久久久久久 | 亚洲欧美日本国产 | 99这里精品| 激情五月播播久久久精品 | 欧美成人精品欧美一级乱黄 | 国产精品久久一区二区无卡 | 一区二区成人国产精品 | 成人国产精品久久久春色 | 亚洲va欧美va人人爽春色影视 | 国产一区二区三区四区在线 | 97香蕉久久超级碰碰高清版 | 美女网站视频色 | 狠狠色狠狠色综合日日小说 | 免费看成人av | 激情综合五月天 | 中文视频一区二区 | 国产专区第一页 | 久久国产精品色婷婷 | 亚洲国产视频在线 | 97人人模人人爽人人喊中文字 | 91精品国产成人 | 亚洲动漫在线观看 | 久久久免费观看视频 | 久久久影院一区二区三区 | 日韩网站免费观看 | 免费视频一二三区 | 国产精品麻豆一区二区三区 | 免费国产在线精品 | 国内精品美女在线观看 | 欧美国产日韩在线视频 | 精品免费一区 | 精品国产电影一区二区 | 狠狠狠狠狠狠干 | 国产亚洲精品久久久久久久久久 | 毛片一区二区 | 免费av一级电影 | 免费a网 | 国产午夜精品一区二区三区欧美 | 91精品爽啪蜜夜国产在线播放 | 一区二区三区av在线 | 玖玖爱免费视频 | 在线一二三四区 | 九色琪琪久久综合网天天 | 349k.cc看片app | 国产成视频在线观看 | www.夜色.com| 日本精品一区二区三区在线观看 | 一区二区电影在线观看 | 欧美在线91 | 国产伦理精品一区二区 | 涩涩色亚洲一区 | 四虎伊人| 精品国产伦一区二区三区观看体验 | a黄色一级片 | 精品一区二区三区久久 | 黄色的片子 | 免费精品视频在线 | 青青色影院 | 久草在线观看视频免费 | 亚洲少妇xxxx | 国产中文在线字幕 | 久草影视在线观看 | 99久高清在线观看视频99精品热在线观看视频 | 色婷婷精品大在线视频 | 99精品在线免费观看 | 久久高清免费观看 | 久章操| 狠狠狠色丁香婷婷综合激情 | 91自拍视频在线 | 国产一级黄色电影 | 91精品在线视频观看 | 91大神免费视频 | 五月婷婷视频在线 | 成人av免费看 | 成人网页在线免费观看 | 久久精品网址 | 国产r级在线观看 | 色免费在线 | 在线超碰av | 在线观看成年人 | 精品国产一区二区三区久久久久久 | 激情自拍av | 日韩一二区在线观看 | 亚洲精品66 | 中文字幕在线观看第一页 | 伊人精品在线 | 激情欧美一区二区免费视频 | 99精品在线免费观看 | 日韩特级黄色片 | 免费观看的黄色片 | 婷婷久久久久 | 国产分类视频 | 国产不卡视频在线 | 伊人视频 | 婷婷网在线| 国产vs久久 | 97国产精品久久 | 欧美综合色| 国产精品久久久久久久久久久久午夜片 | 婷婷视频 | 久久综合久久综合这里只有精品 | www.狠狠操| 久草久视频 | 成年人在线视频观看 | 中文字幕视频一区二区 | 欧美精品一区二区在线播放 | 在线观看av国产 | 国产一区二区三区免费在线观看 | 婷婷激情五月 | 国产精品久久99 | 国产大陆亚洲精品国产 | 亚洲成av人电影 | 国产视频18 | 色视频网址 | 天天色天天上天天操 | 日韩免费在线一区 | 亚洲成人精品久久 | 国产视频在线免费观看 | 在线观看视频一区二区三区 | 久久久久这里只有精品 | 欧美一二三在线 | 激情五月在线观看 | 国产区高清在线 | 国产视频1区2区3区 久久夜视频 | 午夜美女福利直播 | 亚洲精品视频免费看 | 插插插色综合 | 久久这里只有精品首页 | 中文字幕成人 | 欧美日韩亚洲一 | 成人黄色大片在线观看 | 国产破处在线播放 | 久草视频观看 | 97超碰在线视 | 91桃色视频 | 成 人 黄 色 视频免费播放 | 91亚洲狠狠婷婷综合久久久 | 欧美激情精品一区 | 2023年中文无字幕文字 | 日韩欧三级| www.午夜 | 人人插人人| 91九色最新地址 | 四虎成人网 | 玖玖在线观看视频 | 在线观看久久久久久 | 人人精品久久 | 日本精品一区二区三区在线播放视频 | 国产视频亚洲精品 | 日韩精品免费一区二区在线观看 | 日韩在线视频观看免费 | 免费在线色电影 | 久久麻豆精品 | 91福利视频久久久久 | 久久综合欧美 | 91av福利视频 | 国产精品久久99精品毛片三a | 最新中文字幕视频 | 成年人在线免费看视频 | 久久99免费观看 | 久久久久伦理电影 | 99精品网站 | 国产黄色免费观看 | 欧美成人xxxx | 色综合天天综合网国产成人网 | 精品电影一区二区 | 国产精品久久伊人 | 欧美大jb| 国产成人免费在线观看 | 国产精品影音先锋 | 久久免费国产精品1 | 国产明星视频三级a三级点| 国产在线观看你懂得 | 日批在线观看 | 日韩在线网址 | 国产高清不卡 | 国产在线资源 | 日韩成人免费观看 | 国产精品一区二区三区观看 | 五月婷婷欧美视频 | 深夜免费网站 | 国产香蕉在线 | 欧美日韩中文在线观看 | 国产一二区视频 | 欧美91在线| 日韩精品中文字幕在线播放 | 中文字幕在线观看第二页 | 国产精品久久久久aaaa九色 | 97操碰 | 午夜视频在线观看一区二区三区 | 亚洲视频在线免费看 | 欧美性粗大hdvideo | 欧美日韩高清不卡 | 免费影视大全推荐 | 久草香蕉在线视频 | 青青草在久久免费久久免费 | 久久久午夜精品福利内容 | 91视频高清 | 欧美日韩国产一区二区在线观看 | 国产专区在线视频 | 激情网五月婷婷 | 国产麻豆视频网站 | 日韩av在线不卡 | 久久久在线观看 | 国产精品1区 | 992tv人人网tv亚洲精品 | 啪嗒啪嗒免费观看完整版 | 久久在线看 | 国产精品综合久久 | 看片一区二区三区 | 97在线观看免费视频 | 亚洲人成综合 | www.色午夜 | 日日干精品 | wwxxxx日本 | 欧美成人免费在线 | 亚洲视频电影在线 | 国产不卡免费视频 | 五月天狠狠操 | 激情综合国产 | 91大神视频网站 | 9色在线视频 | 久久好看免费视频 | 深夜免费福利视频 | 91丨九色丨国产在线 | 免费看十八岁美女 | 免费观看日韩av | 国产理伦在线 | 人人爱人人舔 | 久久天天躁狠狠躁亚洲综合公司 | 亚洲一区 影院 | 在线看国产精品 | 在线看不卡av | 91最新在线观看 | 成人黄色电影在线观看 | 在线看不卡av | 9999国产| 亚洲精品国产综合久久 | 欧美日韩午夜在线 | 国产一区二区三区午夜 | 久久久香蕉视频 | 97视频播放| 久久国产精彩视频 | 最新av网站在线观看 | 免费在线观看成人小视频 | 成年人免费在线观看 | 欧美日韩高清一区二区 国产亚洲免费看 | 国产高清在线免费 | 国产又粗又猛又黄 | 国产精品久久久久永久免费观看 | 日韩av影视在线观看 |