Hystrix

問題產生

• 雪崩效應： 一種因為服務提供者的不可用導致服務調用者不可用，并將不可用情況逐漸放大的過程

• 形成過程：

  • 服務提供者不可用：
    • 硬件故障，硬件損壞，服務器宕機，網絡硬件故障，造成不可用
    • 程序bug
    • 緩存擊穿：大量請求同一個key此處key過期，導致loder到DB造成服務提供者過載導致不可用
    • 用戶大量請求：
  • 重試加大流量：
    • 用戶重試：用戶不斷刷新頁面
    • 代碼邏輯重試：服務調用端存在服務異常之后的重試邏輯
  • 服務調用者不可用：
    • 同步調用等待造成資源耗盡，服務調用者此時也不可用，造成服務雪崩

• Hystrix工作原理

  • 線程池隔離：Hystrix隔離方式采用線程/信號量的方式，通過隔離限制依賴的并發量和阻塞擴散
    • 線程隔離： hystrix在每一個依賴調用分配了一個線程池，單線程池滿了調用將會立即被拒絕，默認采用不排隊，加速失敗判定，線程數是可以被設定的。
    • 原理： 用戶請求將不直接依賴于服務本身，而是通過線程池中空閑線程來范文服務，如果線程池已滿，擇進行降級處理，用戶請求不會被阻塞，至少可以有一個執行結果，例如友好的提示，而不是無休止的等待知道系統奔潰
  • 信號隔離：類似信號量的一個使用，用于限制并發訪問，反正阻塞擴散，與現場隔離最大不同在于執行依賴代碼的線程依然是請求線程(改線程需要通過信號申請，如果客戶端是可以信的且可以快速放回，可以使用信號隔離代替線程隔離，降低開銷)，信號量大小可以動態調整

• 熔斷器：circuit Breaker

  • 熔斷器是位于線程池之前的組建，當用戶請求某一個服務之后，hystrix會先經過熔斷器，此時如果熔斷器的狀態是打開，說明已經熔斷的，這時將直接進行降級處理，不會繼續發送請求到線程池，熔斷器相當于線程池之前的一層屏障，每個熔斷器默認維護十個bucket，美妙創建一個bucket，每個bucket記錄成功，失敗，超時，拒絕次數，當新的bucket被創建，舊的bucket被拋棄，依照bucket的記錄來決定是否打開或者關閉斷路器。
  • 熔斷器狀態機：
    • closed：熔斷器關閉狀態，調用失敗次數累計到了閥值，或者一定比例，擇啟動熔斷機制。
    • open：熔斷打開狀態，下游調用直接返回錯誤，不走網絡，不進入線程池，進入這個狀態之后，設計了一個時鐘選型，默認時間達到一定時間（一般設置成平均故障處理事件也就是MTTR）會進入半熔斷狀態
    • half-open：半熔斷狀態，允許定量的服務請求（也就是一部分請求嘗試）如果調用都成功，或者一定比例成功，則認為恢復，關閉斷路器，否則認為還沒好，有回到熔斷打開狀態。

• 熔斷流程：

  • 將請求request封裝成一個HystrixCommend,或者HystrixObservableCommand對象
  • 執行execute(),queue()方法來做同步或者異步調用
  • 如果Hystrix緩存中有數據，則讀取緩存數據，之后返回
  • 檢查熔斷器，circuit-breaker是否打開，如果打開，擇直接執行getFallback方法降級處理
  • 判斷線程池，信號量，隊列是否被占滿，如果滿直接執行getFallBack方法降級處理
  • 執行HystrixObservableCommand.construct()或者HystrixCommand.run()
  • 如果調用超時，執行getFallback方法
  • 如果調用異常拋出HystrixBadRequestException，也直接執行getFallback方法
  • 調用成功返回成功結果
  • getFallBack降級邏輯，以下情況執行
    • 斷路器已經打開
    • 線程池，隊列，信號量滿
    • run方法執行拋出HystrixBadrequestException
    • run方法超時
  • 沒有實現getFallBack方法直接拋出異常信息
  • 降級邏輯失敗，也直接拋異常

• Hystrix執行方式：剛才說的HystricCommend中的run方法，Hystrix可以有不同的執行策略

  • execute為代表的同步執行：一旦開始執行，當前線程就得阻塞一直等到命令返回結果
  • queue座位代表的異步執行：命令執行開始返回一個future對象，不阻塞后面的邏輯，開發者更具自己需求獲取結果
  • 響應式執行，HystrixObservableCommand中使用的模式：命令會返回一個Observable對象，開發可以給Observable對象注冊上Observable，通過Rxjava的方式響應式的處理命令執行過程中的不同階段，比如HystrixCommand中的Observer方法去消費observable中生產的事件。

總結

以上是生活随笔為你收集整理的Hystrix能解决的问题的全部內容，希望文章能夠幫你解決所遇到的問題。

如果覺得生活随笔網站內容還不錯，歡迎將生活随笔推薦給好友。