Flink从入门到精通100篇(十七)-Spark/Flink广播如何实现作业配置动态更新?
生活随笔
收集整理的這篇文章主要介紹了
Flink从入门到精通100篇(十七)-Spark/Flink广播如何实现作业配置动态更新?
小編覺得挺不錯的,現在分享給大家,幫大家做個參考.
前言
在實時計算作業中,往往需要動態改變一些配置,舉幾個栗子:
實時日志ETL服務,需要在日志的格式、字段發生變化時保證正常解析;
實時NLP服務,需要及時識別新添加的領域詞與停用詞;
實時風控服務,需要根據業務情況調整觸發警告的規則。
那么問題來了:配置每次變化都得手動修改代碼,再重啟作業嗎?答案顯然是否定的,畢竟實時任務的終極目標就是7 x 24無間斷運行。Spark Streaming和Flink的廣播機制都能做到這點,本文分別來簡單說明一下。
Spark Streaming的場合
總結
以上是生活随笔為你收集整理的Flink从入门到精通100篇(十七)-Spark/Flink广播如何实现作业配置动态更新?的全部內容,希望文章能夠幫你解決所遇到的問題。
- 上一篇: Tableau十三种图表应用场景及其组合
- 下一篇: Flink从入门到精通100篇(十九)-