大数据调度平台Airflow(一):什么是Airflow
生活随笔
收集整理的這篇文章主要介紹了
大数据调度平台Airflow(一):什么是Airflow
小編覺得挺不錯的,現在分享給大家,幫大家做個參考.
什么是Airflow
Apache Airflow是一個提供基于DAG有向無環圖來編排工作流的、可視化的分布式任務調度平臺,與Oozie、Azkaban等任務流調度平臺類似。Airflow在2014年由Airbnb發起,2016年3月進入Apache基金會,在2019年1月成為頂級項目。Airflow采用Python語言編寫,提供可編程方式定義DAG工作流,可以定義一組有依賴的任務,按照依賴依次執行, 實現任務管理、調度、監控功能。
另外,Airflow提供了WebUI可視化界面,提供了工作流節點的運行監控,可以查看每個節點的運行狀態、運行耗時、執行日志等。也可以在界面上對節點的狀態進行操作,如:標記為成功、標記為失敗以及重新運行等。在Airflow中工作流上每個task都是原子可重試的,一個工作流某個環節的task失敗可自動或手動進行重試,不必從頭開始跑。
Airflow官網:http://airflow.apache.org/,Airflow支持的任務調度類型如下:
- 📢博客主頁:https://lansonli.blog.csdn.net
- 📢歡迎點贊 👍 收藏 ?留言 📝 如有錯誤敬請指正!
- 📢本文由 Lansonli 原創,首發于 CSDN博客🙉
- 📢大數據系列文章會每天更新,停下休息的時候不要忘了別人還在奔跑,希望大家抓緊時間學習,全力奔赴更美好的生活?
總結
以上是生活随笔為你收集整理的大数据调度平台Airflow(一):什么是Airflow的全部內容,希望文章能夠幫你解決所遇到的問題。
- 上一篇: 客快物流大数据项目(六十二):主题及指标
- 下一篇: 大数据调度平台Airflow(三):Ai