1. 引言
Airflow是Airbnb開源的一個用Python寫就的工作流管理平臺(workflow management platform)。在前一篇文章中,介紹了如何用Crontab管理數(shù)據(jù)流,但是缺點也是顯而易見。針對于Crontab的缺點,靈活可擴(kuò)展的Airflow具有以下特點:
工作流依賴關(guān)系的可視化;
日志追蹤;
(Python腳本)易于擴(kuò)展
對比Java系的Oozie,Airflow奉行“Configuration as code”哲學(xué),對于描述工作流、判斷觸發(fā)條件等全部采用Python,使得你編寫工作流就像在寫腳本一樣;能debug工作流(test backfill命令),更好地判別是否有錯誤;能更快捷地在線上做功能擴(kuò)展。Airflow充分利用Python的靈巧輕便,相比之下Oozie則顯得笨重厚拙太多(其實我沒在黑Java~~)?!?a style="margin: 0px; padding: 0px; color: rgb(0, 105, 214); font-weight: inherit; line-height: inherit;">What makes Airflow great?》介紹了更多關(guān)于Airflow的優(yōu)良特性;其他有關(guān)于安裝、介紹的文檔在這里、還有這里。
下表給出Airflow(基于1.7版本)與Oozie(基于4.0版本)對比情況:
延伸閱讀
- ssh框架 2016-09-30
- 阿里移動安全 [無線安全]玩轉(zhuǎn)無線電——不安全的藍(lán)牙鎖 2017-07-26
- 消息隊列NetMQ 原理分析4-Socket、Session、Option和Pipe 2024-03-26
- Selective Search for Object Recognition 論文筆記【圖片目標(biāo)分割】 2017-07-26
- 詞向量-LRWE模型-更好地識別反義詞同義詞 2017-07-26
- 從棧不平衡問題 理解 calling convention 2017-07-26
- php imagemagick 處理 圖片剪切、壓縮、合并、插入文本、背景色透明 2017-07-26
- Swift實現(xiàn)JSON轉(zhuǎn)Model - HandyJSON使用講解 2017-07-26
- 阿里移動安全 Android端惡意鎖屏勒索應(yīng)用分析 2017-07-26
- 集合結(jié)合數(shù)據(jù)結(jié)構(gòu)來看看(二) 2017-07-26
