Outil · Data Engineering & Big Data

Airflow

Plateforme open source d'orchestration de workflows de données, permettant de planifier et surveiller des pipelines complexes sous forme de graphes de tâches.

Définition

Apache Airflow est une plateforme open source d'orchestration de workflows de données, initialement développée par Airbnb, qui permet de planifier et de surveiller des pipelines complexes sous forme de graphes de tâches (DAG).

Airflow est devenu un standard pour orchestrer des traitements ETL et des pipelines de données exécutés à intervalles réguliers, avec une interface web permettant de visualiser l'état d'avancement et de relancer les tâches en échec.

Aussi appelé : Apache Airflow

Questions fréquentes

Qu'est-ce que Airflow ?

Plateforme open source d'orchestration de workflows de données, permettant de planifier et surveiller des pipelines complexes sous forme de graphes de tâches.

Comment appelle-t-on aussi Airflow ?

Airflow est aussi appelé : Apache Airflow.

Quelles formations Sparks abordent Airflow ?

Airflow, Data Streaming : traitement des données en temps réel, Scala, Apache Kafka, Apache NiFi, Big Data Foundation (avec certification du CCC).