Tout l'open source
Open SourceAutomatisation39k

Apache Airflow

La plateforme de référence pour la création et la planification de workflows en DAG.

Apache Airflow est une plateforme open-source éprouvée pour créer, planifier et surveiller programmatiquement des workflows définis sous forme de graphes acycliques dirigés en Python. C'est la référence de facto pour l'orchestration de l'ingénierie des données, avec un vaste écosystème de fournisseurs, une interface web riche pour surveiller les exécutions, et des exécuteurs modulables pour passer à l'échelle via Celery, Kubernetes et bien d'autres. Elle est gouvernée par l'Apache Software Foundation.

Dépôt

apache/airflow

Langage

Python

Ce que vous pourriez construire avec

  • Planifier et surveiller des DAGs d'ingénierie des données et ETL complexes sur de nombreux systèmes
  • Orchestrer des pipelines récurrents d'entraînement AI/ML et de features avec gestion des dépendances
  • Intégrer des centaines de fournisseurs (cloud, bases de données, APIs) dans un plan de workflow observable

Tags

orchestrationdagdata-engineeringscheduling