Open SourceAutomatisation39k
Apache Airflow
La plateforme de référence pour la création et la planification de workflows en DAG.
Apache Airflow est une plateforme open-source éprouvée pour créer, planifier et surveiller programmatiquement des workflows définis sous forme de graphes acycliques dirigés en Python. C'est la référence de facto pour l'orchestration de l'ingénierie des données, avec un vaste écosystème de fournisseurs, une interface web riche pour surveiller les exécutions, et des exécuteurs modulables pour passer à l'échelle via Celery, Kubernetes et bien d'autres. Elle est gouvernée par l'Apache Software Foundation.
Dépôt
apache/airflowLangage
PythonCe que vous pourriez construire avec
- Planifier et surveiller des DAGs d'ingénierie des données et ETL complexes sur de nombreux systèmes
- Orchestrer des pipelines récurrents d'entraînement AI/ML et de features avec gestion des dépendances
- Intégrer des centaines de fournisseurs (cloud, bases de données, APIs) dans un plan de workflow observable
Tags
orchestrationdagdata-engineeringscheduling