Open SourceAutomazione39k
Apache Airflow
La piattaforma standard del settore per creare e pianificare workflow DAG.
Apache Airflow è una piattaforma open-source collaudata per creare, pianificare e monitorare in modo programmatico workflow definiti come grafi aciclici diretti in Python. È lo standard de facto per l'orchestrazione nel data engineering, con un vasto ecosistema di provider, una ricca UI web per il monitoraggio delle esecuzioni ed executor modulari per scalare su Celery, Kubernetes e altro. È governata dalla Apache Software Foundation.
Repository
apache/airflowLinguaggio
PythonCosa ci costruiresti
- Pianificare e monitorare DAG complessi di data engineering ed ETL su molteplici sistemi
- Orchestrare pipeline ricorrenti di training AI/ML e feature engineering con gestione delle dipendenze
- Integrare centinaia di provider (cloud, database, API) in un unico piano di workflow osservabile
Tag
orchestrationdagdata-engineeringscheduling