Tutto l'open source
Open SourceAutomazione39k

Apache Airflow

La piattaforma standard del settore per creare e pianificare workflow DAG.

Apache Airflow è una piattaforma open-source collaudata per creare, pianificare e monitorare in modo programmatico workflow definiti come grafi aciclici diretti in Python. È lo standard de facto per l'orchestrazione nel data engineering, con un vasto ecosistema di provider, una ricca UI web per il monitoraggio delle esecuzioni ed executor modulari per scalare su Celery, Kubernetes e altro. È governata dalla Apache Software Foundation.

Repository

apache/airflow

Linguaggio

Python

Cosa ci costruiresti

  • Pianificare e monitorare DAG complessi di data engineering ed ETL su molteplici sistemi
  • Orchestrare pipeline ricorrenti di training AI/ML e feature engineering con gestione delle dipendenze
  • Integrare centinaia di provider (cloud, database, API) in un unico piano di workflow osservabile

Tag

orchestrationdagdata-engineeringscheduling