Repo med eksempler på hvordan forskjellige Airflow operators kan brukes.
De enkleste operatorene å bruke er BashOperator og PythonOperator.
Disse bør de flestes behovet for Airflow DAGs.
Merk at ingen av de offisielle operatorene vil fungere dersom koden som skal kjøres finnes i et annet repo enn teamets dag
repo.
Har man DAGs definisjoner i et repo og selve koden som skal kjøres i et annet repo kan man bruke Dataverk Airflow i stedet.
For å forenkle det å kjøre Airflow Dags har vi lagd Dataverk Airflow, som er en gruppe operators som alle lar deg klone et ekstern repo, og installere Python-pakker ved oppstart.
Operators vi har støtte for er Python
, Notebook
, og Quarto
.
Vi har også overskrevet KubernetesPodOperator
som har støtte for kloning, og installasjon av Python pakker, mens ellers ikke gjøre noe spesielt.
I dags
mappen finner du eksempel på både Slack notifikasjon og E-post notifikasjon