Прикольная штука
https://airflow101.python-jitsu.club/ курс по Airflow! Я бы записался, но знаю точно, что не пройду до конца, и потеряю 5к, поэтому не запишусь. На нашем ресурсе datalearn мы тоже затронем Airflow, но без углубления.
Airflow - это такой популярный open source инструмент для интеграции данных (в народе ETL).
Кстати в Amazon его используют, недавно нашел команду, кто от него отказывается, типа сложно поддерживать
Мы же в DWH запилили свой мини-фреймворк ETL и свой мини-оркестратор, которые тупы, как бревно (отсюда и простота в поддержке). Основной прикол нашего оркестратора заключается в том, что он может менять DAG в runtime: мы часто пересчитываем витрины пачками (целые ветки), поэтому, чтобы разные пересчеты не аффектили друг-друга - меняем DAG на лету.