В этом репозитории содержатся два домашних задания по теме "Оркестраторы" с использованием Apache Airflow:
hw1_iris- Пайплайн машинного обучения для классификации ирисовhw2_weather- Сбор данных о погоде через API OpenWeatherMap
- Перейдите в директорию первого задания:
cd hw1_iris- Создайте и активируйте виртуальное окружение:
# Windows
python -m venv venv
venv\Scripts\activate
# Linux/macOS
python -m venv venv
source venv/bin/activate- Установите зависимости в правильном порядке:
pip install numpy==1.24.3
pip install -r requirements.txt- Запустите пайплайн:
python run_pipeline.py- После успешного запуска должны появиться следующие файлы:
dataset/iris.csv- исходный датасетdataset/iris_train.csv- обучающая выборкаdataset/iris_test.csv- тестовая выборкаmodel.pkl- обученная модельmodel_metrics.json- метрики модели
Полные инструкции по настройке Airflow находятся в README.md первого задания.
- Перейдите в директорию второго задания:
cd hw2_weather- Убедитесь, что в файле
.envуказан ваш API ключ OpenWeatherMap:
OPENWEATHERMAP_API_KEY=your_api_key_here
- Создайте и активируйте виртуальное окружение:
# Windows
python -m venv venv
venv\Scripts\activate
# Linux/macOS
python -m venv venv
source venv/bin/activate- Установите зависимости:
pip install -r requirements.txt- Запустите тестовый скрипт:
python test_weather.py- После успешного запуска должен появиться файл
weather.csvс данными о погоде.
Полные инструкции по настройке Airflow находятся в README.md второго задания.
- В обоих заданиях предусмотрена возможность запуска без настройки Airflow для быстрой проверки функциональности.
- В файлах
.gitignoreуказаны файлы, которые не должны попадать в репозиторий. - API ключ OpenWeatherMap не должен быть загружен в репозиторий и хранится в файле
.env, который указан в.gitignore.