Проект представляет собой тестовое задание, реализующее сбор данных с интернет-магазина. Основная задача — получить информацию о товарах с карточек товара и сохранить её в базе данных для последующего анализа или контроля.
Парсинг данных реализован тремя разными способами:
- BeautifulSoup — классический подход для статических страниц;
- Selenium — автоматизация браузера для работы с динамическим контентом;
- Playwright — современный инструмент для быстрого и надёжного парсинга динамических сайтов.
Собранные данные записываются в PostgreSQL через Django ORM. Для удобного просмотра и контроля данных используется pgAdmin, также работающий в Docker-контейнере.
- Backend: Django
- Парсинг: requests + BeautifulSoup, Selenium, Playwright
- База данных: PostgreSQL
- Контейнеризация: Docker, docker-compose
- Контроль данных: pgAdmin
- Запуск скрипта парсера.
- Сбор данных о товарах тремя разными методами.
- Сохранение данных через Django-модели в PostgreSQL.
- Проверка и управление данными через pgAdmin.
- Демонстрируется работа с разными подходами к парсингу (статический и динамический контент).
- Полностью контейнеризированная среда упрощает запуск и тестирование проекта.
- Проект служит примером организации пайплайна от сбора данных до хранения и контроля через веб-интерфейс.
Проект носит демонстрационный характер как тестовое задание. Основное назначение — показать реализацию процесса парсинга и работы с базой данных в рамках Django и Docker.