Skip to content

radchenkoam/vertica-dbt-docker

Folders and files

NameName
Last commit message
Last commit date

Latest commit

 

History

15 Commits
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 

Repository files navigation

vertica-dbt-docker

❕предназначено только для демонстрационных целей и тестирования❕


Установка:

  • клонировать репозиторий

    $ git clone git@github.com:radchenkoam/vertica-dbt-docker.git
  • скачать образ Vertica Free Community Edition Trial

  • поместить скачанный образ в ./vertica/packages

  • если необходимо - в файле .env изменить значение VERTICA_PACKAGE по имени скачанного образа

  • установить по желанию vsql Client

  • запустить установку проекта

    $ cd vertica-dbt-docker
    $ make setup
  • запустить контейнер с Vertica: $ make vertica-start

  • запустить контейнер с dbt: $ make dbt-start

  • в терминале контейнера dbt загрузить датасет: $ dbt seed

  • развернуть модели: $ dbt run

  • для подключения к Vertica (при установленном vsql Client): $ make vertica-connect

    dbadmin=> \c boston_crimes
    You are now connected to database "boston_crimes" as user "dbadmin".
    boston_crimes=> \dtv+
                                List of tables
     Schema |              Name               | Kind  |  Owner  | Comment
    --------+---------------------------------+-------+---------+---------
     dbt    | crime                           | table | dbadmin |
     dbt    | crimes                          | table | dbadmin |
     dbt    | mrt_offense_all_count           | table | dbadmin |
     dbt    | mrt_offense_by_year_count       | table | dbadmin |
     dbt    | mrt_offense_by_year_month_count | table | dbadmin |
     dbt    | offense_codes                   | table | dbadmin |
     dbt    | seed_rejects                    | table | dbadmin |
     dbt    | stg_crime                       | view  | dbadmin |
     dbt    | stg_offense_codes               | view  | dbadmin |
    (9 rows)
    
    boston_crimes=> select count(*) from dbt.crime;
     count
    --------
     319073
    (1 row)
    
    boston_crimes=> \q
  • удалить проект: $ make project-remove останутся образы python:3.8-slim-buster, ubuntu:18.04 (если необходимо - удалить вручную)


Ссылки:

🔗 Vertica docs 🔗 dbt docs 🔗 docker docs 🔗 portainer docs


💡 для визуализации установки проекта удобно иcпользовать Portainer CE 💡 для подсказки по make-командам - просто набрать в терминале make


❗ не надо менять значения в файле .env в текущей версии, с другими параметрами тестирование не производилось ❗ не надо использовать датасет с Kaggle, пользуйтесь тем, что будет распакован с проектом