Deep-dive to Transformer!

Imcommit's lowest Transformer lecture

1. Deeplearning tutorial

Data: toy dataset의 일종인 IMDB 데이터셋으로,
Model: Transformer가 아닌 간단한 구조의 모델로,
Training: 딥러닝 모델의 학습 방식을 숫자로 간단히 확인하는

코드입니다. 해설: 링크

1. 데이터셋을 deeplearning_tutorial 폴더에 다운로드: google drive
2. cd deeplearning_tutorial
3. python main.py

2. Data

데이터 실습 코드 링크

1. cd data_modularized
2. python main.py

과제: stanford imdb dataset을 다운받고 imdb.py를 수정해서 학습시키기