Weekly Report #7
- 같은 단어가 계속 나오는 이유가 뭘까?
- 특수 기호, 외국어 처리는 어떻게 해야하나?
- 이런 경우 그대로 출력되도록 하게 할 수 없을까?
- unknown 중 특수기호는 그대로 출력되도록?
- unknown말고 지정해서 특수기호는 다른 tag로 지정해서?
- unknown 딕셔너리를 만들어서 몇 번째 특수기호 그대로 출력?
- 영어는 띄어쓰기 단위로 한번 해볼까
- 한글도 다른 임베딩 방법을 사용하면 더 좋을까?
- 아니면 임베딩이 잘못 된 걸까?
- 리얼셀러 , GPU 서버 이야기 마치기 (최대한 빨리 서버로 돌려보아야 우리가 잘 하고 있는지 아닌지 알 수 있을듯)
- 특수기호, 외국어, 숫자 어떻게 처리하는 것이 좋을지 고민해오기.
EPOCH 2
EPOCH 3
데이터셋 : sample data
learning rate : 0.0003
tokenizer : 조사 tag 제거
--