๐ง KoBART summarization using pytorch + copy mechanism
- Data statistics
- Train Data : 29,432
- Valid Data : 7,358
- Test Data : 9,182
- KoBART fine-tuning + Copy Mechanism
Warning
- Since the python libary was directly modified and used, I recommended to use a virtual environment. ๐
- geneartion_utils.py -> /site-packages/transformers/geneartion_utils.py
- modeling_bart.py -> /site-packages/transformers/models/bart/modeling_bart.py
- bash train_test.sh
[Training]
python train.py --train True --test False --batch_size 16 --max_len 512 --lr 5e-05 --epochs 10
[Testing-rouge]
python train.py --train False --test True --batch_size 16 --max_len 512
- Test data's rouge score
rouge-1 | rouge-2 | rouge-l | |
---|---|---|---|
Precision | 0.5333 | 0.3463 | 0.4534 |
Recall | 0.5775 | 0.3737 | 0.4869 |
F1 | 0.5381 | 0.3452 | 0.4555 |
rouge-1 | rouge-2 | rouge-l | |
---|---|---|---|
Precision | 0.5698 | 0.3776 | 0.4882 |
Recall | 0.5561 | 0.3612 | 0.4717 |
F1 | 0.5460 | 0.3545 | 0.4654 |
Text | ||
---|---|---|
1 | ๊ธฐ์ฌ | ๊ฒฝ๊ธฐ๋์ ๊ฒฝ๊ธฐ๋์๊ณต์ฌ๋ ๊ด๊ต์์ฒ, ๋ํํธ์๊ณต์, ์ฑ๋จํ๊ต ๋ฑ 3๊ฐ ์ง๊ตฌ์ ๊ฑด๋ฆฝ ์์ ์ธ ์ด 730๊ฐ๊ตฌ์ ๊ฒฝ๊ธฐํ๋ณต์ฃผํ ์ ์ฃผ์๋ฅผ ๋ชจ์งํ๋ค๊ณ 26์ผ ๋ฐํ๋ค. ๋ชจ์ง ๊ธฐ๊ฐ์ ๋ค์๋ฌ 2์ผ๋ถํฐ 11์ผ๊น์ง์ด๋ฉฐ, โ๊ฒฝ๊ธฐ๋์๊ณต์ฌ ์๋์ฃผํ ์ฒญ์ฝ์ผํฐ(https://apply.gico.or.kr)โ์์ ์ธํฐ๋ท ์ฒญ์ฝ์ ์๋ก ์งํ๋๋ค. ๊ด๊ต์์ฒ ๊ฒฝ๊ธฐํ๋ณต์ฃผํ์ ์ ์ฉ๋ฉด์ 16ใกํ ๋ํ์ 40๊ฐ๊ตฌ์ ์ฒญ๋ 20๊ฐ๊ตฌ, 26ใกํ ์ฒญ๋ 186๊ฐ๊ตฌ์ ๊ณ ๋ น์ 24๊ฐ๊ตฌ, ์ฃผ๊ฑฐ๊ธ์ฌ์๊ธ์ 30๊ฐ๊ตฌ๊น์ง ์ด 300๊ฐ๊ตฌ๋ฅผ ๋ชจ์งํ๋ค. ๋ณด์ฆ๊ธ 2์ฒ729๋ง4์ฒ~4์ฒ783๋ง3์ฒ ์์ ์ ์๋๋ฃ๋ 11๋ง8์ฒ~20๋ง7์ฒ ์์ด๋ค. ์ ์ฃผ ์์ ์ ์ค๋ 2020๋ 11์์ด๋ค. ๋ํํธ์๊ณต์ ๊ฒฝ๊ธฐํ๋ณต์ฃผํ์ ๋ํ2์ ๋์์ 6๊ฐ๋ 995๊ฐ๊ตฌ ์กฐ์ฑ๋๋ ๋๊ท๋ชจ ๋จ์ง์ด๋ค. ์ด๋ฒ ์ ์ฃผ์ ๋ชจ์ง์์๋ ๊ณต๊ธ๋ฉด์ 44ใกํ ์ ํผ๋ถ๋ถ 130๊ฐ๊ตฌ๋ฅผ ์ฐ์ ๋ชจ์งํ๋ฉฐ ์๋์กฐ๊ฑด์ ๋ณด์ฆ๊ธ 5์ฒ๋ง ์์ ์ ์๋๋ฃ 20๋ง8์ฒ ์์ด๋ค. ๋ด๋ 12์ ์ ์ฃผ ์์ ์ผ๋ก, ๋๋จธ์ง ๊ฐ๊ตฌ๋ ์ฐ๋ง์ ๋ชจ์งํ ์์ ์ด๋ค ์ฑ๋จํ๊ต ๊ฒฝ๊ธฐํ๋ณต์ฃผํ์ ์ ์ฉ๋ฉด์ 16ใกํ ์ฐฝ์ ์ธ 100๊ฐ๊ตฌ์ ์ฒญ๋ 124๊ฐ๊ตฌ, 26ใกํ ์ฒญ๋ 46๊ฐ๊ตฌ์ ๊ณ ๋ น์ 30๊ฐ๊ตฌ ๋ฑ ์ด 300๊ฐ๊ตฌ๋ฅผ ๋ชจ์งํ๋ฉฐ, ๋ณด์ฆ๊ธ 3์ฒ876๋ง~6์ฒ992๋ง ์์ ์ ์๋๋ฃ 14๋ง5์ฒ~26๋ง2์ฒ ์์ด๋ค. ๊น์คํ ๋ ๋์์ฃผํ์ค์ฅ์ ""๋๋ด ์ฒญ๋ ์ธต์ ์ฃผ์ ๋์์ผ๋ก ํ ์ฃผ๊ฑฐ๋ณต์ง์ ์ฑ ์ธ ๊ฒฝ๊ธฐํ๋ณต์ฃผํ์ 2022๋ ๊น์ง 1๋งํธ๋ฅผ ๊ณต๊ธํ๋ ๊ณผ์ ์์ ๋งค๋ ๊ณต๊ธ๋ฌผ๋์ด ๋์ด๋ ์์ ""์ด๋ผ๋ฉฐ ""๊ฒฝ๊ธฐํ๋ณต์ฃผํ ์ฌ์ ์๋ ๋ง์ ๊ด์ฌ์ ๊ฐ์ ธ๋ฌ๋ผ""๊ณ ๋งํ๋ค. |
1 | ๋ชจ๋ธ์์ฝ | ๊ฒฝ๊ธฐ๋์ ๊ฒฝ๊ธฐ๋์๊ณต์ฌ๋ ๊ด๊ต์์ฒ, ๋ํํธ์๊ณต์, ์ฑ๋จํ๊ต ๋ฑ 3๊ฐ ์ง๊ตฌ์ ๊ฑด๋ฆฝ ์์ ์ธ ์ด 730๊ฐ๊ตฌ์ ๊ฒฝ๊ธฐํ๋ณต์ฃผํ ์ ์ฃผ์๋ฅผ ๋ชจ์งํ๋ค๊ณ 26์ผ ๋ฐํ์ผ๋ฉฐ ๋ชจ์ง ๊ธฐ๊ฐ์ ๋ค์๋ฌ 2์ผ๋ถํฐ 11์ผ๊น์ง์ด๋ฉฐ, ๋ณด์ฆ๊ธ 2์ฒ729๋ง4์ฒ~4์ฒ783๋ง3์ฒ ์์ ์ ์๋๋ฃ๋ 11๋ง8์ฒ~20๋ง7์ฒ ์์ด๋ค. |
2 | ๊ธฐ์ฌ | ์ ๋จ๊ฐ๋ฐ๊ณต์ฌ, โ์ผ์๋ฆฌ์ฐฝ์ถโ์ฐ์๊ธฐ๊ด ์ ์ ์ ๋จ๊ฐ๋ฐ๊ณต์ฌ ์ฒญ์ฌ ์ ๊ฒฝ. ์ ๋จ๊ฐ๋ฐ๊ณต์ฌ๊ฐ ์ผ์๋ฆฌ์ฐฝ์ถ ์ฐ์๊ธฐ๊ด์ ์ ์ ๋ผ ํ์ ์์ ๋ถ์ฅ๊ด ํ์ฐฝ์ ์์ํ๋ค. 6์ผ ์ ๋จ๊ฐ๋ฐฉ๊ณต์ฌ์ ๋ฐ๋ฅด๋ฉด ์ง๋ 3์ผ ์ธ์ข ์ปจ๋ฒค์ ์ผํฐ์์ ์ด๋ฆฐ 2019๋ ์๋ฐ๊ธฐ ์ง๋ฐฉ๊ณต์ฌยท๊ณต๋จ CEO ๋ฆฌ๋์ญ ํฌ๋ผ์์ ์ด๊ฐ์ด ์์ ํ๋ค๊ณ ๋ฐํ๋ค. ์ ๋จ๊ฐ๋ฐ๊ณต์ฌ๋ ๋ฌธ์ฌ์ธ ์ ๋ถ ์ญ์ ์ฌ์ ์ธ ์ผ์๋ฆฌ์ฐฝ์ถ ์ ์ฑ ์ ์ ๊ทน ๋ถ์ํ๋ฉฐ, ์ง์ญ์ ๊ณ ์ฉ์์ฅ ํ์ฑํํ๊ธฐ ์ํด ์ ๊ท์ฌ์ ๋ฐ๊ตด ๋ฑ์ ์ญ์ ์ ๋๋ค. ์ด ๊ฒฐ๊ณผ ์ง๋ํด 2ํ์ ๊ฑธ์ณ 10๋ช ์ ์ฑ์ฉํ๋ ๋ฑ ์ ๋ถ์ ์ฒญ๋ ๋ฐ ์ฅ์ ์ธ ์๋ฌด๊ณ ์ฉ์ ๋ํ ๊ธฐ์ค์ ์ถฉ์กฑ์์ผฐ๋ค๋ ํ๊ฐ๋ฅผ ๋ฐ์๋ค. ๋ํ ์ง์ญ๋ด ์ฌํ ์ด๋ ์์ ์์ ์ ์ธ ์ทจ์ ์ ๋์์ด ๋ ์ ์๋ ์์ง์ ์ผ์๋ฆฌ ๊ฒฝํ ๋ฐ ์ญ๋์ ์์ ์ ์๋๋ก ์ ๋ผ๋จ๋๊ฐ ์ค์ ์ถ์งํ๊ณ ์๋ โ์ฒญ๋ ๋ด์ผ๋ก ํ๋ก์ ํธโ์ ์ฐธ์ฌํด 7๋ช ์ ์ง์ญ์ธ์ฌ๋ฅผ ์ ๋ฐํ๊ธฐ๋ ํ๋ค. ํนํ ์ ๋จ๊ฐ๋ฐ๊ณต์ฌ์ ์ฑ์ฉ์ ๊ณต์ ์ฑ๊ณผ ํฌ๋ช ์ฑ ์ํด ์ ๋ฉด ๋ธ๋ผ์ธ๋ ์ ์ฐจ์ ๋ฐ๋ผ ์งํ๋๋ฉฐ, ํนํ ๋ฉด์ ์ ์ ์ ์ธ๋ถ๋ฉด์ ์์์ผ๋ก ์งํ๋๋ค. ์ฌํด ์ฑ์ฉ์ ์ ๋ฐ๊ธฐ์ 2๋ช ์ ์ฑ์ฉํ์ผ๋ฉฐํ๋ฐ๊ธฐ์๋ ์ถ๊ฐ๋ก 5๋ช ์ด๋ด์ ๊ท๋ชจ๋ก ์งํ๋ ์์ ์ด๋ค. ํํธ ์ ๋จ๊ฐ๋ฐ๊ณต์ฌ๋ ์ง๋ 2004๋ ์ ๋จ๋๊ฐ ์ค๋ฆฝํ ์ง๋ฐฉ๊ณต๊ธฐ์ ์ผ๋ก ๋จ์ ์ ๋์, ๋น๊ฐ๋ ํ์ ๋์, ์ฌ์๊ฒฝ๋ํด์๊ด๊ด๋จ์ง ๊ฐ๋ฐ์ฌ์ ๋ฑ์ ์ํํ๊ณ , ์ฌ์ ์ฃฝ๋ฆผ์ง๊ตฌ ํ์ง๊ฐ๋ฐ์ฌ์ ๋ ์ถ์งํ ๊ณํ์ด๋ค. |
2 | ๋ชจ๋ธ์์ฝ | ์ ๋จ๊ฐ๋ฐ๊ณต์ฌ๋ ์ง๋ 3์ผ ์ธ์ข ์ปจ๋ฒค์ ์ผํฐ์์ ์ด๋ฆฐ 2019๋ ์๋ฐ๊ธฐ ์ง๋ฐฉ๊ณต์ฌยท๊ณต๋จ CEO ๋ฆฌ๋์ญ ํฌ๋ผ์์ ์ผ์๋ฆฌ์ฐฝ์ถ ์ฐ์๊ธฐ๊ด์ ์ ์ ๋ผ ํ์ ์์ ๋ถ์ฅ๊ด ํ์ฐฝ์ ์์ํ๋ค. |
3 | ๊ธฐ์ฌ | ๊ด์ฃผ์๋ ์ง์ญ ์ ๋ง๊ฐ์๊ธฐ์ ์ ๋ฐ๊ตดยท์ก์ฑํ๊ธฐ ์ํด ์ด์ํ๊ณ ์๋ โ100๋ ๋ช ํ๊ฐ์๊ธฐ์ ์ก์ฑ์ฌ์ โ์ ์ฐธ๊ฐํ ๊ธฐ์ ์ ๋ชจ์งํ๋ค. ๋ช ํ๊ฐ์๊ธฐ์ ์ก์ฑ์ฌ์ ์ ์ฑ์ฅ ์ ์ฌ๋ ฅ๊ณผ ๋ฐ์ด๋ ๊ธฐ์ ๋ ฅ์ ๊ฐ์ง ์ง์ญ ์ค์ยท์ค๊ฒฌ๊ธฐ์ ์ ๋ฐ๊ตดํด ์ง์ญ๊ฒฝ์ ๋ฅผ ๊ฒฌ์ธํ ๊ธ๋ก๋ฒ ๊ธฐ์ ์ผ๋ก ์ก์ฑํ๊ธฐ ์ํ ์์ฑ ์ผ๋ก, 2014๋ ์์๋ผ ์ฌํด๋ก 6๋ ์งธ๋ฅผ ๋ง์๋ค. ๋ชจ์ง๋์์ ๊ณต๊ณ ์ผ ํ์ฌ ๋ณธ์ฌ์ ์ฃผ์ฌ์ ์ฅ์ด ๊ด์ฃผ์ ์์นํ ์ ์กฐ์ ๋ฐ ์ง์์๋น์ค์ฐ์ ๊ธฐ์ ์ผ๋ก ์ด 30๊ฐ์ฌ๋ค. ์ด๋ฒ ๋ชจ์ง์ ํ์ฌ ์ 3๊ธฐ ๋ช ํ๊ฐ์๊ธฐ์ 27๊ฐ์ฌ์ ์ง์ ๊ธฐ๊ฐ(3๋ )์ด ๋ง๋ฃ๋จ์ ๋ฐ๋ผ ์ด๋ค ๊ธฐ์ ์ ์ฌ์ง์ ์ฌ๋ถ์ ํจ๊ป ์ฌ์ง์ ํฌ๊ธฐยทํ๋ฝ ๊ธฐ์ ๊ฒฐ์๋ถ์ ์ฑ์ฐ๊ธฐ ์ํด ์ถ์ง๋๋ค. ์ ์ ์กฐ๊ฑด์ ๋ช ํ๊ฐ์๊ธฐ์ ์ ๋งค์ถ์ก 50์ต์ ์ด์(์ง์์๋น์ค์ฐ์ ์ 10์ต์ ์ด์)์ด๋ฉด์ ์ต๊ทผ 5๋ ๊ฐ ์ฐํ๊ท ๋งค์ถ์ก ์ฆ๊ฐ์จ 5% ์ด์์ด๊ฑฐ๋, ์ต๊ทผ 3๋ ๊ฐ ๋งค์ถ์ก ๋๋น R&D ํฌ์ ๋น์จ์ด 1% ์ด์์ธ ๊ธฐ์ ์ด๋ค. ๋ช ํ๊ฐ์๊ธฐ์ ์ผ๋ก ์ ์ ๋๋ฉด ๊ด์ฃผ์ ์๊ธ ์ง์, ๊ธฐ์ ์ง๋จ ์ปจ์คํ , ์ฑ์ฅ์ ๋ต ๋ง๋ จ, ํด์ธ๋ง์ผํ ๋ฑ ๊ธฐ์ ์ค์ฌ ๋ง์ถคํ ์ง์๊ณผ ํจ๊ป ๋ค์ํ ์ฐ๋ ํํ์ ๋ฐ๊ฒ ๋๋ค. ๋ ์ค์์ ๋ถ(์ค์๋ฒค์ฒ๊ธฐ์ ๋ถ)์ ์ฐ๊ณํ ๊ธฐ์ ์ฑ์ฅ์ฌ๋ค๋ฆฌ๋ฅผ ํตํด ๋จ๊ณ๋ณ ์ฑ์ฅ์ ๋ต ์ง์๋ ๋ฐ์ ์ ์์ด ๋ช ํ๊ฐ์๊ธฐ์ ์ ์ ์ดํ ๊ธ๋ก๋ฒ ๊ธฐ์ ์ผ๋ก ๋ฐ๋์ํ ์ ์์ ๊ฒ์ผ๋ก ๊ธฐ๋๋๋ค. ์ ์ฒญ์ 31์ผ๊น์ง ๊ด์ฃผํ ํฌ๋ ธํํฌ๋ก ๋ฐฉ๋ฌธ ์ ์ํ๋ฉด ๋๋ค. ์์ธํ ๋ด์ฉ์ ๊ด์ฃผ์ ํํ์ด์ง(http://www.gwangju.go.kr) ๊ณ ์ยท๊ณต๊ณ ๋์ ์ฐธ๊ณ ํ๊ฑฐ๋ ๊ด์ฃผ์ ๊ธฐ์ ์ก์ฑ๊ณผ(062-613-3871)๋ก ๋ฌธ์ํ๋ฉด ๋๋ค. ๊ด์ฃผ์๋ ์ ์ฒญ๊ธฐ์ ์ ๋์์ผ๋ก 1์ฐจ ์๋ฅ์ฌ์ฌ, 2์ฐจ ๋ฐํยทํ์ฅํ๊ฐ๋ฅผ ๊ฑฐ์ณ 8์ ์ ์ ์์ํ์์ ์ต์ข ํ์ ํ ๊ณํ์ด๋ค. |
3 | ๋ชจ๋ธ์์ฝ | ๊ด์ฃผ์๋ ์ง์ญ ์ค์ยท์ค๊ฒฌ๊ธฐ์ ์ ๋ฐ๊ตดํด ์ง์ญ๊ฒฝ์ ๋ฅผ ๊ฒฌ์ธํ ๊ธ๋ก๋ฒ ๊ธฐ์ ์ผ๋ก ์ก์ฑํ๊ธฐ ์ํด ์ด์ํ๊ณ ์๋ '100๋ ๋ช ํ๊ฐ์๊ธฐ์ ์ก์ฑ์ฌ์ '์ ์ฐธ๊ฐํ ๊ธฐ์ ์ ๋ชจ์งํ๋ค. |