Skip to content

๐Ÿ“ฐ ํ…์ŠคํŠธ ๋งˆ์ด๋‹ ๋ฏธ๋‹ˆ ํ”„๋กœ์ ํŠธ : ๋ฏธ๊ตญ ๋Œ€์„  ๊ด€๋ จ ๋‰ด์Šค ๊ธฐ์‚ฌ & ํŠธ์œ„ํ„ฐ & ํ† ๋ก  ํ…์ŠคํŠธ ๋งˆ์ด๋‹์„ ํ†ตํ•œ ๊ฐ์„ฑ ๋ถ„์„ ๋ฐ ์˜ˆ์ธก ๐Ÿ‘ ๐Ÿ‘Ž โ€‹ โ€‹ โ€‹

License

Notifications You must be signed in to change notification settings

ineed-coffee/text_mining_for_US_election

Repository files navigation

๐Ÿ“ฐ ๋ฏธ๊ตญ ๋Œ€์„  ๊ด€๋ จ ๋‰ด์Šค ๊ธฐ์‚ฌ & ํŠธ์œ„ํ„ฐ & ํ† ๋ก  ํ…์ŠคํŠธ ๋งˆ์ด๋‹์„ ํ†ตํ•œ ๊ฐ์„ฑ ๋ถ„์„ ๋ฐ ์˜ˆ์ธก ๐Ÿ‘ ๐Ÿ‘Ž

+ ๋ฉ€ํ‹ฐ์บ ํผ์Šค ๋”ฅ๋Ÿฌ๋‹ ๊ธฐ๋ฐ˜ AI ์—”์ง€๋‹ˆ์–ด๋ง ์„ธ๋ฏธ 1์ฐจ ํ”„๋กœ์ ํŠธ (NLP) (์šฐ์ˆ˜์ƒ โญ )

โ€‹

  • ์ฐธ์—ฌ : jw0831 , Parkjiwonha , ineed-coffee , jylee1215
  • ๊ธฐ๊ฐ„ : 2020.10.29~2020.11.11
  • ์ฃผ์ œ : ๋ฏธ๊ตญ ๋Œ€์„  ๊ด€๋ จ ๋‰ด์Šค ๊ธฐ์‚ฌ & ํŠธ์œ„ํ„ฐ & ํ† ๋ก  ํ…์ŠคํŠธ๋ฅผ ํ™œ์šฉํ•˜์—ฌ ๊ธฐ์ดˆ์ ์ธ ์ž์—ฐ์ฒ˜ ์ „์ฒ˜๋ฆฌ ๊ณผ์ •์„ ํ†ตํ•ด ๊ฐ์„ฑ ๋ถ„์„ ๋ฐ ๋Œ€์„  ์˜ˆ์ธก
  • ๊ฒฐ๊ณผ๋ณด๊ณ ์„œ(์ „์ฒด ๋‚ด์šฉ) : Here

๊ฒฐ๊ณผ๋ณด๊ณ ์„œ ์š”์•ฝ

1 2


๋ถ„์„ ๊ฐœ์š” ๋ฐ ๋ชฉํ‘œ

  • 2016๋…„ ๋ฏธ๊ตญ ๋Œ€์„ ์—์„œ ์žˆ์—ˆ๋˜ ๋จธ์‹ ๋Ÿฌ๋‹ ํ™œ์šฉ ์„ ๊ฑฐ ๊ฒฐ๊ณผ ์˜ˆ์ธก์„ ์‹œ์ž‘์œผ๋กœ ๋จธ์‹ ๋Ÿฌ๋‹/๋”ฅ๋Ÿฌ๋‹ ๊ธฐ์ˆ ์„ ํ™œ์šฉํ•œ ์„ ๊ฑฐ ์˜ˆ์ธก์ด ๋งŽ์€ ๊ด€์‹ฌ์„ ๋ฐ›๊ฒŒ๋˜์—ˆ๋‹ค.
  • ์ด๋Ÿฌํ•œ ํ๋ฆ„์— ๋”ฐ๋ผ 2020 ๋ฏธ๊ตญ ๋Œ€์„ ์˜ ๊ฒฐ๊ณผ๋ฅผ ๋Œ€์„  ํ† ๋ก  , ํ›„๋ณด ๊ด€๋ จ ํŠธ์œ„ํ„ฐ , ๋‰ด์Šค ๊ธฐ์‚ฌ ๋“ฑ์˜ ํ…์ŠคํŠธ ๋ฐ์ดํ„ฐ๋ฅผ ํ™œ์šฉํ•˜์—ฌ LSTM ๊ธฐ๋ฐ˜ ๋ชจ๋ธ๋ง ์„ ํ†ตํ•ด ์„ ๊ฑฐ ๊ฒฐ๊ณผ๋ฅผ ์˜ˆ์ธก ํ•ด๋ณด๊ณ  ๊ฐ ๋ฐ์ดํ„ฐ ์„ฑ๊ฒฉ์— ๋”ฐ๋ผ word2vec ๊ธฐ๋ฐ˜ ์—ฐ๊ด€๋‹จ์–ด ๋ถ„์„ , TF-IDF ๊ธฐ๋ฐ˜ ํ‚ค์›Œ๋“œ ๋ถ„์„ , LDA ํ† ํ”ฝ ์ถ”์ถœ , ๋นˆ๋„์ˆ˜ ๊ธฐ๋ฐ˜ wordcloud , sentiment analysis ๋“ฑ์˜ ๋ถ„์„ ์ง„ํ–‰์„ ๋ชฉํ‘œ๋กœํ•จ
  • ์„ธ๋ถ€ ๋ถ„์„ ์ฃผ์ œ๋Š” 6๊ฐ€์ง€๋กœ ๊ตฌ์„ฑ

5 8 9


์ฐธ์—ฌ์ธ์› ์—ญํ• 

์ž‘์„ฑ์ž(์ด๋™์žฌ) ์ฃผ์š” ๋‹ด๋‹น ๋ถ€๋ถ„

  1. ๋ฐ์ดํ„ฐ ์ˆ˜์ง‘ : ๋‰ด์Šค(FOX) , ๋Œ€์„  ํ† ๋ก (Kaggle)
  2. ๋ฐ์ดํ„ฐ ์ „์ฒ˜๋ฆฌ ์†Œ์Šค์ฝ”๋“œ ํ†ตํ•ฉ ๋ฐ ๋ฒ„์ „ ๊ด€๋ฆฌ
  3. ํ†ตํ•ฉ ๋ฐ์ดํ„ฐ ๊ธฐ๋ฐ˜ LDA ํ† ํ”ฝ ๋ชจ๋ธ๋ง ๋ฐ ์‹œ๊ฐํ™”
  4. Tensorboard Embedding Projector ํ™œ์šฉ ํŠธ์œ„ํ„ฐ ๋ฐ์ดํ„ฐ word2vec ๊ฒฐ๊ณผ 3D ์‹œ๊ฐํ™”

10


๋ฐ์ดํ„ฐ ์ˆ˜์ง‘ ๊ฒฐ๊ณผ ๋ฐ ์ „์ฒ˜๋ฆฌ ๊ณผ์ •

13 15


์„ธ๋ถ€์ฃผ์ œ ๋ถ„์„ ๋‚ด์šฉ (์ผ๋ถ€)

1. ํ›„๋ณด์ž์— ๋Œ€ํ•ด ๊ฐ ๋งค์ฒด ๋ณ„๋กœ (ํ† ๋ก /ํŠธ์œ„ํ„ฐ/๊ธฐ์‚ฌ) ์–ด๋–ค ๋‹จ์–ด๋“ค์ด ์“ฐ์˜€์„๊นŒ?

๋Œ€์„  ํ† ๋ก 

18

ํŠธ์œ„ํ„ฐ

21 ๋ฐ”์ด๋“ 

today , together , build

์ค‘๋ฆฝ ์ ์ด๊ฑฐ๋‚˜ ์Šฌ๋กœ๊ฑด๊ณผ ์—ฐ๊ด€์ด ์žˆ๋Š” ํ‚ค์›Œ๋“œ๊ฐ€ ์ฃผ์š” ํ‚ค์›Œ๋“œ๋กœ ํ™•์ธ

ํŠธ๋Ÿผํ”„

news, fake , great

๊ฑฐ์ง“ ๋‰ด์Šค์— ๋Œ€ํ•œ ํŠธ์œ— ๋น„์ค‘์ด ๊ฝค ์žˆ์œผ๋ฉฐ, ๋ฐ”์ด๋“ ๊ณผ ๋งˆ์ฐฌ๊ฐ€์ง€๋กœ ์Šฌ๋กœ๊ฑด ๊ด€๋ จ ํ‚ค์›Œ๋“œ๋ฅผ ํ™•์ธ


2. ์ „์ฒด ๋งค์ฒด (ํ† ๋ก /ํŠธ์œ„ํ„ฐ/๊ธฐ์‚ฌ)์—์„œ ํ›„๋ณด์ž๋“ค๊ณผ ๊ด€๋ จ ์žˆ๋Š” ๋‹จ์–ด๋“ค์€ ๋ฌด์—‡์ผ๊นŒ?

Word2Vec

24 ๋ฐ”์ด๋“ 

ํŠธ๋Ÿผํ”„,์นด๋ง๋ผ์™€ ๊ฐ™์€ ์ฃผ๋ณ€ ์ธ๋ฌผ ๋‹จ์–ด ํ™•์ธ

sleepy , hide , son ๊ฐ™์€ ๋ถ€์ •์ ์ธ ๋‹จ์–ด ํ™•์ธ

25 ํŠธ๋Ÿผํ”„

fallen , desperate , hysterical ๊ฐ™์€ ์ง์ ‘์ ์ธ ๋ถ€์ • ๋‹จ์–ด๋ถ€ํ„ฐ weak , xenophobia ์™€ ๊ฐ™์€ ๊ฐ„์ ‘์ ์ธ ๋ถ€์ • ๋‹จ์–ด๋“ค์„ ํ™•์ธ

์ฃผ๋ณ€ ์ธ๋ฌผ์— ๋‹จ์–ด์˜ ๋“ฑ์žฅ์€ ์ ์€ ๋Œ€์‹  minesota ์™€ ๊ฐ™์€ ๊ฒฝํ•ฉ ์ฃผ์— ๋Œ€ํ•œ ๋‹จ์–ด ๋น„์ค‘์ด ๋†’์€ ๊ฒƒ์„ ํ™•์ธ

LDA

26 ๋Œ€์„  ํ† ๋ก  ๋ฐ์ดํ„ฐ ํ™œ์šฉ LDA ํ† ํ”ฝ ์ถ”์ถœ : ํ›„๋ณด๋ณ„ 4๊ฐ€์ง€ ํ† ํ”ฝ ์„ ์ •

๋‘ ํ›„๋ณด ๋ชจ๋‘ ์„ ๊ฑฐ ํ† ํ”ฝ์— ๊ด€๋ จ๋œ ๋‹จ์–ด๋Š” ๊ณตํ†ต์ ์œผ๋กœ ๋“ฑ์žฅ ,

ํŠธ๋Ÿผํ”„์˜ ๊ฒฝ์šฐ โ€˜American firstโ€™ ์Šฌ๋กœ๊ฑด์ฒ˜๋Ÿผ ๊ตฐ์‚ฌ ํ† ํ”ฝ๊ณผ ๊ฒฝ์ œ ํ† ํ”ฝ์— ๋ฌด๊ฒŒ๊ฐ€ ๋” ๋งŽ์ด ์‹ค๋ ธ๊ณ 

๋ฐ”์ด๋“ ์˜ ๊ฒฝ์šฐ โ€˜build better backโ€™ ์Šฌ๋กœ๊ฑด์ฒ˜๋Ÿผ ํ†ตํ•ฉ์„ ๊ฐ•์กฐํ•˜๋Š” ๋ณต์ง€ ํ† ํ”ฝ๊ณผ ์ด์Šˆ ํ† ํ”ฝ์— ๋‹จ์–ด ๋นˆ๋„๊ฐ€ ํฐ ๊ฒƒ์„ ํ™•์ธ


3. ์–ธ๋ก ์‚ฌ์˜ ํŽธํ–ฅ๊ณผ ์„ ๊ฑฐ๋Š” ์–ด๋–ค ๊ด€๋ จ์ด ์žˆ์„๊นŒ?

TF-IDF

31 32 ๋‰ด์Šค ๋ฐ์ดํ„ฐ ํ™œ์šฉ TF-IDF ํ‚ค์›Œ๋“œ ๋ถ„์„

ํ•ด๋‹น ๊ธฐ๊ฐ„ ๋™์•ˆ์— ๋ฐ”์ด๋“  ํ‰ํ–ฅ ์–ธ๋ก ์‚ฌ ์—์„œ๋Š” qanon, ufc ๋“ฑ ํŠธ๋Ÿผํ”„์— ๋ถ€์ •์ ์ธ ๋‹จ์–ด๋“ค์ด ํ™•์ธ.

qanon์€ ๋ฏธ๊ตญ์˜ ๊ทน์šฐ์„ธ๋ ฅ์„ ๋Œ€ํ‘œํ•˜๋Š” ๋‹จ์–ด์ด๋ฉฐ, ufc๋Š” ํ•œ ufc์„ ์ˆ˜๊ฐ€ ์ž์‹ ์ด qanon์ž„์„ ๋ฐํžŒ ์ด์Šˆ์™€ ๊ด€๋ จ๋˜์–ด ์žˆ์Œ.

๋ฐ˜๋ฉด ํŠธ๋Ÿผํ”„ ํŽธํ–ฅ ์–ธ๋ก ์‚ฌ์˜ ๊ฒฝ์šฐ penny, positive ๋“ฑ ํŠธ๋Ÿผํ”„ ์ค‘ ์‹ฌ์˜ ๊ธ์ •์ ์ธ ๋‹จ์–ด๋“ค์ด ๋ณด์˜€์Šต๋‹ˆ๋‹ค.


5. ํ›„๋ณด์ž๋“ค์— ๋Œ€ํ•œ ๊ฐ์„ฑ์€ ์–ด๋–ป๊ฒŒ ๋‚˜ํƒ€๋‚ ๊นŒ?

VADER sentiment analysis

39 SNS(twitter) ๋ฐ์ดํ„ฐ๋ฅผ ํ™œ์šฉํ•œ ๋‘ ํ›„๋ถ€์— ๋Œ€ํ•œ ๊ฐ์„ฑ ๋ถ„์„

์†Œ์…œ๋ฏธ๋””์–ด ๋ฐ์ดํ„ฐ์˜ ๊ฐ์„ฑ๋ถ„์„์ด ์šฉ์ดํ•œ VADER ๊ฐ์„ฑ์‚ฌ์ „ ํ™œ์šฉ

๋ฌธ์žฅ ๋‹จ์œ„ ์Šค์ฝ”์–ด๋ง์„ ํ†ตํ•˜์—ฌ ์ตœ์ข… compound score ์— ๋”ฐ๋ฅธ positive , negative , neutral ๋ ˆ์ด๋ธ”๋ง ํ›„ ์ผ๋ณ„ ํ‰๊ท ํ™” ์ง„ํ–‰

40 Peak point ์กฐ์‚ฌ ๋ฐ ํ•ด์„

ํŠธ๋Ÿผํ”„์— ๋Œ€ํ•œ ๊ฐ์ •์€ ๊ธ์ • ๋ฐ ๋ถ€์ •์˜ ๋ณ€๋™์ด ์‹ฌํ•œ ๋ฐ˜๋ฉด, ๋ฐ”์ด๋“ ์€ ๋Œ€๋ถ€๋ถ„ ๊ธ์ •์ธ ๊ฒƒ์œผ๋กœ ํ™•์ธ

[ํŠธ๋Ÿผํ”„] 10์›” 4์ผ : ํŠธ๋Ÿผํ”„ ๋Œ€ํ†ต๋ น์ด ์ฝ”๋กœ๋‚˜ ํ™•์ง„ ํŒ์ •์„ ๋ฐ›์€ ์ดํ‹€ ํ›„์ด๋ฉฐ ๊ฐ€์žฅ ํฐ ๊ธ์ • ์ ์ˆ˜๋ฅผ ํ™•์ธํ•  ์ˆ˜ ์žˆ์Œ

[ํŠธ๋Ÿผํ”„] 10์›” 20์ผ : ํŠธ๋Ÿผํ”„๋Š” ํŽœ์‹ค๋ฒ ๋‹ˆ์•„์ฃผ ์ด๋ฆฌ์—์„œ ์„ ๊ฑฐ ์ง‘ํšŒ๋ฅผ ์ง„ํ–‰ํ•จ

[ํŠธ๋Ÿผํ”„ , ๋ฐ”์ด๋“ ] 10์›” 29์ผ : ๋‘ ํ›„๋ณด ๋ชจ๋‘ ํ”Œ๋กœ๋ฆฌ๋‹ค ์ฃผ ํƒฌํŒŒ์—์„œ ์ง‘ํšŒ๋ฅผ ์ง„ํ–‰ํ•˜์˜€์œผ๋‚˜, ํŠธ๋Ÿผํ”„๋Š” ์ด๋‚  ์ €๋… ๋…ธ์Šค์บ๋กค๋ผ์ด๋‚˜์ฃผ๋ฅผ ์ฐพ์•„ ์œ ์„ธ๋ฅผ ํ•  ๊ณ„ํš์ด์—ˆ์œผ๋‚˜ ๋ฐ”๋žŒ์ด ๋„ˆ๋ฌด ๋งŽ์ด ๋ถ„๋‹ค ๋Š” ์ด์œ ๋กœ ์ทจ์†Œ. ์ด๋กœ์ธํ•œ ๋ถ€์ • ์ ์ˆ˜๋ฅผ ํ™•์ธํ•  ์ˆ˜ ์žˆ์Œ.


6. ํ›„๋ณด์ž๋“ค์— ๋Œ€ํ•œ ๊ฐ์„ฑ์œผ๋กœ ์„ ๊ฑฐ ๊ฒฐ๊ณผ๋ฅผ ์˜ˆ์ธกํ•˜๋ฉด ์–ด๋–ป๊ฒŒ ๋ ๊นŒ?

LSTM modeling

42 LSTM ๊ธฐ๋ฐ˜ ๋ชจ๋ธ๋ง์„ ํ†ตํ•œ ๋ฏธ๋ž˜ ๊ฐ์„ฑ์ง€์ˆ˜ ์˜ˆ์ธก

์„ ๊ฑฐ ๋‹น์ผ์˜ ๊ฐ ํ›„๋ณด์— ๋Œ€ํ•œ ๊ฐ์„ฑ ์ง€์ˆ˜๋ฅผ ์˜ˆ์ธกํ•˜๊ธฐ ์œ„ํ•ด ๊ฐ ํ›„๋ณด์˜ ์ผ๋ณ„ ๊ฐ์„ฑ์ง€์ˆ˜ ๋ฐ์ดํ„ฐ๋ฅผ ํ™œ์šฉํ•˜์—ฌ ๊ฐ๊ฐ ๋ชจ๋ธ๋ง์„ ์ง„ํ–‰

I/O : Many-to-One

Cell : 128

Timestep : 7

Input/output shape : (1,) , (1,)

43 ์„ ๊ฑฐ ๋‹น์ผ ๊ฐ์„ฑ์ง€์ˆ˜ ์˜ˆ์ธก๊ฒฐ๊ณผ ํ•ด์„

20.09.01~20.10.31 ๊ธฐ๊ฐ„์˜ ๋ฐ์ดํ„ฐ๋กœ ํ•™์Šต ํ›„ ํ–ฅํ›„ 5์ผ์— ๋Œ€ํ•œ ์˜ˆ์ธก์„ ์ง„ํ–‰. (์„ ๊ฑฐ ๋‹น์ผ 20.11.03 , ๊ฐœํ‘œ 20.11.05)

[ํŠธ๋Ÿผํ”„] : ์ด์Šˆ์— ๋”ฐ๋ผ ๊ฐ์„ฑ ์ ์ˆ˜์˜ ๋ณ€ํ™”๋Ÿ‰์ด ํฐ ํŠธ๋Ÿผํ”„์˜ ๊ฒฝ์šฐ 11์›”์— ์ ‘์–ด๋“ค๋ฉฐ ์ง€์†์ ์ธ ํ•˜๋ฝ์„ธ๋ฅผ ๋ณด์ผ๊ฒƒ์œผ๋กœ ์˜ˆ์ธก

ํˆฌํ‘œ ๋‹น์ผ์˜ ๊ฐ์„ฑ ์ ์ˆ˜ ์˜ˆ์ธก = 0.02 (Strong Neutral)

[๋ฐ”์ด๋“ ] : ์ƒ์Šน/ํ•˜๋ฝ์˜ ํญ์ด ๋น„๊ต์  ์ข์€ ๋ฐ”์ด๋“ ์˜ ๊ฒฝ์šฐ ์„ ๊ฑฐ ๋‹น์ผ ์†Œํญ์ ์ธ ์ƒ์Šน์„ธ์ผ ๊ฒƒ์œผ๋กœ ์˜ˆ์ธก

ํˆฌํ‘œ ๋‹น์ผ์˜ ๊ฐ์„ฑ ์ ์ˆ˜ ์˜ˆ์ธก = 0.37 (Strong Positive)


๋ถ„์„ ๊ฒฐ๊ณผ

44 45


About

๐Ÿ“ฐ ํ…์ŠคํŠธ ๋งˆ์ด๋‹ ๋ฏธ๋‹ˆ ํ”„๋กœ์ ํŠธ : ๋ฏธ๊ตญ ๋Œ€์„  ๊ด€๋ จ ๋‰ด์Šค ๊ธฐ์‚ฌ & ํŠธ์œ„ํ„ฐ & ํ† ๋ก  ํ…์ŠคํŠธ ๋งˆ์ด๋‹์„ ํ†ตํ•œ ๊ฐ์„ฑ ๋ถ„์„ ๋ฐ ์˜ˆ์ธก ๐Ÿ‘ ๐Ÿ‘Ž โ€‹ โ€‹ โ€‹

Topics

Resources

License

Stars

Watchers

Forks

Releases

No releases published

Packages

No packages published

Contributors 4

  •  
  •  
  •  
  •