๐ฐ ๋ฏธ๊ตญ ๋์ ๊ด๋ จ ๋ด์ค ๊ธฐ์ฌ & ํธ์ํฐ & ํ ๋ก ํ ์คํธ ๋ง์ด๋์ ํตํ ๊ฐ์ฑ ๋ถ์ ๋ฐ ์์ธก ๐ ๐
+ ๋ฉํฐ์บ ํผ์ค ๋ฅ๋ฌ๋ ๊ธฐ๋ฐ AI ์์ง๋์ด๋ง ์ธ๋ฏธ 1์ฐจ ํ๋ก์ ํธ (NLP) (์ฐ์์ โญ )
โ
- ์ฐธ์ฌ : jw0831 , Parkjiwonha , ineed-coffee , jylee1215
- ๊ธฐ๊ฐ : 2020.10.29~2020.11.11
- ์ฃผ์ : ๋ฏธ๊ตญ ๋์ ๊ด๋ จ ๋ด์ค ๊ธฐ์ฌ & ํธ์ํฐ & ํ ๋ก ํ ์คํธ๋ฅผ ํ์ฉํ์ฌ ๊ธฐ์ด์ ์ธ ์์ฐ์ฒ ์ ์ฒ๋ฆฌ ๊ณผ์ ์ ํตํด ๊ฐ์ฑ ๋ถ์ ๋ฐ ๋์ ์์ธก
- ๊ฒฐ๊ณผ๋ณด๊ณ ์(์ ์ฒด ๋ด์ฉ) : Here
- 2016๋ ๋ฏธ๊ตญ ๋์ ์์ ์์๋ ๋จธ์ ๋ฌ๋ ํ์ฉ ์ ๊ฑฐ ๊ฒฐ๊ณผ ์์ธก์ ์์์ผ๋ก ๋จธ์ ๋ฌ๋/๋ฅ๋ฌ๋ ๊ธฐ์ ์ ํ์ฉํ ์ ๊ฑฐ ์์ธก์ด ๋ง์ ๊ด์ฌ์ ๋ฐ๊ฒ๋์๋ค.
- ์ด๋ฌํ ํ๋ฆ์ ๋ฐ๋ผ 2020 ๋ฏธ๊ตญ ๋์ ์ ๊ฒฐ๊ณผ๋ฅผ
๋์ ํ ๋ก
,ํ๋ณด ๊ด๋ จ ํธ์ํฐ
,๋ด์ค ๊ธฐ์ฌ
๋ฑ์ ํ ์คํธ ๋ฐ์ดํฐ๋ฅผ ํ์ฉํ์ฌ LSTM ๊ธฐ๋ฐ ๋ชจ๋ธ๋ง ์ ํตํด ์ ๊ฑฐ ๊ฒฐ๊ณผ๋ฅผ ์์ธก ํด๋ณด๊ณ ๊ฐ ๋ฐ์ดํฐ ์ฑ๊ฒฉ์ ๋ฐ๋ผ word2vec ๊ธฐ๋ฐ ์ฐ๊ด๋จ์ด ๋ถ์ , TF-IDF ๊ธฐ๋ฐ ํค์๋ ๋ถ์ , LDA ํ ํฝ ์ถ์ถ , ๋น๋์ ๊ธฐ๋ฐ wordcloud , sentiment analysis ๋ฑ์ ๋ถ์ ์งํ์ ๋ชฉํ๋กํจ - ์ธ๋ถ ๋ถ์ ์ฃผ์ ๋ 6๊ฐ์ง๋ก ๊ตฌ์ฑ
์์ฑ์(์ด๋์ฌ) ์ฃผ์ ๋ด๋น ๋ถ๋ถ
- ๋ฐ์ดํฐ ์์ง : ๋ด์ค(FOX) , ๋์ ํ ๋ก (Kaggle)
- ๋ฐ์ดํฐ ์ ์ฒ๋ฆฌ ์์ค์ฝ๋ ํตํฉ ๋ฐ ๋ฒ์ ๊ด๋ฆฌ
- ํตํฉ ๋ฐ์ดํฐ ๊ธฐ๋ฐ LDA ํ ํฝ ๋ชจ๋ธ๋ง ๋ฐ ์๊ฐํ
- Tensorboard Embedding Projector ํ์ฉ ํธ์ํฐ ๋ฐ์ดํฐ word2vec ๊ฒฐ๊ณผ 3D ์๊ฐํ
1. ํ๋ณด์์ ๋ํด ๊ฐ ๋งค์ฒด ๋ณ๋ก (ํ ๋ก /ํธ์ํฐ/๊ธฐ์ฌ) ์ด๋ค ๋จ์ด๋ค์ด ์ฐ์์๊น?
today , together , build
์ค๋ฆฝ ์ ์ด๊ฑฐ๋ ์ฌ๋ก๊ฑด๊ณผ ์ฐ๊ด์ด ์๋ ํค์๋๊ฐ ์ฃผ์ ํค์๋๋ก ํ์ธ
ํธ๋ผํ
news, fake , great
๊ฑฐ์ง ๋ด์ค์ ๋ํ ํธ์ ๋น์ค์ด ๊ฝค ์์ผ๋ฉฐ, ๋ฐ์ด๋ ๊ณผ ๋ง์ฐฌ๊ฐ์ง๋ก ์ฌ๋ก๊ฑด ๊ด๋ จ ํค์๋๋ฅผ ํ์ธ
2. ์ ์ฒด ๋งค์ฒด (ํ ๋ก /ํธ์ํฐ/๊ธฐ์ฌ)์์ ํ๋ณด์๋ค๊ณผ ๊ด๋ จ ์๋ ๋จ์ด๋ค์ ๋ฌด์์ผ๊น?
ํธ๋ผํ,์นด๋ง๋ผ์ ๊ฐ์ ์ฃผ๋ณ ์ธ๋ฌผ ๋จ์ด ํ์ธ
sleepy , hide , son ๊ฐ์ ๋ถ์ ์ ์ธ ๋จ์ด ํ์ธ
fallen , desperate , hysterical ๊ฐ์ ์ง์ ์ ์ธ ๋ถ์ ๋จ์ด๋ถํฐ weak , xenophobia ์ ๊ฐ์ ๊ฐ์ ์ ์ธ ๋ถ์ ๋จ์ด๋ค์ ํ์ธ
์ฃผ๋ณ ์ธ๋ฌผ์ ๋จ์ด์ ๋ฑ์ฅ์ ์ ์ ๋์ minesota ์ ๊ฐ์ ๊ฒฝํฉ ์ฃผ์ ๋ํ ๋จ์ด ๋น์ค์ด ๋์ ๊ฒ์ ํ์ธ
๋์ ํ ๋ก ๋ฐ์ดํฐ ํ์ฉ LDA ํ ํฝ ์ถ์ถ : ํ๋ณด๋ณ 4๊ฐ์ง ํ ํฝ ์ ์
๋ ํ๋ณด ๋ชจ๋ ์ ๊ฑฐ ํ ํฝ์ ๊ด๋ จ๋ ๋จ์ด๋ ๊ณตํต์ ์ผ๋ก ๋ฑ์ฅ ,
ํธ๋ผํ์ ๊ฒฝ์ฐ โAmerican firstโ ์ฌ๋ก๊ฑด์ฒ๋ผ ๊ตฐ์ฌ ํ ํฝ๊ณผ ๊ฒฝ์ ํ ํฝ์ ๋ฌด๊ฒ๊ฐ ๋ ๋ง์ด ์ค๋ ธ๊ณ
๋ฐ์ด๋ ์ ๊ฒฝ์ฐ โbuild better backโ ์ฌ๋ก๊ฑด์ฒ๋ผ ํตํฉ์ ๊ฐ์กฐํ๋ ๋ณต์ง ํ ํฝ๊ณผ ์ด์ ํ ํฝ์ ๋จ์ด ๋น๋๊ฐ ํฐ ๊ฒ์ ํ์ธ
๋ด์ค ๋ฐ์ดํฐ ํ์ฉ TF-IDF ํค์๋ ๋ถ์
ํด๋น ๊ธฐ๊ฐ ๋์์ ๋ฐ์ด๋ ํํฅ ์ธ๋ก ์ฌ ์์๋ qanon, ufc ๋ฑ ํธ๋ผํ์ ๋ถ์ ์ ์ธ ๋จ์ด๋ค์ด ํ์ธ.
qanon์ ๋ฏธ๊ตญ์ ๊ทน์ฐ์ธ๋ ฅ์ ๋ํํ๋ ๋จ์ด์ด๋ฉฐ, ufc๋ ํ ufc์ ์๊ฐ ์์ ์ด qanon์์ ๋ฐํ ์ด์์ ๊ด๋ จ๋์ด ์์.
๋ฐ๋ฉด ํธ๋ผํ ํธํฅ ์ธ๋ก ์ฌ์ ๊ฒฝ์ฐ penny, positive ๋ฑ ํธ๋ผํ ์ค ์ฌ์ ๊ธ์ ์ ์ธ ๋จ์ด๋ค์ด ๋ณด์์ต๋๋ค.
SNS(twitter) ๋ฐ์ดํฐ๋ฅผ ํ์ฉํ ๋ ํ๋ถ์ ๋ํ ๊ฐ์ฑ ๋ถ์
์์ ๋ฏธ๋์ด ๋ฐ์ดํฐ์ ๊ฐ์ฑ๋ถ์์ด ์ฉ์ดํ VADER ๊ฐ์ฑ์ฌ์ ํ์ฉ
๋ฌธ์ฅ ๋จ์ ์ค์ฝ์ด๋ง์ ํตํ์ฌ ์ต์ข compound score ์ ๋ฐ๋ฅธ positive , negative , neutral ๋ ์ด๋ธ๋ง ํ ์ผ๋ณ ํ๊ท ํ ์งํ
ํธ๋ผํ์ ๋ํ ๊ฐ์ ์ ๊ธ์ ๋ฐ ๋ถ์ ์ ๋ณ๋์ด ์ฌํ ๋ฐ๋ฉด, ๋ฐ์ด๋ ์ ๋๋ถ๋ถ ๊ธ์ ์ธ ๊ฒ์ผ๋ก ํ์ธ
[ํธ๋ผํ] 10์ 4์ผ : ํธ๋ผํ ๋ํต๋ น์ด ์ฝ๋ก๋ ํ์ง ํ์ ์ ๋ฐ์ ์ดํ ํ์ด๋ฉฐ ๊ฐ์ฅ ํฐ ๊ธ์ ์ ์๋ฅผ ํ์ธํ ์ ์์
[ํธ๋ผํ] 10์ 20์ผ : ํธ๋ผํ๋ ํ์ค๋ฒ ๋์์ฃผ ์ด๋ฆฌ์์ ์ ๊ฑฐ ์งํ๋ฅผ ์งํํจ
[ํธ๋ผํ , ๋ฐ์ด๋ ] 10์ 29์ผ : ๋ ํ๋ณด ๋ชจ๋ ํ๋ก๋ฆฌ๋ค ์ฃผ ํฌํ์์ ์งํ๋ฅผ ์งํํ์์ผ๋, ํธ๋ผํ๋ ์ด๋ ์ ๋ ๋ ธ์ค์บ๋กค๋ผ์ด๋์ฃผ๋ฅผ ์ฐพ์ ์ ์ธ๋ฅผ ํ ๊ณํ์ด์์ผ๋
๋ฐ๋์ด ๋๋ฌด ๋ง์ด ๋ถ๋ค
๋ ์ด์ ๋ก ์ทจ์. ์ด๋ก์ธํ ๋ถ์ ์ ์๋ฅผ ํ์ธํ ์ ์์.
LSTM ๊ธฐ๋ฐ ๋ชจ๋ธ๋ง์ ํตํ ๋ฏธ๋ ๊ฐ์ฑ์ง์ ์์ธก
์ ๊ฑฐ ๋น์ผ์ ๊ฐ ํ๋ณด์ ๋ํ ๊ฐ์ฑ ์ง์๋ฅผ ์์ธกํ๊ธฐ ์ํด ๊ฐ ํ๋ณด์ ์ผ๋ณ ๊ฐ์ฑ์ง์ ๋ฐ์ดํฐ๋ฅผ ํ์ฉํ์ฌ ๊ฐ๊ฐ ๋ชจ๋ธ๋ง์ ์งํ
I/O : Many-to-One
Cell : 128
Timestep : 7
Input/output shape : (1,) , (1,)
์ ๊ฑฐ ๋น์ผ ๊ฐ์ฑ์ง์ ์์ธก๊ฒฐ๊ณผ ํด์
20.09.01~20.10.31 ๊ธฐ๊ฐ์ ๋ฐ์ดํฐ๋ก ํ์ต ํ ํฅํ 5์ผ์ ๋ํ ์์ธก์ ์งํ. (์ ๊ฑฐ ๋น์ผ 20.11.03 , ๊ฐํ 20.11.05)
[ํธ๋ผํ] : ์ด์์ ๋ฐ๋ผ ๊ฐ์ฑ ์ ์์ ๋ณํ๋์ด ํฐ ํธ๋ผํ์ ๊ฒฝ์ฐ 11์์ ์ ์ด๋ค๋ฉฐ ์ง์์ ์ธ ํ๋ฝ์ธ๋ฅผ ๋ณด์ผ๊ฒ์ผ๋ก ์์ธก
ํฌํ ๋น์ผ์ ๊ฐ์ฑ ์ ์ ์์ธก = 0.02 (Strong Neutral)
[๋ฐ์ด๋ ] : ์์น/ํ๋ฝ์ ํญ์ด ๋น๊ต์ ์ข์ ๋ฐ์ด๋ ์ ๊ฒฝ์ฐ ์ ๊ฑฐ ๋น์ผ ์ํญ์ ์ธ ์์น์ธ์ผ ๊ฒ์ผ๋ก ์์ธก
ํฌํ ๋น์ผ์ ๊ฐ์ฑ ์ ์ ์์ธก = 0.37 (Strong Positive)