LDA에 대한 설명 및 실습 코드 슬라이드 A brief explanation about Latent Dirichlet Allocation and lab code slides

1. Latent Dirichlet Allocation
Yonghee Cheon

2. LatentDirichletAllocation
2
LDA 모델의 가정
문서들은 토픽들의 혼합으로 구성
토픽들은 확률 분포에 기반하여 단어들을 생성

3. LatentDirichletAllocation
3
LDA 모델
낮으면: 몇 개의 토픽만 선택
높으면 : 다수의 토픽 섞어 선택
낮으면: 토픽당 적은 단어 분포
높으면: 토픽당 많은 단어 분포

4. LatentDirichletAllocation
4
LDA 모델
Each document can be described by a distribution of topics
and each topic can be described by a distribution of words

5. LatentDirichletAllocation
5
LDA 모델 과정
1. 토픽의 갯수 정하기 (e.g. K=2)
2. 임의로 각 문서 안 단어들을 토픽에 할당
e.g. banana는 Topic B에 할당 가능
3. 각 단어들을 돌면서 Topic의 문서 내 분포와 각 단어의
토픽 내 분포들에 따라 토픽 재할당
e.g. Topic B가 문서 1에 자주 등장하지 않고, banana가
Topic B에 자주 등장하지 않으면 Topic A로 재할당
4. 3번 반복

6. LatentDirichletAllocation
6
LDA 코드

7. LatentDirichletAllocation
7
LDA 결과
0:0.025*"대통령"+0.016*"평가"+0.016*"채용"+0.014*"부정"+0.013*"조사"+0.011*"국공"+0.010*"정규직"+0.009*"결과"+0.008*"포인트"+0.008*"전환"
1:0.024*"경제"+0.016*"의원"+0.006*"정치"+0.005*"전"+0.005*"한국"+0.005*"국회"+0.005*"미래"+0.005*"정부"+0.005*"민주당"+0.004*"장관"
2:0.014*"경제"+0.012*"지역"+0.011*"미국"+0.008*"확산"+0.007*"환자"+0.006*"정부"+0.006*"지원"+0.006*"연합뉴스"+0.005*"신규"+0.005*"대학"
3:0.016*"경제"+0.010*"가맹점"+0.009*"전망"+0.007*"지원"+0.007*"기업"+0.006*"지역"+0.006*"올해"+0.006*"상품권"+0.005*"성장"+0.005*"시장"
4:0.018*"메뉴"+0.014*"빙수"+0.011*"출시"+0.010*"제공"+0.009*"맛"+0.009*"카페"+0.009*"매장"+0.008*"점"+0.008*"가맹"+0.008*"배달"
5:0.044*"확진"+0.013*"감염"+0.011*"지역"+0.011*"발생"+0.010*"광주"+0.010*"판정"+0.009*"검사"+0.008*"서울"+0.008*"방역"+0.007*"교회"
6:0.018*"홍보"+0.013*"국세청"+0.011*"대사"+0.010*"성실"+0.009*"활동"+0.009*"모델"+0.007*"경제"+0.007*"서울"+0.007*"선정"+0.006*"국민"
7:0.037*"정규직"+0.021*"전환"+0.019*"비정규직"+0.014*"보안"+0.013*"청년"+0.013*"의원"+0.012*"국공"+0.011*"검색"+0.010*"취업"+0.010*"공정"
8:0.017*"대통령"+0.013*"정치"+0.010*"지방"+0.009*"거버넌스"+0.008*"시장"+0.007*"자치"+0.007*"주민"+0.007*"경제"+0.007*"대상"+0.006*"문"
9:0.011*"대표"+0.010*"검찰"+0.009*"민주당"+0.009*"정치"+0.008*"국회"+0.008*"통합"+0.007*"장관"+0.007*"수사"+0.007*"위원장"+0.007*"의원"