로그인 바로가기 하위 메뉴 바로가기 본문 바로가기

인공지능 및 기계학습 개론Ⅰ

임시 이미지 KAIST 산업및시스템공학과 문일철 KOOC (KAIST Open Online Course)
http://www.edwith.org/machinelearning1_17/forum/41608
좋아요 3563 수강생 17081

안녕하세요? 조교입니다.

수업 시간에 배운 Discriminative Model로는 Logistic Model이 있고,

Generative Model로는 Naive Bayes Classifier가 있겠습니다.

Discriminative Model은 conditional distribution을 학습하는 모델이고,

Generative Model은 joint distribution을 학습하는 모델인데요, Andrew Ng의 아주 유명한 paper인 https://papers.nips.cc/paper/2001/file/7b7a53e239400a13bd6be6c91c4f6c4e-Paper.pdf 에서 Discriminative-Generative pair를 잘 비교해 놓은 바가 있습니다.

최근에는 Generative Model과 Discriminative Model간의 차이가 점점 줄어드는 것으로 보이는데요, 예를 들면 https://arxiv.org/abs/1912.03263 (ICLR 20 Oral) 의 경우, discriminative classifier가 사실을 generative model인 energy-based model과 연관되어 있다는 것을 밝히고 있습니다.

Discriminative-Generative pair에 대한 관계는 여전히 아주 흥미로운 연구주제로 손꼽히고 있습니다.

감사합니다