안녕하세요, 조교입니다.

Chapter 10에서 sampling-based inference를 배웠는데요,

sampling은 굳이 inference에 사용하는 것이 아니더라도 그 자체만으로도 매력적인 분야입니다.

sampling으로는 어떤 추가적인 알고리즘들이 있을까요?

만약 우리가 likelihood evaluation이 가능하다면 가장 대표적이고 고전적인 sampling 방법은 Metropolis-Hastings algorithm입니다.

하지만 Metropolis-Hastings algorithm은 mode들을 자유롭게 왔다 갔다 하지 못합니다.

왜냐하면 mode 사이의 아주 넓은 공간은 likelihood가 0에 근접하기 때문입니다.

우주 안에서 행성과 행성 사이에 아주 넓은 공간의 밀도가 거의 0인 것과 유사한 개념이라고 볼 수 있습니다.

위와 같은 문제를 해결하기 위해 search space에 auxiliary dimension을 추가하여 auxiliary dimension을 통해서 mode를 이동하는 알고리즘이 있습니다.

Hamiltonian Monte Carlo라는 알고리즘인데요, 현재 찾고 있는 search space가 n차원이라고 하였을 때, n차원 공간을 추가적으로 고려하여 search space를 더 쉽게 explore하는 알고리즘입니다.

auxiliary dimension의 dynamics는 물리학 개념으로부터 나온 Hamiltonian equation을 통해 정의됩니다.

즉, auxiliary dimension에서 탐색하는 것이 무작위로 탐색하는 것이 아니라, search space에서 탐색하는 방법과 연동되어 조금 더 잘 search space를 탐색할 수 있도록 도와줍니다.

물리학적 의미를 생각한다면 search space는 position, auxiliary n-dimensional space는 momentum이라고 생각할 수 있습니다.

좋은 reference는 https://arxiv.org/pdf/1701.02434.pdf 에 나와있습니다.