Maximum a posterior

Ahn9807 (토론 | 기여)님의 2023년 2월 25일 (토) 10:44 판 (새 문서: 확률과 통계 ==개요== Maximum likelihood estimation를 가지고도 확률 추론을 할 수 있지만, MLE보다 MAP를 사용하면 더욱 자세한 분류를 할 수 있다. 이는 확률 추론에 집단의 분포또한 포함하기 때문이다. 이러한 MAP를 사용할려면 사후 확률을 알아야 하는데, Bayesian Interface는 이러한 사전 확률에서 사후 확률을 알 수 있도록 하는 방법을 제시한다. 예를...)
(차이) ← 이전 판 | 최신판 (차이) | 다음 판 → (차이)


개요

Maximum likelihood estimation를 가지고도 확률 추론을 할 수 있지만, MLE보다 MAP를 사용하면 더욱 자세한 분류를 할 수 있다. 이는 확률 추론에 집단의 분포또한 포함하기 때문이다. 이러한 MAP를 사용할려면 사후 확률을 알아야 하는데, Bayesian Interface는 이러한 사전 확률에서 사후 확률을 알 수 있도록 하는 방법을 제시한다. 예를 들자면, 피부일때 A색깔일 확률로, A색깔일때 피부일 확률을 구하는 것이다. MLE는 MAP에서 사전 확률만 제거하여 간단하게 푼 것과 동일하다.

Bayesian Interface

베이즈 추론에서는 추론 대상 [math]\theta[/math]에 대하여, [math]\theta[/math]에 대한 사전 확률 [math]p(\theta)[/math]가 주어진다. [math]\theta[/math]와 관계된 관측 [math]X[/math]의 확률 분포가 [math]p(X|\theta)[/math]와 같이 주어진다고 할 때, 베이즈 추론은 [math]X[/math]가 추가적으로 주어졌을 때의 [math]\theta[/math]의 분포 [math]p(\theta|X)[/math]를 계산한다. 이때 [math]p(\theta|X)[/math]베이즈 정리를 이용하여 다음과 같이 계산할 수 있다.

[math]p(\theta|X) = \frac{p(\theta, X)}{p(X)} = \frac{p(X|\theta) p(\theta)} {p(X)}[/math]

이 분포를 이용하여 여러 가지 통계적 추정이 가능하다. 예를 들어, 관측하지 않은 새로운 자료 [math]x^*[/math]에 대한 확률분포는 다음과 같이 추정된다.

[math]p(x^* | X) = \int_{\theta} p(x^*|\theta) p(\theta|X) \mathrm{d}\theta[/math]