베이즈 확률론: 두 판 사이의 차이

내용 삭제됨 내용 추가됨

인라인

2014년 4월 18일 (금) 21:46 판

베이즈 확률론(Bayesian probability)은 확률을 '지식의 상태를 측정'하는 것이라고 해석하는 확률론이다. ^[1] 확률을 발생 빈도(frequency)나 어떤 시스템의 물리적 속성이라고 여기는 것과는 다른 해석이다. 이 분야의 선구자였던 18세기 통계학자 토마스 베이즈의 이름을 따서 명명되었다.

이어먼(Earman 1992)에 따르면 베이즈 확률에는 두 가지 시점이 있는데 그 하나는 객관적 관점에서 베이즈 통계의 법칙은 이성적 보편적으로 증명될 수 있으며 논리의 확장으로 설명될 수 있다. 한편 주관주의 확률 이론의 관점으로 보면 지식의 상태는 개인적인 믿음의 정도(degree of belief)로 측정할 수 있다. 많은 현대적 기계 학습 방법은 객관적 베이즈 원리에 따라 만들어졌다. 베이즈 확률론은 확률에 대한 여러 개념 중 가장 인기있는 것 중의 하나로 심리학, 사회학, 경제학이론에 많이 응용된다. 어떤 가설의 확률을 평가하기 위해서 사전 확률을 먼저 밝히고 새로운 관련 데이터에 의한 새로운 확률값을 변경한다. 베이즈 정리는 이러한 확률의 계산에 있어 필요한 절차와 공식의 표준을 제시하고 있다.

주관주의 확률 이론

주관주의 확률 이론에 따르면 확률이란 어떤 사람이 특정한 순간에 주어진 명제나 사건에 대해서 갖는 믿음의 정도(degree of belief)이다.^[2] 따라서 어떤 단일 사건이나 명제에 대한 확률값을 세울 수 있다. 예를 들어 "이번 선거에서 아무개가 당선된다"는 명제의 사실 확률값은 고전적 확률이론이나 상대빈도 이론으로는 확률로 취급하기가 어렵다 그러나 실생활에서 이러한 믿음에 대한 확률은 주관적으로 평가된다. 사실 주관주의 확률은 어떤 확정된 확률값을 주는 것이 아니라 그 사건에 대해 각기 사람마다 다른 확률값을 가질 수 있다. 여기서 아무개가 당선할 확률이란 사실 그 명제에 대한 자신의 믿음의 정도가 X%란 것과 같다.

베이즈 확률 계산

사후확률은 사전확률과 가능도의 곱에 비례한다.

P(H|D)={\frac {P(D|H)\;P(H)}{P(D)}}

여기서

$H$ 는 가설이다. $D$ 는 데이터이다.
$P(H)$ 는 $H$ 의 사전 확률이다. 즉 $D$ 가 보이기 전까지는 $H$ 가 참일 확률이다.
$P(D|H)$ 는 $D$ 를 보게 됨으로써 가지는 $H$ 가 참이 되는 조건부 확률이다. 가능도(Likelihood)이다.
$P(D)$ 는 $D$ 의 경계 확률이다.
$P(H|D)$ 는 사후 확률이다. 이 확률은 주어진 데이터와 가설에 대한 사전 믿음이 주어진 상태에서 가설이 참일 때의 확률이다.

같이 보기

참조

↑ ET. Jaynes. Probability Theory: The Logic of Science Cambridge University Press, (2003). ISBN 0-521-59271-2
↑ 주관주의 확률 이론, 송하석, 한국논리학회, 1998 [1]

[ghxaib-1] ET. Jaynes. Probability Theory: The Logic of Science Cambridge University Press, (2003). ISBN 0-521-59271-2

[2] 주관주의 확률 이론, 송하석, 한국논리학회, 1998 [1]

[1]

[2]

@@ 1번째 줄: / 1번째 줄: @@
-'''베이지안 확률론'''(Bayesian probability)은 [[확률]]을 '지식의 상태를 측정'하는 것이라고 해석하는 [[확률론]]이다. <ref name = "ghxaib">ET. Jaynes. ''Probability Theory: The Logic of Science'' Cambridge University Press, (2003). ISBN 0-521-59271-2</ref> [[확률]]을 발생 [[빈도주의 확률론|빈도]](frequency)나 어떤 시스템의 물리적 속성이라고 여기는 것과는 다른 해석이다. 이 분야의 선구자였던 18세기 통계학자 [[토마스 베이즈]]의 이름을 따서 명명되었다. 이어만(Earman 1992)에 따르면 베이지안 확률에는 두 가지 시점이 있는데 그 하나는 객관적 관점에서 베이지안 통계의 법칙은 이성적 보편적으로 증명될 수 있으며 논리의 확장으로 설명될 수 있다. 한편 주관주의 확률 이론의 관점으로 보면 지식의 상태는 개인적인 믿음의 정도(degree of belief)로 측정할 수 있다. 많은 현대적 [[기계 학습]] 방법은 객관적 베이지안 원리에 따라 만들어졌다. 베이지안 확률은 확률에 대한 여러 개념 중 가장 인기있는 것 중의 하나로 심리학, 사회학, 경제학이론에 많이 응용된다. 어떤 가설의 확률을 평가하기 위해서 사전 확률을 먼저 밝히고 새로운 관련 데이터에 의한 새로운 확률값을 변경한다. [[베이즈 정리]]는 이러한 확률의 계산에 있어 필요한 절차와 공식의 표준을 제시하고 있다.
+'''베이즈 확률론'''(Bayesian probability)은 [[확률]]을 '지식의 상태를 측정'하는 것이라고 해석하는 [[확률론]]이다. <ref name = "ghxaib">ET. Jaynes. ''Probability Theory: The Logic of Science'' Cambridge University Press, (2003). ISBN 0-521-59271-2</ref> [[확률]]을 발생 [[빈도주의 확률론|빈도]](frequency)나 어떤 시스템의 물리적 속성이라고 여기는 것과는 다른 해석이다. 이 분야의 선구자였던 18세기 통계학자 [[토마스 베이즈]]의 이름을 따서 명명되었다.
+이어먼(Earman 1992)에 따르면 베이즈 확률에는 두 가지 시점이 있는데 그 하나는 객관적 관점에서 베이즈 통계의 법칙은 이성적 보편적으로 증명될 수 있으며 논리의 확장으로 설명될 수 있다. 한편 주관주의 확률 이론의 관점으로 보면 지식의 상태는 개인적인 믿음의 정도(degree of belief)로 측정할 수 있다. 많은 현대적 [[기계 학습]] 방법은 객관적 베이즈 원리에 따라 만들어졌다. 베이즈 확률론은 확률에 대한 여러 개념 중 가장 인기있는 것 중의 하나로 심리학, 사회학, 경제학이론에 많이 응용된다. 어떤 가설의 확률을 평가하기 위해서 사전 확률을 먼저 밝히고 새로운 관련 데이터에 의한 새로운 확률값을 변경한다. [[베이즈 정리]]는 이러한 확률의 계산에 있어 필요한 절차와 공식의 표준을 제시하고 있다.
 == 주관주의 확률 이론 ==
 주관주의 확률 이론에 따르면 확률이란 어떤 사람이 특정한 순간에 주어진 명제나 사건에 대해서 갖는 믿음의 정도(degree of belief)이다.<ref>주관주의 확률 이론, 송하석, 한국논리학회, 1998 [http://www.aistudy.co.kr/paper/pdf/subjectivist_song.pdf]</ref> 따라서 어떤 단일 사건이나 명제에 대한 확률값을 세울 수 있다. 예를 들어 "이번 선거에서 아무개가 당선된다"는 명제의 사실 확률값은 고전적 확률이론이나 상대빈도 이론으로는 확률로 취급하기가 어렵다 그러나 실생활에서 이러한 믿음에 대한 확률은 주관적으로 평가된다. 사실 주관주의 확률은 어떤 확정된 확률값을 주는 것이 아니라 그 사건에 대해 각기 사람마다 다른 확률값을 가질 수 있다. 여기서 아무개가 당선할 확률이란 사실 그 명제에 대한 자신의 믿음의 정도가 X%란 것과 같다.
-== 베이지안 확률 계산 ==
+== 베이즈 확률 계산 ==
 사후확률은 사전확률과 가능도의 곱에 비례한다.
 : <Math>P(H|D) = \frac{P(D|H)\;P(H)}{P(D)}</math>