Monte CarloMonte Carlo는random sample을 반복 생성하여expectation, probability, integral 등을numerical approximation하는 방법의 총칭.다음과 같이 목표분포 $\pi$에서 직접 sampling이 가능한 경우:$$X_1, X_2, \ldots, X_N\overset{\mathrm{IID}}{\sim}\pi$$$X_i$: $i$번째 sample$i$: sampling index$N$: 전체 sample 수$\pi$: target distributionIID(independent and identically distributed) 이므로 다음을 만족: 각 $X_i$는동일한 target distribution에서 생성되며서로 independe..

1. 정리$N$개의 event (사상,사건)인 $H_0, H_1, ... , H_{N-1}$ 들이sample space $S$의 partition(전부 모이면 $S$를 이룸)이면서,$P(H_i) >0$ 을 만족하고,Event $E$가 sample space $S$의 임의의 Event이며 $P(E)>0$이면 다음이 성립.$$\begin{aligned}P(H_i|E)&=\frac{P(H_i)P(E|H_i)}{\displaystyle \sum^{N-1}_{i=0}P(H_i)P(E|H_i)} \\ &=\frac{P(H_i)P(E|H_i)}{P(E)}\end{aligned}$$위의 식이 Bayes's theorem임. Bayes’s Theorem은conditional probability 를 확장하여Posteri..