Probability Theory

Probability Measure

확률측도 정의 공간 $\Omega$와 $\Omega$의 부분집합들로 구성된 Borel Field $\mathscr{F}$ 에서 정의된 확률측도 probability measure $P$ 는 다음 공리를 만족시킨다. 1. $\forall E\in \mathscr{F}: P(E)\geq 0$ 2. (가산가법성) $\mathscr{F}$의 서로소인 가산모임 {$Ek:k\in \mathbb{N...

2022. 1. 8.2 min read

확률측도

정의

공간 Ω\OmegaΩ\Omega의 부분집합들로 구성된 Borel Field F\mathscr{F} 에서 정의된 확률측도probability measure PP 는 다음 공리를 만족시킨다.

  1. EF:P(E)0\forall E\in \mathscr{F}: P(E)\geq 0
  2. (가산가법성) F\mathscr{F}의 서로소인 가산모임 {Ek:kNE_k:k\in \mathbb{N}} 에 대해

P(kEk)=kP(Ek)P\biggl(\bigcup_k E_k\biggr)=\sum_k P(E_k)

  1. P(Ω)=1P(\Omega)=1

위와 같이 정의된 확률측도는, F\mathscr{F}의 원소들에 대해 다음 성질들을 만족시킨다.

4. P(E)1P(E)\leq 1 5. P()=0P(\emptyset)=0 6. P(Ec)=1P(E)P(E^c)=1-P(E) 7. P(EF)+P(EF)=P(E)+P(F)P(E\cup F)+P(E\cap F)=P(E)+P(F) 8. EFP(E)P(F)E\subset F\Rightarrow P(E)\leq P(F) 9. (단조성) EnE   or   EnEP(En)P(E)E_n\uparrow E\; \text{ or }\; E_n\downarrow E\Rightarrow P(E_n)\to P(E) 10. (Boole의 부등식) P(kEk)kP(Ek)P(\cup_k E_k)\leq \sum_k P(E_k)

또한, 감소하는 집합열 EnE_n\downarrow\emptyset 에 대해 P(En)0P(E_n)\to 0 이 성립하는데, 이를 연속성 공리axiom of continuity라고 한다.

확률공간

앞선 정의에서 (Ω,F,P)(\Omega,\mathscr{F},P) 로 정의되는 공간을 확률공간probability space 이라고 한다. 이는 일반화된 측도공간의 일종이다. 이때 집합 Ω\Omega표본공간sample space 이라고 한다.

확률공간 Trace

표본공간 Ω\Omega의 부분집합 ΔΩ\Delta\subset\Omega 가 주어질 때 ΔF,P(Δ)>0\Delta\in\mathscr{F},P(\Delta)>0 을 만족한다고 가정하자. 이때 다음과 같이 정의되는 set function PΔP_\Delta

EΔF:PΔ(E)=P(E)P(Δ) \forall E\in \Delta\cap\mathscr{F}:\quad P_\Delta(E)=\frac{P(E)}{P(\Delta)}

ΔF\Delta\cap\mathscr{F} 에서의 확률측도이다. 이렇게 정의되는 확률공간 (Δ,ΔF,PΔ)(\Delta,\Delta\cap\mathscr{F},P_\Delta) 을 기존 확률공간 (Ω,F,P)(\Omega,\mathscr{F},P)Δ\Delta에서의 Trace라고 한다.

예시 - 이산확률분포

가산공간 Ω\Omega의 모든 부분집합들로 구성된 σ\sigma-field F\mathscr{F} 를 생각하자. 이때 wΩw\in\Omega에 대해 p(w)0,wΩp(w)=1p(w)\geq 0, \sum_{w\in\Omega}p(w)=1 이도록 함수 pp를 잡자. 이때, P(A)=wAp(w)P(A)=\sum_{w\in A}p(w) 로 정의하자. AΩA\subset\Omega 이므로 가산합집합 A=iNAiA=\cup_{i\in\mathbb{N}}A_i 로 나타낼 수 있는데, 각 AiA_i가 {wi1,wi2w_{i1},w_{i2}\ldots } 로 표현된다고 하자. 그러면

P(A)=ijp(wij)=ijp(wij)=iP(Ai) P(A)=\sum_{ij}p(w_{ij})=\sum_i\sum_jp(w_{ij})=\sum_iP(A_i)

이므로 P는 가산가법적이다. 이렇게 정의되는 확률공간 (Ω,F,P)(\Omega,\mathscr{F},P) 를 이산확률공간discrete probability spsace 라고 한다.

예시 - 확률측도로서의 르벡측도

구간 (0,1](0,1]의 부분구간 (a,b](a,b]들의 모임(class)을 I\mathscr{I}*(대문자 II의 script)*로 정의하자. 즉,

I={(a,b]:0<a<b1} \mathscr{I}=\lbrace (a,b]:0<a<b\leq1\rbrace

이때 I\mathscr{I}를 포함하는 가장 작은 Borel Field B0\mathscr{B_0}을 잡고, 여기서 정의되는 르벡측도 mm을 생각하자. 그러면 (I,B0,m)(\mathscr{I,B_0},m) 은 확률공간이다.

References

  • A Course in Probability Theory, Chung.
  • Probability and Measure, Billingsley.