조건부 확률질량함수

Conditional PMF

사건 A에 대해 조건화된 확률 변수 X의 조건부 확률 질량 함수(Conditional PMF)는 $P(A) > 0$일 때 다음과 같이 정의된다.

$p_{X|A}(x) = P(X = x | A) = \frac{P(\{X = x\} \cap A)}{P(A)}$

확률 변수 X와 Y가 동일한 실험과 관련되어 있을 때, Y에 대해 조건화된 X의 조건부 확률 질량 함수를 정의한다.

Conditional PMF of X given Y: $p_{X|Y}(x | y) = P(X = x | Y = y)$

• $p_{X|Y}(x | y) = \frac{P(X = x, Y = y)}{P(Y = y)} = \frac{p_{X,Y}(x, y)}{p_Y(y)}$

1. Joint PMF 계산
2. Marginalization
3. Marginal PMF 계산
4. Conditional PMF 계산 = Joint PMF / Marginal PMF

1. Joint PMF: $P(X=2, Y=1)
2. Marginal PMF: $P(Y=1)
3. Conditional PMF: $P(X=2|Y=1) = \frac{P(X=2, Y=1)}{P(Y=1)} = \frac{0.05}{0.15} = 0.33$

• $Y = y$는
  1. 4번의 시도 중 y번의 2가 나오는 경우
  2. 남은 4-y의 시도
  3. 4-y의 시도 중 2가 나오지 않는 경우 중 x번의 1이 나오는 경우 → 1/5의 확률
• $X|Y = y$는
  1. 남은 4-y의 시도 중 x번의 1이 나오는 경우
  2. Binomial R.V (n = 4-y, p = 1/5)
  3. $P(X = x | Y = y) = \binom{4-y}{x} \left(\frac{1}{5}\right)^x \left(\frac{4}{5}\right)^{4-y-x}$이다.

• $p_Y(y) = \binom{4}{y} \left(\frac{1}{6}\right)^y \left(\frac{5}{6}\right)^{4-y}$, $y = 0, 1, \dots, 4$.

• 이 때,
  조건부 확률
  의 파라미터 $n$과 $p$는 $n = 4$와 $p = \frac{1}{6}$이다.

• $E[X | A] = \sum_x x\cdot p_{X|A}(x | A)$.

• $E[g(X) | A] = \sum_x g(x) p_{X|A}(x | A)$.

• $E[X | Y = y] = \sum_x x \cdot p_{X|Y}(x | y)$.

• $E[X] = \sum_y p_Y(y) E[X | Y = y]$.

• $E[X] = \sum_x x p_X(x)$
• $= \sum_x x \sum_y p_Y(y) p_{X|Y}(x | y)$ (
  조건확률변수로부터 주변확률변수 계산
  )
• $= \sum_y p_Y(y) \sum_x x p_{X|Y}(x | y)$
• $= \sum_y p_Y(y) E[X | Y = y]$.

1. $A^C$ = ?
2. $P(A)$ = ?
3. $P(A^C)$ = ?
4. $E[X|A]$ = ?
5. $E[X|A^C]$ = ?

1. $A^C=\{X>1\}$
2. $P(A)=P(X=1)=p$
3. $P(A^C)=1-P(A)=1-p$
4. $E[X|A] = \sum_{x=1}^{\infty} x \cdot P(X=x|X=1) \\ =1\cdot P(X=1|X=1)+2\cdot P(X=2|X=1)+3\cdot P(X=3|X=1)+\dots \\ = \frac{P(X=1 \cap X=1)+2\cdot P(X=2 \cap X=1)+3\cdot P(X=3 \cap X=1)+\dots}{P(X=1)} \\ = \frac{P(X=1)}{P(X=1)} + 0 + 0 + \dots \\ = 1$
5. $E[X|A^C]= \sum_{x=1}^{\infty} x \cdot P(X=x|X>1) \\ =2\cdot P(X=2|X>1)+3\cdot P(X=3|X>1)+\dots \\ = \frac{2\cdot P(X=2 \cap X>1)+3\cdot P(X=3 \cap X>1)+\dots}{P(X>1)} \\ = \frac{2\cdot P(X=2)+3\cdot P(X=3)+\dots}{1-P(X=1)} \\ = \frac{P(X=1)+2\cdot P(X=2)+3\cdot P(X=3)+\dots - P(X=1)}{1-P(X=1)} \\ = \frac{E[X] - P(X=1)}{1-P(X=1)} \\ = \frac{E[X] - p}{1-p}$

• $p_{X|A}(x) = P(X = x | A) = \frac{P(\{X = x\} \cap A)}{P(A)}$

• $p_{X,Y}(x, y) = p_Y(y) p_{X|Y}(x | y)$

• $p_X(x) = \sum_y p_Y(y) p_{X|Y}(x | y)$

• $E[X | A] = \sum_x x\cdot p_{X|A}(x | A)$
• $E[g(X) | A] = \sum_x g(x) p_{X|A}(x | A)$
• $E[X | Y = y] = \sum_x x \cdot p_{X|Y}(x | y)$

• $E[X] = \sum_y p_Y(y) E[X | Y = y]$

• $E[X] = \sum_{i=1}^{n} P(A_i)E[X|A_i]$