본문 바로가기

Studying/Probability and Statitics

[확률통계] 01. 조건부확률과 Bayes 정리

확률 및 통계, 이상화 교수님의 동영상 강의를 토대로한 내용입니다.

 

 

  1. Sample Space: 가능한 모든 경우의 수
    S(set)
  1. Event: Sample Space의 부분 집합
    정확하게는 하나의 outcome이 A에 속할 확률
  1. Conditional Probability: 조건부 확률
    A가 발생했을 때 B가 발생한 확률, 모든 확률은 조건부 확률로 나타낼 수 있는데, A가 발생한 것을 Sample Space 가 발생한 걸로 치환하면 된다.

$$ P(B|A) = \frac{P(B|A)}{P(A)} = \frac{P(B \cap A|S)}{P(A|S)} $$

  1. Total Probilibity: 전체 확률의 합은 부분 확률들의 합

$$ P(A _{1} ) + .... + P(A_{n}) $$

$$ P(A_{1}) = P(A_{1} \cap A) $$

$$P(A) = \sum_{i=0}^{n}{P(A|A_{i})P(A_{i})}$$

  1. bayesian rule: P(A|B) 를 알아내기 위해 이미 알고 있는 P(B|A)를 이용해서 구한다.

$$P(A|B)=\frac{P(B|A)P(A)}{P(B)}$$

  1. Independent Events

A와 B가 (상호) 독립이면

$$P(B|A) \triangleq P(B) = \frac{P(A \cap B)}{P(A)}$$

$$P(A|B) \triangleq P(A) = \frac{P(A \cap B)}{P(B)}$$

$$P(A \cap B) = P(A) \times P(B) $$
이면 independent를 만족하므로 independent를 증명할 때 사용한다.

independent의 예는 복원 추출이 있다.

  • 번외
    independent는 exclusive 같지 않다.
    동전 한 개를 던지는 경우는 exclusive 하고,
    동전 n개를 여러 번 던지는 경우는 independent 하다.
    exclusive는 교집합이 0이고, independent는 두 확률의 합과 같으므로,
    한 사건의 확률이 0이 아닌 이상, independent하면서 exclusive 할 순 없다.

A와 B가 independent면 아래 모두 independent 하다.

$$A와 \bar{B}$$

$$\bar{A}와 B$$

$$\bar{A}와 \bar{B}$$

$$P(A)P(A \cap \bar{B}) = P(A)-P(A \cap B) = P(A)-P(A)P(B) = P(A)(1-P(B))$$

  1. Combined Experiments
    같은 실험을 2번 이상 진행하는 것(ex 동전 던지기를 n번 진행)

$$ S = S_{1} \times S_{2} $$
(x 는 Cartesian product)

$$ S = \{ (X_{i}, Y_{j}) | X_{i} \subset S_{1}, Y_{j} \subset S_{2} \} $$