통계적 추론(Inference)

• 추정(Estimation)
  • 점 추정(적률방법) Point Estimation(Moment Method)
  • 구간 추정 Inteval Estimation
• 검정(Test of Hypothesis)

Point Estimation

• Point estimation

  모집단의 특성을 단일한 값으로 추정 이때 그 값 $\theta$을 Parameter, 모수 라고 함

• Point Estimator

  $\hat {\theta} : \chi^n → \Theta$

  • ex. $\theta = E(X)$ → $\hat {\theta} = \bar{X}$ 표본평균

• 적률 방법

  적률을 사용해 적률의 추정값을 알아낸다.

  • ex.

    

• 점추정량이 얼마나 모수에 가까운가?

  • 편향 Bias: $B( \hat(\theta)) = E(\hat{\theta}) - \theta$

    • 편향이 0인 경우 **불편추정량 (unbiased estimator)**이다
      • ex. 표본평균은 모평균의 불편추정량이다 (표본평균의 평균이 모평균이기 때문)
      • ex. 표본분산은 모분산의 불편추정량이다 (표본분산을 n-1로 나누는 이유; 계산하면 표본분산의 평균이 모분산이다)

  • 평균제곱오차 mean squared error MSE 오차 = $\hat \theta - \theta$

    

    데분입에서 나온 variance+bias^2이 여기서 나왔다

    • 불편추정량의 MSE는 분산이다

ex. unweighted mean이 최소의 error을 가지고 있다

• 점추정량의 유효성 efficiency

  $MSE( \hat {\theta_1}) < MSE( \hat {\theta_2}) \rightarrow \hat {\theta_1}$ is more efficient

  • 만약 unbiased면, 분산을 비교하면 된다

  

• 표준오차 Standard Error $SE = SD(\theta)$

  • ex. 모평균에 대한 표준오차 $\sigma_{\bar{X}} = \frac{\sigma}{\sqrt{n}}$

Interval Estimation

표본이 많지 않으면, 점추정량이 모수와 얼마나 가까운지 알기 힘들다 (표본이 모집단의 특성을 잘 나타내지 못하기 때문)

따라서 모수가 있을 것으로 예상되는 구간을 정하고, 그 구간에 있을 확률을 구한다.

• 신뢰도 confidence level $P( \hat{\theta_L} < \theta < \hat{\theta_U}) = 1-\alpha$
• 신뢰구간 confidence interval $100(1-\alpha) \%$

Estimating the mean 모평균 추정

$N (\mu, \sigma^2)$에서 n개의 샘플 추출