[머신러닝] 1. 선형회귀모델 3
3장 추정된 파라미터에 대한 추정과 가설검정
파라미터 추정 알고리즘
- Least square estimator
- Estimator(추정량) : 샘플의 함수
- 추정량의 용도 : 알려지지 않은 파라미터(B0,B1)를 추정
- 추정량의 종류 (1) 점추정 (point estimator) , (2) 구간추정 (interval estimator)
파라미터에 대한 점추정
최소제곱법 추정량 성질
-
Gauss-Markov 이론에 의하면 최소제곱법에서 추정되는 B0과 B1은 Best Linear Unbiased Estimator(BLUE)
- BLUE의 특징 (1) 편중되지 않은 (불편)추정량이다. (2) 가장 작은 분산은 갖고 있다.
파라미터에 대한 구간추정
- 점추정
- 구간추정
- 구간으로 추정하여 보다 유연한 정보 제공
- 기울기에 대한 신뢰구간
(B0는 많이 활용되지는 않음, 참고용)
기울기에 대한 가설검정
- 알려지지 않은 파라미터에 대한 가설을 세우고 이를 검정
- 일종오류 ∝ 하에서 기울기가 0인지 아닌지 검정