모델 평가 및 선정 > In-Sample Prediction(2/2)

이번 포스팅에서는 앞의 포스팅에서 언급했던 모델 Selection 방안에 대해 이어서 정리하도록 하겠습니다. 결국 올바른 모델을 선정 한다는것은 over-fitting도 under-fitting도 되지 않고 새로운 데이터에 대해서 오차가 적도록 작동하는 모델을 찾는 것입니다. 이번 포스팅에서는 $C_p$, BIC, SRM(VC-dimension)에 대해서 간략히 정리하도록 하겠습니다.(AIC: https://direction-f.tistory.com/93) [$C_p$ statistic] 먼저 $C_p$ statistic은 멜로우즈 $C_p$(Malloiws $C_p$)라고 불리는 값입니다. $C_p$는 아래와 같이 정의 됩니다. p는 활용한 변수 의 수, n은 관측값의 개수, $RSS_p$는 p개의 변..

2021.05.30