결정 계수 (R²)

통계학에서 결정 계수 ${\mathrm{R}}^2$는 통계모델을 설명하는 데이터 집합의 변동성에 비례한다.

데이터 집합 $y_i$가 예측치 ${\hat{y}}_i$로 근사될 때 변동성은 제곱합의 차이로 측정된다.

$\begin{array}{r}{\mathrm{S}\mathrm{S}}_{tot}=\sum _{i=1}^{nexp}{(y_i-\overline{y})}^2\end{array}$ : 전체 제곱합 ⇒ 데이터 전체의 편차

$\begin{array}{r}{\mathrm{S}\mathrm{S}}_{reg}=\sum _{i=1}^{nexp}{({\hat{y}}_i-\overline{y})}^2\end{array}$ : 회귀 제곱합 ⇒ 평균 주위 회귀값의 편차

$\begin{array}{r}{\mathrm{S}\mathrm{S}}_{err}=\sum _{i=1}^{nexp}{(y_i-{\hat{y}}_i)}^2\end{array}$ : 잔차 제곱합 ⇒ 회귀선 주위의 편차

여기서 $\begin{array}{r}\overline{y}=\frac{1}{nexp}\sum _{i=1}^{nexp}{y}_i\end{array}$

위의 결과 ${\mathrm{R}}^2$는 다음과 같다.

${\mathrm{R}}^2=1-{\displaystyle \frac{{\mathrm{S}\mathrm{S}}_{err}}{{\mathrm{S}\mathrm{S}}_{tot}}}={\displaystyle \frac{{\mathrm{S}\mathrm{S}}_{reg}}{{\mathrm{S}\mathrm{S}}_{tot}}},{\mathrm{S}\mathrm{S}}_{tot}={\mathrm{S}\mathrm{S}}_{reg}+{\mathrm{S}\mathrm{S}}_{err}$

실험점수(nexp)가 증가하면 근사모델의 정확도와 무관하게 ${\mathrm{R}}^2$ 값이 증가하므로 이를 보완하고자 실험점수로 정규화한 ${\mathrm{R}}_{adj.}^2$를 사용한다.

${\mathrm{R}}_{adj.}^2=1-(1-{\mathrm{R}}^2){\displaystyle \frac{nexp-1}{nexp-(nsat-1)-1}}$

nsat : 포화점수