MathLabs
Định lýĐã chứng minh

Phân rã tổng bình phương và chặn của $R^2$

Phát biểu

Trong hồi quy tuyến tính đơn, SST=SSR+SSESST=SSR+SSE, nên 0≤R2≤10\le R^2\le 1; hơn nữa R2R^2 bằng bình phương hệ số tương quan mẫu rr giữa xx và yy: R2=r2R^2=r^2.

Vì sao đúng?

Phần dư từ khớp bình phương tối thiểu luôn không tương quan với giá trị khớp, vì các phương trình chuẩn xác định β^0,β^1\hat\beta_0,\hat\beta_1 chính là điều kiện buộc điều này xảy ra. Tính trực giao đó chính là thứ khiến tổng biến động tách gọn thành phần "được giải thích" và phần "còn lại" mà không có số hạng chéo.

Phác thảo chứng minh

Hai phương trình chuẩn từ định lý bình phương tối thiểu ở trên cho ∑i=1nei=0\sum_{i=1}^n e_i=0 và ∑i=1nxiei=0\sum_{i=1}^n x_ie_i=0, với ei=yi−y^ie_i=y_i-\hat y_i. Vì y^i=β^0+β^1xi\hat y_i=\hat\beta_0+\hat\beta_1x_i là tổ hợp tuyến tính của 11 và xix_i, hai phương trình chuẩn kết hợp cho ∑i=1neiy^i=β^0∑i=1nei+β^1∑i=1nxiei=0\sum_{i=1}^n e_i\hat y_i=\hat\beta_0\sum_{i=1}^n e_i+\hat\beta_1\sum_{i=1}^n x_ie_i=0. Kết hợp với ∑ei=0\sum e_i=0, ta được ∑i=1nei(y^i−yˉ)=∑eiy^i−yˉ∑ei=0\sum_{i=1}^n e_i(\hat y_i-\bar y)=\sum e_i\hat y_i-\bar y\sum e_i=0.

Bây giờ khai triển SST=∑i=1n(yi−yˉ)2=∑i=1n((yi−y^i)+(y^i−yˉ))2=∑ei2+2∑ei(y^i−yˉ)+∑(y^i−yˉ)2SST=\sum_{i=1}^n(y_i-\bar y)^2=\sum_{i=1}^n\big((y_i-\hat y_i)+(\hat y_i-\bar y)\big)^2=\sum e_i^2+2\sum e_i(\hat y_i-\bar y)+\sum(\hat y_i-\bar y)^2. Số hạng chéo triệt tiêu do tính trực giao vừa chứng minh, còn lại SST=SSE+SSRSST=SSE+SSR.

Vì SSE=∑ei2≥0SSE=\sum e_i^2\ge0 và SSR=∑(y^i−yˉ)2≥0SSR=\sum(\hat y_i-\bar y)^2\ge0, chia SST=SSR+SSESST=SSR+SSE cho SST>0SST>0 cho R2=SSR/SST∈[0,1]R^2=SSR/SST\in[0,1].

Cuối cùng, y^i−yˉ=β^1(xi−xˉ)\hat y_i-\bar y=\hat\beta_1(x_i-\bar x) (vì y^i=β^0+β^1xi\hat y_i=\hat\beta_0+\hat\beta_1x_i và yˉ=β^0+β^1xˉ\bar y=\hat\beta_0+\hat\beta_1\bar x), nên SSR=β^12SxxSSR=\hat\beta_1^2S_{xx}. Thay β^1=Sxy/Sxx\hat\beta_1=S_{xy}/S_{xx} cho SSR=Sxy2/SxxSSR=S_{xy}^2/S_{xx}, và vì SST=Syy=∑(yi−yˉ)2SST=S_{yy}=\sum(y_i-\bar y)^2, R2=Sxy2SxxSyy=(SxySxxSyy)2=r2R^2=\dfrac{S_{xy}^2}{S_{xx}S_{yy}}=\left(\dfrac{S_{xy}}{\sqrt{S_{xx}S_{yy}}}\right)^2=r^2, bình phương hệ số tương quan mẫu.

Chủ đề chứa định lý này

Chứng minh từng bước

Chưa có chứng minh từng bước cho định lý này.