Apa itu kesalahan standar residual?

Ketika menjalankan model regresi berganda dalam R, salah satu outputnya adalah kesalahan standar residual 0,0589 pada 95,161 derajat kebebasan. Saya tahu bahwa 95,161 derajat kebebasan diberikan oleh perbedaan antara jumlah pengamatan dalam sampel saya dan jumlah variabel dalam model saya. Apa kesalahan standar residual?

Model regresi yang sesuai menggunakan parameter untuk menghasilkan prediksi estimasi titik yang merupakan sarana respon yang diamati jika Anda mereplikasi penelitian dengan nilai sama beberapa kali (dan ketika model linier itu benar). Perbedaan antara nilai-nilai prediksi dan yang digunakan agar sesuai dengan model disebut "residual" yang, ketika mereplikasi proses pengumpulan data, memiliki sifat variabel acak dengan 0 berarti.$X$

Residu yang diamati kemudian digunakan untuk selanjutnya memperkirakan variabilitas dalam nilai-nilai ini dan untuk memperkirakan distribusi sampling dari parameter. Ketika standar kesalahan residual adalah tepat 0 maka model cocok dengan data dengan sempurna (kemungkinan karena overfitting). Jika kesalahan standar residual tidak dapat ditunjukkan secara signifikan berbeda dari variabilitas dalam respon tanpa syarat, maka ada sedikit bukti yang menunjukkan bahwa model linier memiliki kemampuan prediksi.

Katakanlah kita memiliki tabel ANOVA berikut (diadaptasi dari example(aov)perintah R ):

          Df Sum Sq Mean Sq F value Pr(>F)
Model      1   37.0   37.00   0.483  0.525
Residuals  4  306.3   76.57               

Jika Anda membagi jumlah kuadrat dari sumber variasi (model atau residu) dengan derajat kebebasan masing-masing, Anda mendapatkan kuadrat rata-rata. Khusus untuk residu:

Jadi 76,57 adalah kuadrat rata-rata dari residual, yaitu jumlah variasi residual (setelah menerapkan model) pada variabel respons Anda.

$\sqrt{76.57}$

$\beta_{0}$$\beta_{1}$$\epsilon$$\epsilon$

RSE dijelaskan dengan cukup jelas dalam "Pengantar Pembelajaran Statistik".