Cara menurunkan kesalahan standar koefisien regresi linier

20

Untuk model regresi linier univariat ini diberikan kumpulan data , estimasi koefisien adalah Inilah pertanyaan saya, sesuai dengan buku dan Wikipedia , kesalahan standar adalah Bagaimana dan mengapa? D = { ( x 1 , y 1 ) , . . . , ( X n , y n ) } β 1 = Σ i x i y i - n ˉ x ˉ y

ysaya=β0+β1xsaya+ϵsaya
D={(x1,y1),...,(xn,yn)}
β^1=sayaxsayaysaya-nx¯y¯nx¯2-sayaxsaya2
β^0=y¯-β^1x¯
β^1
sβ^1=sayaϵ^saya2(n-2)saya(xsaya-x¯)2
alpukat
sumber
@ocram, terima kasih, tapi saya tidak cukup mampu menangani hal-hal matriks, saya akan coba.
alpukat
1
@ocram, saya sudah mengerti bagaimana ini bisa terjadi. Tetapi masih ada pertanyaan: dalam posting saya, kesalahan standar memiliki (n-2) , di mana menurut jawaban Anda, tidak, mengapa?
alpukat

Jawaban:

15

3 komentar di atas: Saya sudah mengerti bagaimana ini bisa terjadi. Tetapi masih ada pertanyaan: dalam posting saya, kesalahan standar memiliki (n − 2), di mana menurut jawaban Anda, tidak, mengapa?


Dalam posting saya , ditemukan bahwa

se^(b^)=nσ^2nxsaya2-(xsaya)2.
Penyebutnya dapat ditulis sebagai
nsaya(xsaya-x¯)2
Jadi,
se^(b^)=σ^2saya(xsaya-x¯)2

Dengan

σ^2=1n-2sayaϵ^saya2
yaitu Mean Square Error (MSE) pada tabel ANOVA, kami berakhir dengan ekspresi Anda untuk se^(b^) . Istilah n-2 bertanggung jawab atas hilangnya 2 derajat kebebasan dalam estimasi intersep dan lereng.
okram
sumber
1
Saya pikir saya mendapatkan semua yang lain harapkan bagian terakhir. Bisakah Anda tunjukkan selangkah demi selangkah mengapa ? Saya juga tahu ini terkait dengan derajat kebebasan, tetapi saya tidak mendapatkan matematika. σ^2=1n-2sayaϵ^saya2
Mappi
2

Cara lain untuk berpikir tentang n-2 df adalah karena kita menggunakan 2 cara untuk memperkirakan koefisien kemiringan (rata-rata Y dan X)

df dari Wikipedia: "... Secara umum, derajat kebebasan estimasi parameter sama dengan jumlah skor independen yang masuk ke dalam estimasi dikurangi jumlah parameter yang digunakan sebagai langkah perantara dalam estimasi parameter itu sendiri . "

Eivind
sumber
2
Ini sebenarnya bukan derivasi, meskipun intuisi. Namun, untuk beberapa seluk-beluk terkait hal ini, lihat Bagaimana memahami tingkat kebebasan?
Silverfish