Nilai yang Diharapkan dan Variasi Estimasi Parameter Kemiringan dalam Regresi Linier Sederhana

8

Saya membaca teks, "Probabilitas dan Statistik" oleh Devore. Saya melihat 2 item pada halaman 740: nilai yang diharapkan dan varian estimasi , yang merupakan parameter kemiringan dalam regresi linier Y_i = \ beta_0 + \ beta_1 X_i + \ epsilon_i . \ epsilon_i adalah variabel acak Gaussian ( \ mu = 0, variance = \ sigma ^ 2 ) dan \ epsilon_i independen.β1Yi=β0+β1Xi+ϵiϵiμ=0,variance=σ2ϵi

Perkiraan β1 dapat dinyatakan sebagai: β1^=(xix¯)(YiY¯)(xix¯)2=(xix¯)YiSxx , di mana Sxx=(xix¯)2 . Jadi, pertanyaan saya adalah: bagaimana cara memperoleh E(β1^) dan Var(β1^) ? Buku itu telah memberikan hasil: E(β1^)=β1 dan Var(β1^)=σ2Sxx .

Pekerjaan saya dalam derivasi: E((xix¯)YiSxx)=E((xix¯)(β0+β1xi+ϵ)Sxx)=E((xix¯)β1xiSxx) , karena (xix¯)c=0 dan E(cϵ)=0 . Tapi saya terjebak.

Juga, Var((xix¯)YiSxx)=Var((xix¯)(β0+β1xi+ϵ)Sxx)=Var((xix¯)ϵSxx)=Var((xix¯)Sxx)σ2 , tetapi saya mandek.

merek
sumber
Komentar saya pada 22 Juni 2011 di jawaban pengguna whuber harus menyertakan subskrip di , dan harus menggunakan fakta bahwa istilah kesalahan independen. iϵϵi
jrand
Var(β1^)=Var((xix¯)yiSxx)=Var((xix¯)ϵiSxx)=Var((x1x¯)ϵ1Sxx+(x2x¯)ϵ2Sxx++(xnx¯)ϵnSxx)=(x1x¯)2σ2(Sxx)2+(x2x¯)2σ2(Sxx)2++(xnx¯)2σ2(Sxx)2=σ2[(xix¯)2(Sxx)2]=σ2Sxx
jrand
"Jawaban" standar adalah perkiraan rendah, mengabaikan variasi S_ {xx}.
climbert8
1
Dalam situasi yang ditanyakan, sedang dikondisikan, jadi itu diperlakukan sebagai tetap daripada acakX
Glen_b -Reinstate Monica

Jawaban:

8
  1. E((xix¯)β1xiSxx) = karena semuanya konstan. Sisanya hanya aljabar. Jelas Anda perlu menunjukkan . Melihat definisi dan membandingkan kedua sisi menyebabkan orang curiga . Ini mengikuti dengan mudah dari definisi .(xix¯)β1xiSxx(xix¯)xi=SxxSxx(xix¯)x¯=0x¯

  2. Var((xix¯)ϵSxx) = . Ini menyederhanakan, menggunakan definisi , untuk hasil yang diinginkan.[(xix¯)2Sxx2σ2]Sxx

whuber
sumber
2
Untuk poin ke-2, varians, persamaannya adalah:Var((xix¯)ϵSxx)=Var((x1x¯)ϵ+(x2x¯)ϵ++(xnx¯)ϵSxx)=(in(xix¯)2Sxx2)×σ2=SxxSxx2×σ2=σ2Sxx
jrand
1
@ jrand Ya, itulah yang saya tulis (meskipun kesetaraan pertama Anda tidak mencapai apa-apa: itu hanya cara yang lebih sulit untuk menulis penjumlahan). Seluruh poin - dan hal yang perlu diingat - adalah ketika adalah variabel acak dengan varian dan adalah konstan, = . ελVar(λε)λ2Var(ε)
whuber
Kecuali jika saya salah mendapatkan notasi, ini adalah pernyataan yang salah: . Kuantitas di sisi kiri adalah jumlah kuadrat, dan yang lainnya adalah kuadrat dari jumlah. in(xi)2=(inxi)2
jrand
@jrand Anda benar: ada kesalahan ketik pada balasan saya. terimakasih telah menunjukkan itu. Saya telah memformat ulang untuk memperbaiki kesalahan dan membuat logikanya lebih jelas.
whuber