Mengapa Rao-Blackwell Teorema membutuhkan

10

Teorema Rao-Blackwell menyatakan

Biarkan θ menjadi estimator dari θ dengan E ( θ 2 ) < untuk semua θ . Misalkan T cukup untuk θ , dan biarkan θ * = E ( θ | T ) Lalu untuk semua θ , E ( θ * - θ ) 2E ( θ - θ ) 2 ketidaksetaraan adalah ketat kecualiθ^θE(θ^2)<θTθθ=E(θ^|T)θ

E(θθ)2E(θ^θ)2
θ^ adalah fungsi dariT

Tθθ^T ( θ - θ ) 2minθ^E(θ^θ)2

Pertanyaan Saya

  1. Apakah saya benar bahwa meminimalkan ?E ( θ - θ ) 2θE(θ^θ)2
  2. Mengapa Teorema Rao-Blackwell membutuhkan ?E(θ^2)<
  3. Mengapa ketidaksamaan itu ketat kecuali adalah fungsi dari ? Tθ^T
Stan Shunpike
sumber
Apa yang diperlukan untuk menemukan ? ( θ - θ ) 2minθ^E(θ^θ)2
Stan Shunpike

Jawaban:

7
  1. Tidak, adalah penaksir yang lebih baik daripada tetapi tidak selalu yang terbaik (apa pun artinya!)* θθθ^
  2. Jika estimator tidak memiliki varian, maka risikonya tidak terbatas dan tidak ada jaminan bahwa memiliki risiko yang terbatas (meskipun ini dapat terjadi sebagaimana ditunjukkan oleh Horst Grünbusch dalam komentarnya).θ
  3. Dalam varian hingga terbatas untuk , ketidaksetaraan itu ketat karena dekomposisi varian sebagai jumlah dari varian bersyarat yang diharapkan ditambah varian dari ekspektasi bersyarat Kecuali jika varian bersyarat yang diharapkan adalah nol, yang berarti hanya fungsi dari saja. var( θ )=ET[var( θ |T)]+varT(E[ θ |T])=ET[var(θ|T)]+varT(θ* ) θ Tθ^
    var(θ^)=ET[var(θ^|T)]+varT(E[θ^|T])=ET[var(θ|T)]+varT(θ)
    θ^T
Xi'an
sumber
1
iklan 2: Mengapa tidak mungkin ? Pertimbangkan sebagai estimator untuk , di mana , dan merupakan rv yang didistribusikan Cauchy yang tidak terkait. θ = X + C μ X ~ N ( μ , σ 2 ) CE(θ^2|T)<E(θ^2)=θ^=X+CμXN(μ,σ2)C
Horst Grünbusch
1
@ HorstGrünbusch Mengapa karya Cauchy akan hilang ketika Anda mengkondisikan pada ? Juga bukan merupakan penaksir yang tidak bias. θTθ^
dsaxton
1
@ HorstGrünbusch Tampaknya bagi saya Anda bahkan tidak memiliki ekspektasi bersyarat (karena tidak memiliki ekspektasi), sehingga tidak akan terdefinisi. |TCq*θ^TCθ
Juho Kokkala
2
CCt2E(C)=0CXXE(X+C|X)=E(X|X)+E(C|X)=X+E(C)=X=Var(C)+Var(X)=Var(X+C)>Var(X+C|X)=σ2
6
  1. Perhatikan bahwa menjadi statistik yang memadai tidak unik. Sepele, seluruh data sudah cukup, tetapi mengkondisikan estimator pada mereka tidak mengubah apa pun. Jadi statistik yang cukup saja tidak cukup (pun!) Untuk memiliki kesalahan kuadrat rata-rata minimal. Lihat teorema Lehmann-Scheffé, yang menggunakan teorema Rao-Blackwell dalam buktinya, untuk kecukupan yang cukup (pada kenyataannya, cukup dan lengkap).

  2. T

C1t2+μt2E(C1)=μVar(C1)=C2t2μθ^=C1+C2C1E(θ^|C1)=C1θ^C1+C2C1<

  1. θ^Tθ^θ
Horst Grünbusch
sumber