Penaksir positif dan tidak memenuhi syarat untuk kuadrat dari rata-rata

10

Asumsikan kita memiliki akses ke sampel iid dari distribusi dengan mean dan varians benar (tidak diketahui) μ,σ2 , dan kami ingin memperkirakan .μ2

Bagaimana kita bisa membuat penduga yang tidak bias dan selalu positif dari jumlah ini?

Mengambil kuadrat dari mean sampel bias dan akan melebih-lebihkan kuantitas, esp. jika dekat dengan 0 dan besar.μσ2μ~2μσ2

Ini mungkin pertanyaan sepele tetapi kemampuan google saya mengecewakan saya karena estimator of mean-squaredhanya mengembalikanmean-squarred-error estimators


Jika itu membuat masalah menjadi lebih mudah, distribusi yang mendasarinya dapat dianggap sebagai Gaussian.


Larutan:

  • Hal ini dimungkinkan untuk membangun perkiraan berisi dari ; lihat jawaban knrumseyμ2
  • Hal ini tidak mungkin untuk membangun sebuah berisi, perkiraan selalu positif dari sebagai persyaratan ini dalam konflik ketika mean sebenarnya adalah 0; lihat jawaban Winksμ2
Mengedipkan mata
sumber
Mungkin mencari penaksir rata - rata kuadrat atau penaksir kuadrat rata-rata sebagai gantinya. Ketika saya membaca judul Anda, saya juga bingung (seperti Google), jadi saya mengeditnya untuk membuatnya lebih intuitif.
Richard Hardy

Jawaban:

10

Perhatikan bahwa mean sampel X¯ juga terdistribusi normal, dengan mean μ dan varians σ2/n . Ini berarti bahwa

E(X¯2)=E(X¯)2+Var(X¯)=μ2+σ2n

Jika semua yang Anda pedulikan adalah estimasi yang tidak bias, Anda dapat menggunakan fakta bahwa varians sampel tidak bias untuk σ2 . Ini menyiratkan bahwa estimator

μ2^=X¯2-S2n
tidak bias untukμ2.

Knrumsey
sumber
2
μ2^
3
(X¯,S2)
@ Winks Itulah alasan mengapa ini adalah contoh dari estimator tidak bias yang absurd .
StubbornAtom
Sangat menarik. Estimator unbiassed sederhana menggunakan dua pengamatan iid dan X 2 adalah X 1 X 2 , sebagai E ( X 1 X 2 ) = E ( X 1 ) E ( X 2 ) = μ 2 . Jelas ini bukan penaksir yang baik, tetapi memperjelas bahwa setiap polinomial dalam μ memiliki penaksir yang tidak digabungkan, yang menurut saya menarik. X1X2X1X2E(X1X2)=E(X1)E(X2)=μ2μ
Paul Harrison
13

Seharusnya tidak mungkin menghasilkan estimator yang baik berisi dan selalu positif bagi .μ2

Jika mean sebenarnya adalah 0, estimator harus dalam ekspektasi pengembalian 0 tetapi tidak diizinkan untuk menghasilkan angka negatif, oleh karena itu juga tidak diperbolehkan untuk menghasilkan angka positif karena bias. Oleh karena itu, penaksir yang tidak bias, selalu positif dari kuantitas ini harus selalu mengembalikan jawaban yang benar ketika rerata 0, terlepas dari sampel, yang tampaknya mustahil.

knrumsey ini jawaban menunjukkan bagaimana untuk memperbaiki bias dari sampel-mean-squarred estimator untuk mendapatkan perkiraan berisi dari .μ2

Mengedipkan mata
sumber
2
Ada kertas yang agak tua oleh Jim Berger yang membuktikan fakta ini, tetapi saya tidak bisa melacaknya. Masalahnya juga muncul di Monte Carlo dengan penduga debiasing seperti Roulette Rusia.
Xi'an