Perbedaan antara Priors yang tidak informatif dan tidak patut

Saya bertanya-tanya apa perbedaan antara kedua jenis prior ini:

• Tidak informatif
• Tidak benar

Priors yang tidak benar adalah -finite ukuran-ukuran non-negatif pada ruang parameter sedemikian rupa sehingga Dengan demikian mereka menggeneralisasi Gagasan tentang distribusi sebelumnya, yang merupakan distribusi probabilitas pada ruang parameter sehingga Mereka berguna dalam beberapa cara untuk mengkarakterisasid π Θ ∫ Θ d π ( θ ) = + ∞ Θ ∫ Θ d π ( θ ) = $\sigma$$\text{d}\pi$$\Theta$

$$\int_\Theta \text{d}\pi(\theta) = +\infty$$ $\Theta$ $$\int_\Theta \text{d}\pi(\theta) =1$$

1. seperangkat batas prosedur Bayesian yang tepat, yang tidak semuanya prosedur Bayesian yang tepat;
2. prosedur optimal frequentist seperti pada (penerimaan) teorema kelas lengkap seperti Wald;
3. estimator invarian terbaik frequentist (karena mereka dapat dinyatakan sebagai estimasi Bayes di bawah ukuran Haar kanan yang sesuai, biasanya tidak tepat);
4. prior berasal dari bentuk fungsi kemungkinan, seperti prior non-informatif (misalnya, Jeffreys ').

Karena mereka tidak berintegrasi ke angka terbatas, mereka tidak memungkinkan untuk interpretasi probabilistik tetapi tetap dapat digunakan dalam inferensi statistik jika kemungkinan marginal terbatas sejak distribusi posterior kemudian didefinisikan dengan baik. Ini berarti dapat digunakan dengan cara yang persis sama dengan distribusi posterior yang berasal dari prior yang tepat digunakan, untuk memperoleh jumlah posterior untuk estimasi seperti sarana posterior atau interval kredibel posterior. ℓ ( θ | x ) d π ( θ

$$\int_\Theta \ell(\theta|x)\text{d}\pi(\theta) < +\infty$$ $$\dfrac{\ell(\theta|x)\text{d}\pi(\theta)}{\int_\Theta \ell(\theta|x)\text{d}\pi(\theta)}$$

Peringatan: Satu cabang inferensi Bayesian tidak mengatasi dengan sangat baik dengan prior yang tidak tepat, yaitu ketika menguji hipotesis yang tajam. Memang hipotesis-hipotesis itu memerlukan konstruksi dua distribusi sebelumnya, satu di bawah nol dan satu di bawah alternatif, yang ortogonal. Jika salah satu prior ini tidak tepat, itu tidak dapat dinormalisasi dan faktor Bayes yang dihasilkan tidak ditentukan.

Dalam teori keputusan Bayesian, ketika mencari prosedur keputusan yang optimal bawah fungsi loss prior berguna dalam kasus-kasus ketika masalah minimalisasi memungkinkan solusi non-sepele (bahkan ketika distribusi posterior tidak ditentukan). Alasan untuk perbedaan ini adalah bahwa keputusan hanya tergantung pada produk , yang berarti bahwa itu tidak berubah di bawah perubahan sebelumnya dengan istilah multiplikasi asalkan fungsi kerugian dibagi dengan istilah multiplikasi yang sama ,L ( d , θ ) d π arg min d ∫ Θ L ( d , θ ) ℓ ( θ | x ) d π ( θ $\delta$$L(d,\theta)$$\text{d}\pi$

$$\arg \min_d \int_\Theta L(d,\theta)\ell(\theta|x)\text{d}\pi(\theta)$$ $L(d,\theta)\text{d}\pi(\theta)$$\varpi(\theta)$$\varpi(\theta)$ $$L(d,\theta)\text{d}\pi(\theta)=\dfrac{L(d,\theta)}{\varpi(\theta)}\times\varpi(\theta)\text{d}\pi(\theta)$$

Prior non-informatif adalah kelas distribusi sebelumnya (tepat atau tidak benar) yang ditentukan dalam kriteria kriteria informasi tertentu yang berkaitan dengan fungsi kemungkinan, seperti

1. Alasan Laplace tidak memadai sebelumnya;
2. Jeffreys (1939) prior invarian;
3. entropi maksimum (atau MaxEnt) prior (Jaynes, 1957);
4. prior deskripsi panjang minimum (Rissanen, 1987; Grünwald, 2005);
5. referensi prior (Bernardo, 1979, 1781; Berger & Bernardo, 1992; Bernardo & Sun, 2012)
6. prior pencocokan probabilitas (Welsh & Peers, 1963; Scricciolo, 1999; Datta, 2005)

dan kelas lebih lanjut, beberapa di antaranya dijelaskan dalam Kass & Wasserman (1995). Nama non-informatif adalah nama yang salah karena tidak ada sebelumnya yang sepenuhnya tidak informatif. Lihat diskusi saya di forum ini. Atau cacian Larry Wasserman . (Prior non-informatif paling sering tidak tepat.)

Sebelumnya, suatu non-informatif, bukanlah suatu distribusi sebelumnya. Ini adalah fungsi sedemikian sehingga, jika kita menganggapnya sebagai distribusi dan menerapkan formula Bayes, kita mendapatkan distribusi posterior tertentu, yang bertujuan untuk mencerminkan sebaik mungkin informasi yang terkandung dalam data dan hanya dalam data, atau untuk mencapai properti pencocokan frequentist yang baik (yaitu interval kredibilitas eksternal adalah sekitar interval kepercayaan ).95 $95\%$$95\%$

Sebelumnya yang tidak informatif sering kali "tidak patut". Distribusi memiliki properti terkenal: integralnya sama dengan properti. Sebelumnya yang tidak informatif dikatakan tidak tepat ketika integralnya tidak terbatas (oleh karena itu dalam kasus seperti itu jelas bahwa itu bukan distribusi).