Apa perbedaan matematis antara menggunakan pendekatan sebelumnya yang tidak informatif dan sering?

8

Prior yang tidak informatif lebih disukai dalam kasus di mana bias tidak dapat diterima (mis. Ruang sidang, dll.)

Namun, bagi saya tampaknya masuk akal untuk menggunakan pendekatan frequentist saja. Mengapa pendekatan Bayesian bahkan memiliki prior non-informatif?

Terima kasih!

bayesian prior uninformative-prior pengguna154510
sumber

1

Dalam banyak situasi, tidak ada hal seperti sebuah sebelum non-informatif, karena tergantung pada bagaimana ruang state parameterized. Jadi persis yang "non-informatif sebelum" akan Anda pegang sebagai setara dengan analisis non-Bayesian?

whuber

2

Bahkan dengan prior non-informatif, kesimpulan Bayesian berbeda dari pendekatan frequentist. Misalnya, pertimbangkan memperkirakan probabilitas $\theta$ bahwa koin akan muncul kepala. Ambil seragam sebelumnya $\theta$ . Jika kita mengamati satu flip, dan itu adalah head, probabilitas prediksi Bayesian bahwa flip berikutnya adalah head adalah 2/3. Pendekatan kemungkinan maksimum akan mengatakan probabilitasnya adalah 1. Jika Anda menginginkan derivasi dari hasil ini, baca Bayesian inference, entropy, dan distribusi multinomial .

Saya telah menulis beberapa makalah tentang topik ini. Jika Anda ingin lebih banyak contoh, periksa: Patologi Statistik Ortodoks , Inferring a Gaussian distribution dan Bayesian inference of a uniform uniform .

Tom Minka
sumber

1

Saya ingin menunjukkan bahwa "Statistik Frequentist" terdiri lebih dari ML. Memang, itu

2 / 3

$2/3$ Perkiraan adalah penduga Frequentist yang valid (dapat dibolehkan, karena merupakan penduga Bayes!). Jadi kontras penaksir ini sepertinya tidak benar-benar menggambarkan perbedaan sama sekali antara filsafat.

whuber

1

Setuju dengan @whuber dan saya pikir lebih baik untuk menganggap estimator / algoritma sebagai paradigma bebas dengan derivasi estimator dimotivasi oleh paradigma ini-dan-itu dan estimator yang memiliki properti ini-dan-seperti di bawah ini-dan- paradigma seperti itu. Saya juga ingin menambahkan bahwa dari perspektif frequentist estimator minimax

θ

$\theta$ dalam contoh Anda adalah

\frac{3}{4}

$\frac 3 4$ yang setuju dengan Jefferys sebelumnya.

pria

1

Ini untuk para puritan metodologis yang tidak tahan untuk menggunakan statistik frequentist yang membosankan dengan semua ketidakkonsistenan "mengerikan" mereka (lupakan fakta bahwa prior yang tidak informatif sering tidak patut!).

Serius, meskipun: distribusi posterior Bayesian yang tidak informasi akan terlihat sangat buruk seperti fungsi kemungkinan dinormalisasi, sedangkan yang sering melaporkan interval kepercayaan biasa. Karena kesimpulan sering tidak mematuhi kemungkinan "prinsip", dua jawaban mungkin sangat berbeda.

sumber

1

Bisakah Anda menambahkan beberapa contoh?

Yehoshaphat Schellekens

Apa perbedaan matematis antara menggunakan pendekatan sebelumnya yang tidak informatif dan sering?

Jawaban: