Apakah Anda harus mematuhi prinsip kemungkinan menjadi seorang Bayesian?

Pertanyaan ini dipicu dari pertanyaan: Kapan (jika pernah) pendekatan yang lebih sering secara substantif lebih baik daripada Bayesian?

Ketika saya memposting dalam solusi saya untuk pertanyaan itu, menurut pendapat saya, jika Anda adalah seorang yang sering, Anda tidak perlu percaya / berpegang pada prinsip kemungkinan karena sering kali metode frequentist akan melanggarnya. Namun, dan ini biasanya dengan asumsi prior priors, metode Bayesian tidak pernah melanggar prinsip kemungkinan.

Jadi sekarang, untuk mengatakan Anda seorang Bayesian apakah itu mengkonfirmasi keyakinan atau persetujuan seseorang dalam prinsip kemungkinan, atau apakah argumen bahwa menjadi seorang Bayesian hanya memiliki konsekuensi yang baik bahwa prinsip kemungkinan tidak dilanggar?

bayesian likelihood likelihood-principle Ahli Statistik Rusty
sumber

Tidak - lihat Jeffreys sebelumnya. Metode Bayesian dapat melanggar prinsip kemungkinan (kuat).

Scortchi

Ya memang, Jeffreys priors dan juga solusi yang menggunakan data beberapa kali seperti prediksi posterior melanggar prinsip kemungkinan tetapi masih dapat dianggap sebagai Bayesian ...

Xi'an

Belum tentu. Dan saya tidak yakin apa bedanya.

Scortchi

Bandingkan dengan binomial & binomial negatif.

Scortchi

xianblog.wordpress.com/2014/11/13/…

Reinstate Monica

Jawaban:

Dalam penggunaan Teorema Bayes untuk menghitung probabilitas posterior yang merupakan kesimpulan tentang parameter model, prinsip kemungkinan lemah secara otomatis dipatuhi:

hal Hai s t e r saya Hai r \propto hal r saya Hai r \times l saya k e l saya h Hai Hai d

$\mathrm{posterior} \propto \mathrm{prior} \times \mathrm{likelihood}$

Namun demikian, dalam beberapa pendekatan Bayesian yang obyektif, skema pengambilan sampel menentukan pilihan sebelum, motivasi adalah bahwa sebelum yang tidak informatif harus memaksimalkan divergensi antara distribusi sebelum dan posterior - membiarkan data memiliki pengaruh sebanyak mungkin. Dengan demikian mereka melanggar prinsip kemungkinan kuat.

$\pi$

\begin{aligned} \Pr_{N B} (π) & \propto π^{- 1} (1 - π)^{- \frac{1}{2}} \\ \Pr_{B saya n} (π) & \propto π^{- \frac{1}{2}} (1 - π)^{- \frac{1}{2}} \end{aligned}

$\def\Pr{\mathop{\rm Pr}\nolimits} \begin{align} \Pr_\mathrm{NB}(\pi) &\propto \pi^{-1} (1-\pi)^{-\tfrac{1}{2}}\\ \Pr_\mathrm{Bin}(\pi) &\propto \pi^{-\tfrac{1}{2}} (1-\pi)^{-\tfrac{1}{2}} \end{align}$

& pengkondisian pada $x$ $n$

\begin{aligned} \Pr_{N B} (π ∣ x, n) \sim B e t Sebuah (x, n - x + \frac{1}{2}) \\ \Pr_{B saya n} (π ∣ x, n) \sim B e t Sebuah (x + \frac{1}{2}, n - x + \frac{1}{2}) \end{aligned}

$\begin{align} \Pr_\mathrm{NB}(\pi \mid x,n) \sim \mathrm{Beta}(x, n-x+\tfrac{1}{2})\\ \Pr_\mathrm{Bin}(\pi \mid x,n)\sim \mathrm{Beta}(x+\tfrac{1}{2}, n-x+\tfrac{1}{2}) \end{align}$

Jadi mengamati mengatakan 1 keberhasilan dari 10 percobaan akan menyebabkan distribusi posterior yang sangat berbeda di bawah dua skema pengambilan sampel:

$\pi^{-1+c} (1-\pi)^{-1/2}$ $0 < c\ll 1$

Anda mungkin juga mempertimbangkan pengecekan model — atau melakukan sesuatu sebagai hasil dari pemeriksaan Anda — sebagai bertentangan dengan prinsip kemungkinan yang lemah; kasus mencolok menggunakan bagian tambahan dari data.

Scortchi - Reinstate Monica
sumber