Contoh bagaimana Bayesian Statistics dapat memperkirakan parameter yang sangat sulit untuk diperkirakan melalui metode frequentist

Ahli statistik Bayesian berpendapat bahwa "Statistik Bayesian dapat memperkirakan parameter yang sangat sulit untuk diperkirakan melalui metode yang sering". Apakah kutipan berikut yang diambil dari dokumentasi SAS ini mengatakan hal yang sama?

Ini memberikan kesimpulan yang tergantung pada data dan tepat, tanpa bergantung pada perkiraan asimptotik. Inferensi sampel kecil berlangsung dengan cara yang sama seolah-olah seseorang memiliki sampel besar. Analisis Bayesian juga dapat memperkirakan setiap fungsi parameter secara langsung, tanpa menggunakan metode "plug-in" (cara untuk memperkirakan fungsional dengan cara memasukkan parameter yang diperkirakan dalam fungsional).

Saya melihat pernyataan serupa di beberapa buku teks tetapi tidak ingat di mana. Adakah yang bisa menjelaskan hal ini kepada saya dengan sebuah contoh?

Saya keberatan dengan kutipan itu:

1. "Frequentism" adalah pendekatan untuk inferensi yang didasarkan pada properti frekuensi dari estimator yang dipilih. Ini adalah gagasan yang kabur karena tidak menyatakan bahwa penduga harus konvergen dan jika mereka melakukannya di bawah bagaimana mereka harus bertemu. Misalnya, ketidakberpihakan adalah gagasan yang sering terjadi tetapi tidak dapat berlaku untuk setiap dan setiap fungsi [dari parameter ] yang menarik karena pengumpulan transformasi yang memungkinkan untuk estimator yang tidak bias sangat terbatas. Lebih lanjut, estimator frequentist tidak dihasilkan oleh paradigma tetapi harus dipilih terlebih dahulu sebelum dievaluasi. Dalam pengertian itu, estimator Bayesian adalah estimator frequentist jika memenuhi beberapa properti frequentist.$\theta$$\theta$
2. Kesimpulan yang dihasilkan oleh pendekatan Bayesian didasarkan pada distribusi posterior, diwakili oleh kepadatannya . Saya tidak mengerti bagaimana istilah "tepat" dapat dilampirkan ke . Ini secara unik dikaitkan dengan distribusi sebelumnya dan itu persis diturunkan oleh teorema Bayes. Tapi itu tidak mengembalikan inferensi yang tepat dalam bahwa estimasi titik bukanlah nilai sebenarnya dari parameter dan itu menghasilkan pernyataan probabilitas yang tepat hanya dalam kerangka yang disediakan oleh pasangan sebelum x kemungkinanπ ( θ | D ) π ( θ ) $\pi(\theta|\mathfrak{D})$$\pi(\theta|\mathfrak{D})$$\pi(\theta)$$\theta$. Mengubah satu istilah dalam pasangan tidak memodifikasi posterior dan kesimpulan, sementara tidak ada argumen generik untuk membela tunggal kemungkinan sebelumnya atau.
3. Demikian pula, pernyataan probabilitas lain seperti "parameter sebenarnya memiliki probabilitas 0,95 jatuh dalam interval kredibel 95%" ditemukan di halaman yang sama dari dokumentasi SAS ini memiliki makna relatif terhadap kerangka distribusi posterior tetapi tidak dalam nilai absolut.
4. Dari perspektif komputasi, memang benar bahwa pendekatan Bayesian mungkin sering mengembalikan jawaban yang tepat atau perkiraan dalam kasus ketika pendekatan klasik standar gagal. Ini misalnya kasus untuk model variabel laten [atau hilang] mana adalah kepadatan bersama untuk pasangan dan di mana tidak diamati, Menghasilkan estimasi dan posteriornya dengan simulasi pasangan mungkin terbukti jauh lebih mudah daripada menurunkan penduga kemungkinan [frequentist?] maksimum. Contoh praktis dari pengaturan ini adalah model gabungan Kingman dalam genetika populasig ( x , z | θ ) ( X , Z ) Z θ ( θ , Z $$f(x|\theta)=\int g(x,z|\theta)\,\text{d}z$$ $g(x,z|\theta)$$(X,Z)$$Z$$\theta$$(\theta,\mathfrak{Z})$, di mana evolusi populasi dari nenek moyang yang sama melibatkan peristiwa laten di pohon biner. Model ini dapat ditangani oleh [perkiraan] inferensi Bayesian melalui suatu algoritma yang disebut ABC, meskipun ada juga resolusi perangkat lunak non-Bayesian .
5. Namun, bahkan dalam kasus seperti itu, saya tidak berpikir bahwa kesimpulan Bayesian adalah satu-satunya resolusi yang mungkin. Teknik pembelajaran mesin seperti jaring saraf, hutan acak, pembelajaran dalam, dapat diklasifikasikan sebagai metode yang sering dilakukan karena mereka melatih sampel dengan validasi silang, meminimalkan kesalahan atau kriteria jarak yang dapat dilihat sebagai harapan [di bawah model yang sebenarnya] didekati dengan rata-rata sampel. Misalnya, model gabungan Kingman juga dapat ditangani dengan resolusi perangkat lunak non-Bayesian .
6. Poin terakhir adalah bahwa, untuk estimasi titik, pendekatan Bayesian mungkin menghasilkan estimasi plug-in. Untuk beberapa fungsi kerugian yang saya sebut kerugian intrinsik , penaksir Bayes dari transform adalah transformasi dari estimator Bayes dari .h ( θ ) $\mathfrak{h}(\theta)$$\mathfrak{h}(\hat\theta)$$\theta$