Pertanyaan tentang Prinsip Kemungkinan

Saat ini saya mencoba memahami Prinsip Kemungkinan dan saya terus terang tidak mengerti sama sekali. Jadi, saya akan menulis semua pertanyaan saya sebagai daftar, bahkan jika itu mungkin pertanyaan yang cukup mendasar.

• Apa sebenarnya arti frasa "semua informasi" dalam konteks prinsip ini? (seperti dalam semua informasi dalam sampel terkandung dalam fungsi kemungkinan).
• Apakah prinsipnya terhubung dengan fakta yang sangat bisa dibuktikan, bahwa ? Adalah "kemungkinan" pada prinsipnya hal yang sama, seperti , atau tidak?$p(x|y)\propto p(y|x)p(x)$$p(y|x)$
• Bagaimana teorema matematika bisa "kontroversial"? Pemahaman saya (lemah) tentang matematika adalah bahwa teorema itu terbukti, atau tidak terbukti. Untuk kategori apa Prinsip Likelihood jatuh?
• Bagaimana Prinsip Kemungkinan penting untuk inferensi Bayesian, yang didasarkan pada rumus ?$p(x|y)\propto p(y|x)p(x)$

Prinsip kemungkinan telah dinyatakan dalam banyak cara yang berbeda, dengan makna variabel dan kejelasan. Buku AWF Edwards Likelihood adalah pengantar yang sangat baik untuk banyak aspek kemungkinan dan masih dicetak. Beginilah cara Edwards mendefinisikan prinsip kemungkinan:

"Dalam kerangka model statistik, semua informasi yang disediakan data mengenai manfaat relatif dari dua hipotesis terkandung dalam rasio kemungkinan hipotesis tersebut." (Edwards 1972, 1992 hal. 30)

Jadi sekarang untuk menjawab.

1. "Semua informasi dalam sampel", seperti yang Anda kutip, hanyalah ekspresi yang tidak memadai dari bagian yang relevan dari prinsip kemungkinan. Edwards mengatakan itu jauh lebih baik: model itu penting dan informasi yang relevan adalah informasi yang berkaitan dengan manfaat relatif hipotesis. Penting untuk dicatat bahwa rasio kemungkinan hanya masuk akal di mana hipotesis tersebut berasal dari model statistik yang sama dan saling eksklusif. Akibatnya, mereka harus menjadi titik pada fungsi kemungkinan yang sama agar rasio dapat berguna.

2. Prinsip kemungkinan terkait dengan teorema Bayes, seperti yang Anda lihat, tetapi dapat dibuktikan tanpa merujuk pada teorema Bayes. Ya, p (x | y) adalah (sebanding dengan) kemungkinan selama x adalah data dan y adalah hipotesis (yang mungkin hanya nilai parameter hipotesis).

3. Prinsip kemungkinan kontroversial karena buktinya telah diperdebatkan. Menurut pendapat saya, cacat itu salah, tapi tetap saja itu kontroversial. (Pada tingkat yang berbeda, dapat dikatakan bahwa prinsip kemungkinan kontroversial karena menyiratkan bahwa metode frequentist untuk inferensi dalam beberapa hal salah. Beberapa orang tidak suka itu.) Prinsip kemungkinan telah terbukti, tetapi cakupannya adalah relevansi mungkin lebih terbatas daripada yang dibayangkan oleh para pengkritiknya.

4. Prinsip kemungkinan penting untuk metode Bayesian karena data masuk ke dalam persamaan Bayes dengan cara kemungkinan-kemungkinan. Sebagian besar metode Bayes sesuai dengan prinsip kemungkinan, tetapi tidak semua. Beberapa orang, seperti Edwards dan Royall, berpendapat bahwa kesimpulan dapat dibuat berdasarkan fungsi kemungkinan tanpa menggunakan teorema Bayes, "inferensi kemungkinan murni". Itu juga kontroversial. Bahkan, itu mungkin lebih kontroversial daripada prinsip kemungkinan karena Bayesian cenderung setuju dengan sering bahwa metode kemungkinan murni tidak pantas. (Musuh musuhku ...)