Bagaimana cara menentukan kemungkinan secara ketat?

Kemungkinan dapat didefinisikan dengan beberapa cara, misalnya:

• fungsi dari yang memetakan untuk yaitu .$L$$\Theta\times{\cal X}$$(\theta,x)$$L(\theta \mid x)$$L:\Theta\times{\cal X} \rightarrow \mathbb{R}$

• fungsi acak$L(\cdot \mid X)$

• kita juga dapat mempertimbangkan bahwa kemungkinan hanya kemungkinan "teramati"$L(\cdot \mid x^{\text{obs}})$

• dalam praktiknya kemungkinan membawa informasi pada hanya hingga konstanta multiplikasi, maka kita dapat mempertimbangkan kemungkinan sebagai kelas fungsi ekivalensi daripada fungsi$\theta$

Pertanyaan lain muncul ketika mempertimbangkan perubahan parametrization: jika adalah parameterisasi baru yang biasanya kita tunjukkan dengan kemungkinan pada dan ini bukan evaluasi dari fungsi sebelumnya pada tetapi pada . Ini adalah notasi yang kasar tetapi bermanfaat yang dapat menyebabkan kesulitan bagi pemula jika tidak ditekankan.$\phi=\theta^2$$L(\phi \mid x)$$\phi$$L(\cdot \mid x)$$\theta^2$$\sqrt{\phi}$

Apa definisi ketat favorit Anda tentang kemungkinan?

Selain itu bagaimana Anda memanggil ? Saya biasanya mengatakan sesuatu seperti "kemungkinan pada ketika diamati".$L(\theta \mid x)$$\theta$$x$

EDIT: Mengingat beberapa komentar di bawah ini, saya menyadari saya harus mengawali konteksnya. Saya menganggap model statistik yang diberikan oleh keluarga parametrik dari kepadatan sehubungan dengan beberapa ukuran yang mendominasi, dengan masing-masing didefinisikan pada ruang observasi . Karenanya kita mendefinisikan dan pertanyaannya adalah "apa itu ?" (pertanyaannya bukan tentang definisi umum kemungkinan){ f ( ⋅ ∣ θ ) , θ ∈ Θ } f ( ⋅ ∣ θ ) X L ( θ ∣ x ) = f ( x ∣ θ ) $\{f(\cdot \mid \theta), \theta \in \Theta\}$$f(\cdot \mid \theta)$${\cal X}$$L(\theta \mid x)=f(x \mid \theta)$$L$

Item ketiga Anda adalah yang saya lihat paling sering digunakan sebagai definisi yang ketat.

Yang lain juga menarik (+1). Khususnya yang pertama menarik, dengan kesulitan bahwa ukuran sampel belum (belum) didefinisikan, lebih sulit untuk mendefinisikan set "dari".

Bagi saya, intuisi mendasar dari kemungkinan adalah bahwa itu adalah fungsi dari model + parameternya, bukan fungsi dari variabel acak (juga merupakan poin penting untuk tujuan pengajaran). Jadi saya akan tetap pada definisi ketiga.

Sumber penyalahgunaan notasi adalah bahwa set "dari" kemungkinan adalah implisit, yang biasanya tidak berlaku untuk fungsi yang didefinisikan dengan baik. Di sini, pendekatan yang paling ketat adalah menyadari bahwa setelah transformasi, kemungkinan berhubungan dengan model lain. Ini setara dengan yang pertama, tetapi masih model lain. Jadi notasi kemungkinan harus menunjukkan model mana yang dirujuknya (dengan subskrip atau lainnya). Tentu saja saya tidak pernah melakukannya, tetapi untuk mengajar, saya mungkin melakukannya.

Akhirnya, agar konsisten dengan jawaban saya sebelumnya, saya mengatakan "kemungkinan " dalam formula terakhir Anda.$\theta$

Saya pikir saya akan menyebutnya sesuatu yang berbeda. Kemungkinan adalah densitas probabilitas untuk x diamati diberi nilai parameter dinyatakan sebagai fungsi dari untuk diberikan . Saya tidak berbagi pandangan tentang konstanta proporsionalitas. Saya pikir itu hanya berperan karena memaksimalkan fungsi monotonik dari kemungkinan memberikan solusi yang sama untuk . Jadi Anda dapat memaksimalkan untuk atau fungsi monoton lainnya seperti yang biasa dilakukan.θ θ x θ c L ( θ ∣ x ) c > 0 log ( L ( θ ∣ x ) $θ$$θ$$x$$θ$$cL(θ∣x)$$c>0$$\log(L(θ∣x))$

Berikut adalah upaya definisi matematis yang ketat:

Misalkan menjadi vektor acak yang menerima kepadatan sehubungan dengan beberapa ukuran pada , di mana untuk , adalah keluarga kepadatan di sehubungan dengan . Kemudian, untuk setiap kita mendefinisikan fungsi kemungkinan menjadi ; untuk kejelasan, untuk setiap kita memiliki . Seseorang dapat menganggap sebagai potensi tertentuX : Ω → R n f ( x | θ 0 ) ν R n θ ∈ Θ { f ( x | θ ) : θ ∈ Θ } R n ν x ∈ R n L ( θ | x ) f ( x | θ ) x L x : Θ → R x x o $X: \Omega \to \mathbb R^n$$f(x | \theta_0)$$\nu$$\mathbb R^n$$\theta \in \Theta$$\{f(x|\theta): \theta \in \Theta\}$$\mathbb R^n$$\nu$$x \in \mathbb R^n$$L(\theta | x)$$f(x | \theta)$$x$$L_x : \Theta \to \mathbb R$$x$s θ 0$x_{obs}$ dan menjadi nilai "true" dari .$\theta_0$$\theta$

Beberapa pengamatan tentang definisi ini:

1. Definisi ini cukup kuat untuk menangani diskrit, kontinu, dan lainnya macam keluarga distribusi untuk .$X$
2. Kami mendefinisikan kemungkinan pada tingkat fungsi kepadatan bukan pada tingkat distribusi probabilitas / tindakan. Alasan untuk ini adalah bahwa kepadatan tidak unik, dan ternyata ini bukan situasi di mana seseorang dapat lolos ke kelas kesetaraan kepadatan dan masih aman: pilihan kepadatan yang berbeda menyebabkan MLE berbeda dalam kasus berkelanjutan. Namun, dalam kebanyakan kasus ada pilihan alami dari keluarga kepadatan yang diinginkan secara teoritis.
3. Saya suka definisi ini karena ini memasukkan variabel acak yang kami kerjakan ke dalamnya dan, dengan desain karena kami harus menetapkan mereka distribusi, kami juga telah membangun dengan seksama gagasan nilai "benar tetapi tidak diketahui" dari , di sini dilambangkan . Bagi saya, sebagai seorang siswa, tantangan untuk bersikap keras tentang kemungkinan selalu bagaimana mendamaikan konsep dunia nyata dari "benar" dan "mengamati" dengan matematika; ini sering tidak dibantu oleh instruktur yang mengklaim bahwa konsep-konsep ini tidak formal tetapi kemudian berbalik dan menggunakannya secara formal ketika membuktikan sesuatu! Jadi kami membahasnya secara formal dalam definisi ini.θ θ 0 θ x o b $\theta$$\theta_0$$\theta$$x_{obs}$
4. EDIT: Tentu saja, kita bebas untuk mempertimbangkan elemen acak yang biasa , dan dan di bawah definisi ini tanpa masalah nyata dengan kekakuan sebagai selama Anda berhati-hati (atau bahkan jika Anda tidak melakukannya jika tingkat kekakuan itu tidak penting bagi Anda).L ( θ | X ) S ( θ | X ) I ( θ | X $L(\theta | X)$$S(\theta | X)$$\mathcal I(\theta | X)$