Apa yang akan menjadi contoh model yang benar-benar sederhana dengan kemungkinan yang sulit dipecahkan?

Perkiraan perhitungan Bayesian adalah teknik yang sangat keren untuk pemasangan pada dasarnya setiap model stokastik, yang ditujukan untuk model-model di mana kemungkinannya tidak dapat diterapkan (katakanlah, Anda dapat mengambil sampel dari model jika Anda memperbaiki parameter tetapi Anda tidak dapat menghitung kemungkinan secara numerik, algoritmik, atau analitis menghitung kemungkinan). Saat memperkenalkan perkiraan Bayesian computation (ABC) kepada audiens, ada baiknya menggunakan beberapa contoh model yang benar-benar sederhana namun masih agak menarik dan yang memiliki kemungkinan yang sulit dipecahkan.

Apa yang akan menjadi contoh yang baik dari model yang sangat sederhana yang masih memiliki kemungkinan yang sulit dipecahkan?

bayesian simulation model likelihood abc Rasmus Bååth
sumber

Contoh kaus kaki Anda benar-benar sederhana dan sebagian besar tidak bisa digunakan ...

Xi'an

P: Tautan contoh kaus kaki ...

Xi'an

Yah, aku berharap kaus kaki itu tidak bisa diatasi, tapi kau membuktikannya bukan, kan? :)

Rasmus Bååth

Ini pertanyaan yang bagus! Ada berbagai contoh mainan dalam literatur tetapi mereka merasa sedikit buatan bagi saya. Akan menyenangkan untuk memiliki model yang sangat sederhana dimotivasi oleh aplikasi nyata dengan kemungkinan yang sulit. Sepertinya saya ingat pernah melihat David Cox menyajikan sesuatu seperti ini tetapi saya belum melihatnya dipublikasikan ...

Dennis Prangle

Jawaban:

Dua distribusi yang banyak digunakan dalam literatur adalah:

Distribusi g-dan-k. Ini didefinisikan oleh fungsi kuantilnya (invers cdf) tetapi memiliki kerapatan yang tidak terpecahkan. Rayner dan MacGillivray (2002) adalah gambaran yang bagus tentang ini, dan salah satu dari banyak makalah ABC yang menggunakannya sebagai contoh mainan adalah Drovandi dan Pettitt (2011) .
Distribusi alpha stabil. Ini didefinisikan oleh fungsi karakteristik mereka tetapi memiliki kepadatan yang tidak bisa ditembus kecuali untuk beberapa kasus khusus. Ini memiliki aplikasi dalam keuangan dan sering digunakan dalam makalah ABC berurutan, misalnya Yildirim et al (2013) .

Dennis Prangle
sumber

The distribusi g-dan-k adalah contoh yang sangat baik di mana fungsi kuantil sederhana untuk mengekspresikan sementara fungsi kemungkinan tidak tersedia sama sekali:

Q (kamu; SEBUAH, B, g, k) = SEBUAH + B [1 + c \frac{1 - \exp {- g Φ (kamu)}}{1 + \exp {- g Φ (kamu)}}] {1 + Φ (kamu)^{2}}^{k} Φ (kamu)

$Q(u;A,B,g,k)=A + B\left[1+c\dfrac{1-\exp\{-g\Phi(u)\}}{1+\exp\{-g\Phi(u)\}}\right]\{1+\Phi(u)^2\}^k\Phi(u)$

α

$\alpha$

Bisakah seseorang menambahkan contoh situasi yang akan dimodelkan dengan distribusi ini?

dugaan

Salah satu contoh saya datang melalui beberapa minggu yang lalu dan cukup untuk kesederhanaannya adalah sebagai berikut: diberi dataset normal yang asli

x_{1}, ..., x_{n} \overset{iid}{\sim} N (θ, σ^{2}),

$x_1,\ldots,x_n\stackrel{\text{iid}}{\sim}\text{N}(\theta,\sigma^2)\,,$ data yang dilaporkan (sayangnya!) terbuat dari ringkasan dua dimensi

S (x_{1}, ..., x_{n}) = (med (x_{1}, ..., x_{n}), gila (x_{1}, ..., x_{n})),

$S(x_1,\ldots,x_n)=(\text{med}(x_1,\ldots,x_n),\text{mad}(x_1,\ldots,x_n))\,,$ yang tidak cukup dan yang tidak memiliki kepadatan sambungan bentuk tertutup.

Xi'an
sumber

Hanya karena kerapatan sambungannya rumit untuk dituliskan, bukan berarti tidak memiliki formulir tertutup! "Tidak dapat ditarik" mulai tampak seperti masalah pendapat di utas ini. Mungkin Anda bisa menjernihkan hal itu dengan menjelaskan apa yang Anda maksud dengan "keras kepala"?

whuber

Karena saya tidak melakukan siapa pun yang dapat menghitung kerapatan ini, saya menyebutnya tidak bisa dilaksanakan ... Karena saya tidak memiliki program komputer yang dapat menghasilkan nilai numerik dari kemungkinan ini, saya terpaksa menggunakan algoritma ABC.

Xi'an

ABC tidak menghitung kemungkinan tetapi menggunakan simulasi dari data untuk memberikan sampel parameter yang merupakan perkiraan dari posterior yang sebenarnya. Pada akhir hari / perhitungan, saya bukan orang bijak tentang fungsi kemungkinan dan saya tidak dapat menghasilkan nilai numerik untuk

L (θ | x_{1}, \dots, x_{n})

$L(\theta|x_1,\ldots,x_n)$ .

Xi'an

@whuber Jika seseorang berhasil menghitung kemungkinan, contohnya tidak akan sangat cocok untuk mendemonstrasikan algoritme untuk memperkirakan posisi tanpa tanpa menghitung kemungkinan.

\times

$\times$ produk sebelumnya.

Juho Kokkala

@whuber Saya pikir penafsiran Anda (2) dalam komentar awal "Apa yang saya bertanya-tanya" pada dasarnya adalah yang dimaksudkan. Namun, saya tidak mengerti komentar terakhir Anda "kecuali jika algoritma ABC Anda membutuhkan waktu lama untuk dieksekusi" - intinya adalah bahwa evaluasi kemungkinan mahal akan dihindari dengan menggunakan ABC sebagai gantinya.

Juho Kokkala