Bisakah kita mengubah tingkat penerimaan dalam algoritma Metropolis walk acak dengan mengubah parameter distribusi proposal?

Biarkan distribusi target menjadi . Biarkan menjadi kepadatan proposal untuk keadaan baru pada kondisi saat ini . Tingkat penerimaan adalah $\pi$ $p(x_2 | x_1)$ $x_2$ $x_1$

α = min (1, \frac{π (x_{2}) p (x_{1} | x_{2})}{π (x_{1}) p (x_{2} | x_{1})})

$\alpha = \min(1, \frac{\pi(x_2) p(x_1|x_2)}{\pi(x_1) p(x_2|x_1)})$

Jika saya benar, dalam algoritma Metropolis random walk, kepadatan proposal simetris dalam arti bahwa $p(x_2 | x_1) = p(x_1 | x_2)$ , sehingga tingkat penerimaan tidak tergantung pada kepadatan proposal, tetapi hanya pada distribusi target $\pi$ untuk dijadikan sampel. Jadi mengubah parameter dari distribusi proposal tidak akan mengubah tingkat penerimaan $\alpha$ .

Misalnya, jika distribusi proposal, pada kondisi saat ini $x_1$ , adalah distribusi Gaussian yang berpusat pada kondisi saat ini dengan varian konstan, yaitu $N(x_1, \sigma^2)$ , yang dengan cara simetris dalam arti di atas, akan mengubah varians $\sigma^2$ dari distribusi proposal Gaussian tidak mengubah tingkat penerimaan $\alpha$ ?

Terima kasih!

mcmc Tim
sumber

Jawaban:

Jika proposal Anda memiliki varian yang sangat rendah, maka status baru yang Anda usulkan akan sangat mirip dengan kondisi saat ini, jadi akan mendekati 1 (dalam batas, dengan 0 varians, proposal dan status saat ini akan sama dan Anda akan memilikinya persis sama dengan 1), sehingga tingkat penerimaan akan mendekati 100%. $\frac{\pi(x_2)}{\pi(x_1)}$

Namun, jika proposal Anda memiliki varian tinggi, akan (setidaknya kadang-kadang) jauh lebih kecil dari 1, sehingga tingkat penerimaan Anda akan semakin dekat dan mendekati 0%. Jadi tingkat penerimaan menurun karena varians dari proposal meningkat. $\frac{\pi(x_2)}{\pi(x_1)}$

Masalah dengan varians sangat rendah (yang akan membuat Anda tingkat penerimaan yang lebih tinggi) adalah bahwa mereka membutuhkan waktu lebih lama untuk menjelajahi ruang posterior dengan tidak pernah bergerak jauh dari keadaan saat ini. Metode MCMC adaptif seperti Haario et Al. coba atasi masalah seperti itu dengan mengubah varians matrix proposal saat itu juga.

Untuk menyesuaikan tingkat penerimaan Anda, Anda bisa mencoba menambah dan mengurangi varians, pendekatan yang agak coba-coba. Tetapi tergantung pada geometri posterior, tingkat penerimaan mungkin berubah secara drastis selama proses pengambilan sampel. Juga, untuk model multiparameter, matriks kovarians proposal memiliki banyak varian dan istilah kovarians dan metode semacam itu menjadi tidak praktis.

Ada lebih banyak metode untuk menangani ini seperti metode metropolis adaptif yang diuraikan dalam tautan di atas, atau Anda mungkin ingin melihat metode lain seperti yang tercantum di sini . Anda juga dapat mencoba perangkat lunak seperti Jags dan Stan jika Metropolis tidak berfungsi untuk masalah Anda.

random_user
sumber

Terima kasih! dapatkah Anda melihat posting saya yang diperbarui? dengan "Pr (status proposal)", maksud Anda "Pr (status proposal | status saat ini)"?

Tim

Hai, dalam notasi baru Anda maksud saya . Saya tidak peduli dengan karena Anda mengatakan Anda bekerja dengan proposal simetris, dan karena itu hubungannya konstan dan sama dengan 1 untuk varian apa pun yang Anda pilih.

π (x_{2}) / π (x_{1})

$\pi(x_2)/\pi(x_1)$

p (x_{1} | x_{2}) / p (x_{2} | x_{1})

$p(x_1|x_2)/p(x_2|x_1)$

random_user

Perluas sedikit jawaban untuk menjelaskan hal ini.

random_user

karena status proposal adalah variabel acak, apakah betul bahwa tidak ada cara untuk mengontrol tingkat penerimaan ke dalam interval seperti [0,2,0,5]?

Tim

Ini akan tergantung pada geometri AFAIK posterior. Jika posterior Anda adalah distribusi normal atau sesuatu yang dekat dengannya dan jika Anda memiliki distribusi proposal yang juga normal, saya tidak melihat mengapa Anda tidak bisa "mengendalikan" tingkat penerimaan Anda melakukan trial and error dalam varian dari usul. Tentu saja, masalah nyata bisa (dan) jauh lebih rumit dari ini.

random_user

Saya pikir mencatat beberapa definisi mungkin bermanfaat untuk referensi di masa depan untuk pertanyaan dan jawaban ini.

Rasio jumlah negara yang diusulkan diterima dengan jumlah proposisi memberikan tingkat penerimaan. Perhatikan bahwa tingkat penerimaan adalah tingkat penerimaan selama perjalanan acak.

$\alpha$ dalam pertanyaan itu disebut "kemungkinan penerimaan" oleh Robert & Casella dalam buku mereka Pengantar Metode Monte Carlo dengan R (2010, hal. 171). Ini sangat masuk akal karena , dalam presentasi mereka, disesuaikan dengan notasi dalam pertanyaan, terlihat di sini: $\alpha$

x_{2} = {\begin{cases} x_{2} & with probability α (x_{2}, x_{1}) \\ x_{1} & with probability 1 - α (x_{2}, x_{1}) \end{cases} where α (x_{2}, x_{1}) = min {1, \frac{π (x_{2}) p (x_{1} | x_{2})}{π (x_{1}) p (x_{2} | x_{1})}}

$x_2= \begin{cases} x_2 & \quad \text{with probability } \alpha(x_2,x_1) \\ x_1 & \quad \text{with probability } 1 - \alpha(x_2,x_1)\\ \end{cases} \\ \\ \text{where }\ \alpha(x_2,x_1) = \min\left\{1, \frac{\pi(x_2)p(x_1 | x_2)}{\pi(x_1)p(x_2 | x_1)}\right\}$

Sekarang perhatikan bahwa sini dapat menjadi independen dari kepadatan proposal dalam kasus proposal berjalan acak ketika . Namun, tingkat penerimaan seperti yang didefinisikan di atas masih tergantung padanya karena alasan yang dijelaskan oleh random_user. $\alpha$ $p(x|y)=p(y|x)$

Robert dan Casella sangat jelas tentang membedakan keduanya dan mendefinisikan yang terakhir sebagai "[...] rata-rata probabilitas penerimaan atas iterasi."

Saya memiliki sedikit pengalaman tentang masalah ini tetapi cukup bagi saya untuk mengamati bahwa apa yang disebut dalam pertanyaan dengan "tingkat penerimaan" kadang-kadang disebut "rasio penerimaan" (lihat Wikipedia misalnya), yang mengarah pada kebingungan yang sama seperti dalam pertanyaan.

Oğuzhan Öğreden
sumber