Saya menemukan artikel ini di mana dikatakan bahwa dalam pengambilan sampel Gibbs setiap sampel diterima. Saya sedikit bingung. Bagaimana jika setiap sampel yang diterima itu konvergen ke distribusi stasioner.
Secara umum Algoritma Metropolis kami terima sebagai min (1, p (x *) / p (x)) di mana x * adalah titik sampel. Saya berasumsi bahwa x * mengarahkan kita ke posisi di mana kepadatan tinggi sehingga kita pindah ke distribusi target. Oleh karena itu saya kira itu bergerak ke distribusi target setelah periode terbakar.
Namun, dalam pengambilan sampel Gibbs kami menerima semuanya jadi meskipun itu mungkin membawa kami ke tempat yang berbeda, bagaimana kami dapat mengatakan bahwa itu menyatu dengan distribusi stasioner / target
Misalkan kita memiliki distribusi . Kami tidak dapat menghitung Z. Dalam algoritma metropolis kami menggunakan istilah untuk menggabungkan distribusi ditambah konstanta normalisasi Z yang dibatalkan. Jadi tidak apa-apac ( θ n e w ) / c ( θ o l d ) c ( θ )
Tetapi dalam sampling Gibbs di mana kita menggunakan distribusi
Untuk misal di makalah http://books.nips.cc/papers/files/nips25/NIPS2012_0921.pdf yang diberikan
jadi kami tidak memiliki distribusi kondisional yang tepat untuk sampel, kami hanya memiliki sesuatu yang berbanding lurus dengan distribusi kondisional
sumber
Jawaban:
Ketika kita menggunakan algoritma Metropolis-Hastings kita harus menghitung rasio penerimaan dan membiarkan variabel acak maka kita menerima variabel acak jika .U∼Seragam (0,1)U<α
Namun, dalam pengambilan sampel Gibbs kami selalu kecuali variabel acak karena kami tidak harus menghitung rasio penerimaan (baik Anda benar-benar melakukannya tetapi ketika Anda memasukkan hal-hal di dalam Anda melihat bahwa semuanya dibatalkan dan rasio penerimaan Anda adalah dan begitu jelas selalu kurang dari dan karena itu Anda selalu menerima). Namun, Anda juga dapat memikirkannya secara intuitif di mana dalam Gibbs sampling, Anda mengambil sampel dari kondisi penuh yang merupakan ekspresi bentuk tertutup yang dapat kami sampel langsung, sehingga tidak perlu menolak sampel seperti pada algoritma Metropolis-Hastings tempat kami tidak tahu cara mengambil sampel dari (atau biasanya tidak mengenali bentuk) . Semoga itu bisa membantu!U α p ( x )α = 1 U α p ( x )
sumber
Bukti bahwa tingkat penerimaan sama dengan 1 sebagai salah ketik yaitu dalam penyebut di bagian tengah dan ketiga ekspresi untuk q harus memiliki z_i prime, sehingga pada akhirnya Anda mendapatkan P (z_i prime | z_i prime).
Alex
sumber