Jenis khusus dari algoritma Markov Chain Monte Carlo (MCMC) digunakan untuk mensimulasikan dari distribusi probabilitas yang kompleks. Ini divalidasi oleh teori rantai Markov dan menawarkan berbagai kemungkinan implementasi.
Saya telah mencoba mempelajari metode MCMC dan telah menemukan Metropolis Hastings, Gibbs, Importance, dan Rejection sampling. Sementara beberapa perbedaan ini jelas, yaitu, bagaimana Gibbs adalah kasus khusus dari Metropolis Hastings ketika kita memiliki persyaratan penuh, yang lain kurang jelas,...
Ketika saya sedang mengkode simulasi Monte Carlo untuk beberapa masalah, dan modelnya cukup sederhana, saya menggunakan buku sampel Gibbs yang sangat dasar. Ketika tidak mungkin menggunakan sampling Gibbs, saya memberi kode pada buku teks Metropolis-Hastings yang telah saya pelajari bertahun-tahun...
Saya membaca Blog Christian Robert hari ini dan cukup menyukai algoritma Metropolis-Hastings yang baru ia diskusikan. Tampaknya sederhana dan mudah diimplementasikan. Setiap kali saya membuat kode MCMC, saya cenderung tetap dengan algoritma MH yang sangat dasar, seperti gerakan independen atau...
Ada berbagai jenis algoritma MCMC: Metropolis-Hastings Gibbs Pentingnya / penolakan sampel (terkait). Mengapa orang menggunakan sampling Gibbs alih-alih Metropolis-Hastings? Saya menduga ada kasus-kasus di mana kesimpulan lebih mudah ditelusuri dengan sampling Gibbs daripada dengan...
Saya baru saja melakukan beberapa bacaan pada Gibbs sampling dan algoritma Metropolis Hastings dan punya beberapa pertanyaan. Seperti yang saya pahami, dalam kasus pengambilan sampel Gibbs, jika kita memiliki masalah multivariat yang besar, kita sampel dari distribusi bersyarat yaitu sampel satu...
Saya membaca tentang MCMC adaptif (lihat misalnya, Bab 4 dari Handbook of Markov Chain Monte Carlo , ed. Brooks et al., 2011; dan juga Andrieu & Thoms, 2008 ). Hasil utama dari Roberts dan Rosenthal (2007) adalah bahwa jika skema adaptasi memenuhi kondisi adaptasi menghilang (ditambah beberapa...
Saya sedang membaca dokumentasi Stan yang dapat diunduh dari sini . Saya sangat tertarik dengan implementasi diagnostik Gelman-Rubin. Makalah asli Gelman & Rubin (1992) mendefinisikan faktor skala pengurangan potensial (PSRF) sebagai berikut: Biarkan menjadi rantai Markov ke- i sampel, dan...
Asumsikan saya memiliki fungsi g(x)g(x)g(x) yang ingin saya integrasikan ∫∞−∞g(x)dx.∫−∞∞g(x)dx. \int_{-\infty}^\infty g(x) dx. Tentu saja dengan asumsi g(x)g(x)g(x) menjadi nol pada titik akhir, tidak ada semburan, fungsi yang bagus. Salah satu cara yang saya telah mengutak-atik adalah dengan...
Selama beberapa minggu terakhir saya telah mencoba memahami MCMC dan algoritma Metropolis-Hastings. Setiap kali saya pikir saya memahaminya, saya menyadari bahwa saya salah. Sebagian besar contoh kode yang saya temukan on-line mengimplementasikan sesuatu yang tidak konsisten dengan deskripsi....
Jalan acak Metropolis-Hasitings dengan proposal simetris q( x | y) = g( | y- x | )q(x|y)=g(|y-x|)q(x|y)= g(|y-x|) memiliki properti yang kemungkinan penerimaannya P( a c c e p t y ) = min { 1 , f( y) / f( x ) }P(Sebuahccehalt y)=min{1,f(y)/f(x)}P(accept\ y) = \min\{1, f(y)/f(x)\} tidak...
Saya telah mencoba memahami algoritma Metropolis-Hastings untuk menulis kode untuk memperkirakan parameter model (yaitu ). Menurut bibliografi, algoritma Metropolis-Hastings memiliki langkah-langkah berikut:f( x ) = a ∗ xf(x)=Sebuah∗xf(x)=a*x HasilkanYt∼ q( y| xt)Yt∼q(y|xt)Y_t \sim q(y|x^t) Xt +...
Selama beberapa hari terakhir saya telah mencoba memahami bagaimana Markov Chain Monte Carlo (MCMC) bekerja. Secara khusus saya telah mencoba memahami dan mengimplementasikan algoritma Metropolis-Hastings. Sejauh ini saya pikir saya memiliki pemahaman keseluruhan tentang algoritma tetapi ada...
Saya perlu melakukan simulasi untuk mengevaluasi integral dari fungsi 3 parameter, kita katakan , yang memiliki rumus yang sangat rumit. Diminta untuk menggunakan metode MCMC untuk menghitungnya dan mengimplementasikan algoritma Metropolis-Hastings untuk menghasilkan nilai yang didistribusikan...
The mgcvpaket untuk Rmemiliki dua fungsi untuk pas interaksi produk tensor: te()dan ti(). Saya memahami pembagian kerja dasar antara keduanya (menyesuaikan interaksi non-linear vs menguraikan interaksi ini menjadi efek utama dan interaksi). Yang tidak saya mengerti adalah mengapa te(x1, x2)dan...
Saya menemukan masalah simulasi berikut: diberi satu set dari bilangan real yang diketahui, distribusi pada { - 1 , 1 } d didefinisikan oleh P ( X = ( x 1 , ... , x d ) ) ∝ ( x 1 ω 1 + … + x d ω d ) + di mana ( z ){ ω1, ... , ωd}{ω1,...,ωd}\{\omega_1,\ldots,\omega_d\}{ - 1 , 1...
Saya menemukan artikel ini di mana dikatakan bahwa dalam pengambilan sampel Gibbs setiap sampel diterima. Saya sedikit bingung. Bagaimana jika setiap sampel yang diterima itu konvergen ke distribusi stasioner. Secara umum Algoritma Metropolis kami terima sebagai min (1, p (x *) / p (x)) di mana x...
Dalam algoritma Metropolis – Hastings untuk pengambilan sampel distribusi target, misalkan: πiπi\pi_{i} menjadi kerapatan target di keadaan ,iii πjπj\pi_j menjadi densitas target pada status yang diusulkan ,jjj hijhijh_{ij} menjadi kepadatan proposal untuk transisi ke keadaan mengingat keadaan...
Saya mencoba mensimulasikan dari kepadatan bivariat menggunakan algoritma Metropolis di R dan tidak beruntung. Kepadatan dapat dinyatakan sebagai , di mana adalah distribusi Singh-Maddalap ( x , y)hal(x,y)p(x,y)p(y|x)p(x)p(y|x)p(x)p(y|x)p(x)p(x)p(x)p(x) hal(x)=aqxa−1ba(1+(xb)a)1 +...
Dalam rantai Metropolis-Hastings Markov Monte Carlo, distribusi proposal dapat berupa apa saja termasuk Gaussian (menurut Wikipedia). T: Apa motivasi untuk menggunakan selain Gaussian? Gaussian bekerja, mudah untuk mengevaluasi, cepat dan semua orang memahaminya. Mengapa saya mempertimbangkan hal...
Dalam implementasi MCMC model hirarkis, dengan efek acak normal dan Wishart sebelum matriks kovariannya, sampling Gibbs biasanya digunakan. Namun, jika kita mengubah distribusi efek acak (mis. Ke Student's-t atau yang lain), konjugasinya hilang. Dalam hal ini, apa yang akan menjadi distribusi...