Apakah MCMC tanpa memori?

18

Saya mencoba memahami apa rantai Markov, Monte Carlo (MCMC) dari halaman Wikipedia bahasa Prancis. Mereka mengatakan "bahwa rantai Markov metode Monte Carlo terdiri dari menghasilkan vektor xi hanya dari data vektor xi1 karena itu merupakan proses" tanpa memori ""

Les méthodes de Monte-Carlo par chaînes de Markov konsisten à générer un vecteur xi uniquement à partir de la donnée du vecteur xi1 ; c'est donc un processus «sans mémoire»,

Saya tidak mengerti mengapa mereka mengatakan MCMC adalah "tanpa memori" sejauh kami menggunakan informasi dari data vektor xi1 untuk menghasilkan xi .

IggyPass
sumber
3
Karena Anda tidak perlu "mengingat" apa pun tentang proses kecuali untuk keadaan terakhir rantai. Saya kira Anda masih membutuhkan beberapa memori tetapi hanya sepotong informasi.
user2974951
tidak "diingat"; itu adalah input eksplisit. xi1
chepner

Jawaban:

28

Karakteristik yang menentukan dari rantai Markov adalah bahwa distribusi kondisional dari nilai sekarang tergantung pada nilai-nilai masa lalu hanya bergantung pada nilai sebelumnya . Jadi setiap rantai Markov adalah "tanpa memori" sejauh hanya nilai sebelumnya yang mempengaruhi probabilitas bersyarat saat ini, dan semua status sebelumnya "dilupakan". (Anda benar bahwa itu tidak sepenuhnya tanpa memori - setelah semua, distribusi bersyarat dari nilai sekarang tergantung pada nilai sebelumnya.) Itu berlaku untuk MCMC dan juga untuk rantai Markov lainnya.

Pasang kembali Monica
sumber
9
Jika Anda mengambil langkah maju, Anda dapat mengatakan distribusi bersyarat dari nilai masa depan tergantung pada nilai masa lalu dan sekarang hanya bergantung pada nilai sekarang dan dalam hal itu memori masa lalu tidak diperlukan selama posisi saat ini diketahui
Henry
Kecuali Anda selalu dapat menyesuaikan ruang keadaan untuk menyimpan sejumlah informasi terbatas tentang masa lalu. Masih Markovian, misalnya, bergantung pada sepuluh negara terakhir Anda, karena Anda hanya dapat memperluas ruang keadaan untuk memasukkan informasi itu dalam "keadaan sebelumnya".
David Richerby
15

Meskipun kami memiliki jawaban yang benar, saya ingin sedikit memperluas pada semantik intuitif pernyataan itu. Bayangkan kita mendefinisikan ulang indeks kita sehingga Anda menghasilkan vektor xi+1 dari vektor xi . Sekarang, saat i secara metaforis dipandang sebagai "masa sekarang", dan semua vektor yang datang "lebih awal dari" xi tidak relevan untuk menghitung yang berikutnya di masa depan.

Melalui penomoran ulang yang sederhana ini, ia menjadi "benar-benar tanpa memori" dalam arti intuitif - yaitu, tidak masalah sama sekali bagaimana sistem Markov menjadi seperti sekarang ini . Status saat ini saja yang menentukan status masa depan , tanpa menggunakan informasi apa pun dari masa lalu (xin

xixsaya-n

rumtscho
sumber
5

Kamu bangun. Anda tidak tahu bagaimana Anda sampai di tempat Anda sekarang. Anda melihat-lihat sekeliling Anda dan membuat keputusan tentang apa yang harus dilakukan selanjutnya hanya berdasarkan informasi yang Anda miliki pada saat itu. Itu pada dasarnya situasi yang sama dengan apa yang terjadi di MCMC.

xixi1xi1xi+1xi

Alasan
sumber
2
Sebut saja metode Hangover
IggyPass
@ThePassenger Sebut apa pun yang Anda inginkan. Tolong sampaikan saja aspirin.
Dason