Hamiltonian Monte Carlo (HMC): apa intuisi dan justifikasi di balik variabel momentum yang didistribusikan Gaussian?

Saya membaca makalah HMC pengantar yang luar biasa dari Prof. Michael Betancourt, tetapi saya terjebak dalam pemahaman bagaimana kita memilih pilihan distribusi momentum.

Ringkasan

Ide dasar dari HMC adalah untuk memperkenalkan variabel momentum dalam hubungannya dengan variabel target . Mereka bersama-sama membentuk ruang fase .$p$$q$

Energi total dari sistem konservatif adalah konstan dan sistem harus mengikuti persamaan Hamilton. Oleh karena itu, lintasan dalam ruang fase dapat diuraikan menjadi tingkat energi , setiap tingkat sesuai dengan nilai energi dan dapat digambarkan sebagai satu set titik yang memenuhi:$E$

$H^{-1}(E) = \{(q, p) | H(q, p) = E\}$ .

Kami ingin memperkirakan distribusi gabungan , sehingga dengan mengintegrasikan kami mendapatkan distribusi target yang diinginkan . Lebih lanjut, dapat secara ekivalen ditulis sebagai , di mana berkorespondensi dengan nilai energi tertentu dan adalah posisi pada tingkat energi itu.$\pi(q, p)$$p$$\pi(q)$$\pi(q, p)$$\pi(\theta_E \hspace{1.5pt} | \hspace{1.5pt} E) \hspace{1.5pt} \pi(E)$$E$$\theta_E$

$$\begin{equation} \pi(q, p)= \begin{cases} \pi(p \hspace{1.5pt} | \hspace{1.5pt} q) \hspace{1.5pt} \pi(q) \\ \pi(\theta_E \hspace{1.5pt} | \hspace{1.5pt} E) \hspace{1.5pt} \pi(E), \hspace{5pt} \text{microcanonical decomposition} \end{cases} \end{equation}$$

Untuk nilai diberikan , relatif lebih mudah diketahui, karena kita dapat melakukan integrasi persamaan Hamilton untuk mendapatkan titik data pada lintasan. . Namun, adalah bagian yang rumit yang tergantung pada bagaimana kita menentukan momentum, yang akibatnya menentukan jumlah energi .$E$$\pi(\theta_E \hspace{1.5pt} | \hspace{1.5pt} E)$$\pi(E)$$E$

Pertanyaan

Tampak bagi saya bahwa apa yang kita kejar adalah , tetapi yang bisa kita perkirakan adalah , berdasarkan asumsi bahwa dapat kira-kira mirip dengan , seperti yang diilustrasikan dalam Gambar 23 dari makalah ini. Namun, apa yang sebenarnya kita sampel tampaknya adalah .$\pi(E)$$\pi(E \hspace{1pt} | \hspace{1pt} q)$$\pi(E \hspace{2pt} | \hspace{1pt} q)$$\pi(E)$$\pi(p \hspace{1pt} | \hspace{1pt} q)$

T1 : Apakah itu karena setelah kita tahu , kita dapat dengan mudah menghitung dan karenanya memperkirakan ?$\pi(p \hspace{1pt} | \hspace{1pt} q)$$E$$\pi(E \hspace{2pt} | \hspace{1pt} q)$

Untuk membuat asumsi bahwa berlaku, kita menggunakan momentum terdistribusi Gaussian. Dua pilihan disebutkan di koran:$\pi(E) \sim \pi(E | q)$

$$\begin{equation} \pi(p|q)= \begin{cases} \mathcal{N}(p \hspace{1pt}| \hspace{1pt} 0, M) \hspace{5pt} \text{Euclidean-Gaussian kinetic energy} \\ \mathcal{N}(p \hspace{1pt}| \hspace{1pt} 0, \Sigma(q)) \hspace{5pt} \text{Reimannian-Gaussian kinetic energy}, \end{cases} \end{equation}$$

di mana adalah konstanta disebut metrik Euclidean, alias matriks massa .$M$$D \times D$

Dalam kasus pilihan pertama (Euclidean-Gaussian), matriks massa sebenarnya tidak bergantung pada , jadi kemungkinan kita mengambil sampel sebenarnya adalah . Pilihan momentum terdistribusi Gaussian dengan kovarians menyiratkan bahwa variabel target terdistribusi Gaussian dengan matriks kovarians , karena dan perlu diubah secara terbalik untuk menjaga volume dalam ruang konstan fase .$M$$q$$\pi(p)$$p$$M$$q$$M^{-1}$$p$$q$

T2 : Pertanyaan saya adalah bagaimana kita bisa mengharapkan untuk mengikuti distribusi Gaussian? Dalam praktiknya dapat berupa distribusi yang rumit.$q$$\pi(q)$

Bukan hanya karena kita mengejar , hanya saja jika dan berbeda maka eksplorasi kita akan dibatasi oleh ketidakmampuan kita untuk mengeksplorasi semua energi yang relevan. Karenanya, dalam praktiknya, estimasi empiris dari dan berguna untuk mengidentifikasi segala kemungkinan keterbatasan eksplorasi kami yang merupakan motivasi untuk histogram komparatif dan diagnostik E-BFMI.$\pi(E)$$\pi(E)$$\pi(E|q)$$\pi(E)$$\pi(E|q)$

Jadi, apa yang kita ketahui tentang dua distribusi? Ketika kami meningkatkan dimensi distribusi target kami maka semacam cenderung cenderung semakin Gaussian. Jika waktu integrasi kami cukup lama maka eksplorasi set level kami akan menyeimbangkan dan jika adalah Gaussian maka juga akan cenderung semakin banyak Gaussian. $\pi(E)$$\pi(p | q)$$\pi(E|q)$

Karenanya energi kinetik Gaussian-Euclidean adalah titik awal yang baik tetapi tidak berarti selalu optimal ! Saya menghabiskan banyak waktu mencoba menyesuaikan model di mana Stan berteriak kepada saya tentang diagnostik E-BFMI yang buruk. Energi kinetik Gaussian-Riemannian dapat menjadi peningkatan yang signifikan dalam banyak kasus karena penentu log ketergantungan-posisi pada dapat membuat secara signifikan lebih Gaussian, tetapi ini masih banyak penelitian yang harus dilakukan untuk sepenuhnya memahami masalahnya.$\pi(p | q)$$\pi(E)$