Aku punya model yang berjalan: Single parameter -> Complex likelihood function -> Log-likelihood. Saya mengeksekusi rantai MCMC (menggunakan pymc) dan merencanakan jejak parameter dan log-likelihood. Estimasi parameter akhirnya masuk akal, tetapi plot log-likelihood tampak aneh bagi saya.
Kemungkinan log tidak pernah melampaui nilai tertentu. Saya kira ini masuk akal, jika nilai itu adalah nilai kemungkinan maksimum, tapi saya belum pernah melihat jejak kemungkinan yang terlihat seperti ini sebelumnya. pertanyaan saya adalah: apakah ini normal?
mcmc
likelihood
C_Z_
sumber
sumber
Jawaban:
Log-likelihood adalah jumlah log-density pada beberapa titik data, mengingat beberapa nilai parameter. Ingat bahwa kepadatan adalah ukuran relatif dari "probabilitas per kaki" . Ini berarti bahwa mereka dapat sewenang-wenang rendah, atau tinggi, seperti dalam contoh kepadatan seragam ini . Karena Anda menjumlahkan taksiran kerapatan untuk titik yang berbeda mereka akan selalu setidaknyaN kali nilai minimal yang dimungkinkan mengingat data dan parameter Anda. Karena algoritma MCMC Anda berkeliaran di beberapa ruang parameter, kesamaan log-kemungkinan akan sebanding dengan seberapa "jauh" itu melompat dalam langkah-langkah berikutnya. Jadi, mengingat informasi yang Anda berikan terbatas, tidak ada yang aneh dalam nilai-nilai tersebut karena tidak ada nilai kemungkinan "khas".
sumber