Menghitung log-likelihood untuk diberikan MLE (Markov Chains)

9

Saat ini saya bekerja dengan rantai Markov dan menghitung Perkiraan Kemungkinan Maksimum menggunakan probabilitas transisi seperti yang disarankan oleh beberapa sumber (yaitu, jumlah transisi dari a ke b dibagi dengan jumlah transisi keseluruhan dari a ke node lain).

Sekarang saya ingin menghitung kemungkinan log dari MLE.

fsociety
sumber
Anda telah menghitung estimasi kemungkinan maksimum dari probabilitas transisi dan sekarang Anda ingin menghitung kemungkinan log dari apa sebenarnya?
Nick

Jawaban:

11

Mari menjadi jalan dari rantai markov dan membiarkan P θ ( X 1 , . . . , X T ) adalah probabilitas mengamati jalan ketika θ adalah nilai parameter yang benar (alias fungsi kemungkinan untuk θ ). Menggunakan definisi probabilitas bersyarat, kita tahu{Xsaya}saya=1TPθ(X1,...,XT)θθ

Pθ(X1,...,XT)=Pθ(XT|XT-1,...,X1)Pθ(X1,...,XT-1)

Karena ini adalah rantai markov, kita tahu bahwa , sehingga menyederhanakan ini iniPθ(XT|XT-1,...,X1)=Pθ(XT|XT-1)

Pθ(X1,...,XT)=Pθ(XT|XT-1)Pθ(X1,...,XT-1)

Sekarang jika Anda mengulangi logika yang sama ini kali, Anda dapatkanT

Pθ(X1,...,XT)=saya=1TPθ(Xsaya|Xsaya-1)

di mana harus ditafsirkan sebagai keadaan awal proses. Istilah di sisi kanan hanyalah elemen dari matriks transisi. Karena itu adalah kemungkinan log yang Anda minta, jawaban akhirnya adalah:X0

L.(θ)=saya=1Tcatatan(Pθ(Xsaya|Xsaya-1))

Ini adalah kemungkinan rantai markov tunggal - jika kumpulan data Anda mencakup beberapa rantai markov (independen) maka kemungkinan penuh akan menjadi jumlah syarat dari formulir ini.

Makro
sumber
Pθ
@ ph_singer, Anda sangat menyambut. Pθ(Xsaya|Xsaya-1)Xsaya-1XsayaθθPθ^M.L.E(Xsaya|Xsaya-1)Xsaya-1Xsaya
Terima kasih lagi! Hanya satu pertanyaan lagi: Jika saya menggunakan urutan lain (misalnya, k = 2), bagaimana proses ini akan bekerja?
fsociety
Bisakah Anda menjelaskan apa yang Anda maksud dengan "pesanan"?
Makro
k=2Xsaya-1,Xsaya-2Xsaya-1