Estimasi Bayesian dari parameter distribusi Dirichlet

Saya ingin memperkirakan parameter model campuran Dirichlet menggunakan sampling Gibbs dan saya punya beberapa pertanyaan tentang itu:

Apakah campuran dari distribusi Dirichlet setara dengan proses Dirichlet? Apa perbedaan utama mereka jika tidak?
Juga, jika saya ingin memperkirakan parameter distribusi Dirichlet tunggal, distribusi parameter mana yang harus dipilih sebagai prior dalam kerangka Bayesian?

Dalam semua makalah saya menemukan estimasi distribusi multinomial menggunakan dirich Diriors. Saya perlu estimasi distribusi Dirichlet menggunakan prior multinomial, mungkin.

Apakah fungsi posterior juga dalam bentuk DIRICHLET (α + N) mirip dengan kasus "estimasi distribusi multinomial menggunakan Dirichlet priors"? karena perkalian fungsi kerapatan probabilitas untuk sampel iid tidak dipertimbangkan dalam definisi fungsi kemungkinan. Sekali lagi saya tidak mengerti mengapa.

misalnya seperti yang diungkapkan dalam makalah ini: http://www.stat.ufl.edu/~aa/cda/bayes.pdf atau http://research.microsoft.com/en-us/um/people/minka/papers/ minka-multinomial.pdf

jadi terima kasih atas perhatiannya

data saya adalah Hyperion (sejenis citra penginderaan jauh hyperspectral) dan saya ingin melakukan unmixing hyperspectral menggunakan campuran sumber Dirichlet dan saya akan menerapkan metode sampling Gibbs untuk estimasi parameter. data saya dalam dimensi (614 * 512 * 224) yang umumnya tersedia data sensor AVIRIS untuk distrik Cuprite Nevada dan hampir 200MB. juga data ini tersedia melalui ( http://aviris.jpl.nasa.gov/data/free_data.html ). sayangnya saya tidak tahu bagaimana saya bisa mengirim data saya.

saya hanya meminta Anda untuk membantu saya dalam tugas pemodelan statistik untuk tesis PHD saya. Saya akan sangat berterima kasih jika Anda membantu saya untuk memecahkan kebingungan saya dalam pemodelan.

semua solmaz terbaik

bayesian estimation gibbs dirichlet-distribution Solmaz
sumber

Dalam kasus satu dimensi, distribusi Dirichlet adalah distribusi Beta, dan kesimpulan Bayesian tentang parameter Beta bukanlah masalah yang diketahui.

Stéphane Laurent

1: Tidak 2: Tidak ada sebelumnya konvensional untuk paramaters Dirichlet (lihat di sini untuk diskusi). Namun, seperti dicatat oleh @ Zen, Anda harus memberikan lebih banyak informasi tentang data yang Anda miliki dan tujuan analisis Anda jika Anda menginginkan saran yang lebih baik.

jerad

Untuk menghitung kepadatan konjugasi apa pun sebelumnya lihat di sini .

Namun, Anda tidak perlu mengevaluasi konjugasi sebelum Dirichlet untuk melakukan estimasi Bayesian terhadap parameternya. Rata-rata saja statistik yang mencukupi dari semua sampel, yang merupakan vektor probabilitas log dari komponen parameter distribusi kategoris yang Anda amati. Statistik yang cukup rata-rata ini adalah parameter ekspektasi dari kemungkinan maksimum Dirichlet menyesuaikan data . Untuk beralih dari parameter ekspektasi ke parameter sumber, katakan , Anda harus menyelesaikan menggunakan metode numerik: mana adalah fungsi digamma. $(\chi_i)_{i=1}^n$ $(\alpha_i)_{i=1}^n$

\begin{aligned} χ_{i} = ψ (α_{i}) - ψ (\sum_{j} α_{j}) \forall i \end{aligned}

$\begin{align} \chi_i = \psi(\alpha_i) - \psi\left(\sum_j\alpha_j\right) \qquad \forall i \end{align}$

ψ

$\psi$

Untuk menjawab pertanyaan pertama Anda, campuran Dirichlets bukanlah Dirichlet karena, untuk satu hal, itu bisa multimodal.

Neil G
sumber

Estimasi Bayesian dari parameter distribusi Dirichlet

Jawaban: