Apa definisi dari prior konjugat semi-konjugat dan kondisional?

12

Apa definisi dari prior-semi-konjugat dan dari kondisi konjugat bersyarat ? Saya menemukannya di Analisis Data Bayesian Gelman , tetapi saya tidak dapat menemukan definisi mereka.

Tim
sumber

Jawaban:

16

Menggunakan definisi dalam Analisis Data Bayesian (edisi ke-3) , jika adalah kelas distribusi sampel , dan adalah kelas distribusi sebelumnya untuk , maka class adalah konjugat untuk jika p ( y | θ ) P θ P FFhal(y|θ)PθPF

hal(θ|y)P untuk semua hal(|θ)F dan hal()P.

Jika adalah kelas distribusi sampel , dan adalah kelas distribusi sebelumnya untuk bergantung pada , maka kelas adalah konjugat bersyarat untuk jika p ( y | θ , ϕ ) P θ ϕ P FFhal(y|θ,ϕ)PθϕPF

hal(θ|y,ϕ)P untuk semua hal(|θ,ϕ)F dan hal(|ϕ)P.

Priced konjugat kondisional nyaman dalam membangun sampler Gibbs karena bersyarat penuh akan menjadi keluarga yang dikenal.

Saya mencari versi elektronik dari Analisis Data Bayesian (edisi ke-3) dan tidak dapat menemukan referensi untuk konjugasi semi sebelumnya. Saya menduga itu identik dengan konjugat bersyarat, tetapi jika Anda memberikan referensi untuk penggunaannya dalam buku ini, saya harus dapat memberikan definisi.

jaradniemi
sumber
+1. Apa URL untuk Analisis Data Bayesian edisi ke-3?
Patrick Coulombe
1
Terima kasih! Konjugasi semi muncul di sini (edisi kedua) books.google.com/… . Ngomong-ngomong, bagaimana Anda mendapatkan ebook untuk edisi ke-3?
Tim
1
Saya tidak yakin mengapa ia mengatakan semiconjugate sebelum ada karena sebelumnya sepenuhnya konjugat. Pernyataan ini dihapus dalam edisi ke-3. Ebook dapat dibeli di sini: crcpress.com/product/isbn/9781439840955 .
jaradniemi
@jaradniemi: Di ​​tautan yang saya berikan, di atas p84, ditunjukkan bahwa prior semiconjugate bukan konjugat sebelumnya.
Tim
1
Dalam apa yang dirujuk oleh masing-masing dan apakah masing-masing merujuk pada hal yang sama?
hal(θ|y,ϕ)P untuk semua hal(|θ,ϕ)F dan hal(|ϕ)P.
Muno
7

Saya ingin menggunakan multivarian normal sebagai contoh.

Ingat bahwa kemungkinan diberikan oleh

P(y1,y2,...,yn|μ,Σ)=(2π)-ND2det(Σ)-N2exp(12saya=1N(xsaya-μ)TΣ-1(xsaya-μ))

Untuk menemukan sebelum kemungkinan ini, kita dapat memilih

P(μ,Σ)=Normal(μ;μ0,Λ0)InverseWishart(Σ;ν0,S0)

Saya yakinkan Anda TIDAK perlu khawatir tentang untuk saat ini; mereka hanyalah parameter dari distribusi sebelumnya.μ0,Λ0,ν0,S0

Apa yang penting adalah, bagaimanapun, bahwa ini tidak terkonjugasi dengan kemungkinan. Untuk mengetahui alasannya, saya ingin mengutip referensi yang saya temukan online.

catat bahwa dan Σ muncul bersama-sama dengan cara yang tidak difaktorkan dalam kemungkinan; karenanya mereka juga akan digabungkan bersama di posteriorμΣ

Rujukannya adalah "Pembelajaran Mesin: Perspektif Probabilistik" oleh Kevin P. Murphy. Inilah tautannya . Anda dapat menemukan kutipan di Bagian 4.6 (Menyimpang dari parameter MVN) di bagian atas halaman 135.

Untuk melanjutkan kutipan,

hal(μ|Σ)hal(Σ|μ)μΣ

hal(μ,Σ)=hal(Σ)hal(μ|Σ)

Idenya di sini adalah distribusi pertama yang pertama

P(μ,Σ)=Normal(μ;μ0,Λ0)InverseWishart(Σ;ν0,S0)

μΣμΣ(Belakang)(Sebelumnya)(Kemungkinan)

hal(μ,Σ)=hal(Σ)hal(μ|Σ)

μΣhal(μ|Σ)

ps : Referensi lain yang sangat membantu yang saya gunakan adalah "Kursus Pertama dalam Metode Statistik Bayesian" oleh Peter D. Hoff. Berikut ini tautan ke buku tersebut. Anda dapat menemukan konten yang relevan di Bagian 7 mulai dari halaman 105, dan dia memiliki penjelasan (dan intuisi) yang sangat baik tentang distribusi normal satu-varian dalam Bagian 5 mulai dari halaman 67, yang akan diperkuat lagi di Bagian 7 ketika dia berurusan dengan MVN.

NeverBe
sumber
1

Fhal(y|θ,ϕ)PθPFhal(θ|y,ϕ)Phal(|θ,ϕ)Fhal(θ,ϕ)=hal(θ)×hal(ϕ)hal(θ)Phal(ϕ)P

nudtlxt
sumber