Apakah distribusi beta memiliki konjugat sebelumnya?

34

Saya tahu bahwa distribusi beta adalah konjugat ke binomial. Tapi apa konjugat sebelum beta? Terima kasih.

Keseimbangan kurang ajar
sumber

Jawaban:

25

Tampaknya Anda sudah menyerah pada konjugasi. Sebagai catatan, satu hal yang saya lihat dilakukan orang (tapi tidak ingat persis di mana, maaf) adalah reparameterisasi seperti ini. Jika bersyarat iid, diberi , sehingga , ingat bahwa dan Karenanya, Anda dapat mengulangi kemungkinan dalam hal dan dan menggunakannya sebagai sebelumnya α , β X iα , β B e t a ( α , β ) E [ X iα , β ] = αX1,,Xnα,βXiα,βBeta(α,β)Var[Xiα,β]=αβ

E[Xiα,β]=αα+β=:μ
Var[Xiα,β]=αβ(α+β)2(α+β+1)=:σ2.
σ 2 σ 2μ U [ 0 , μ ( 1 - μ ) ]μσ2
σ2μU[0,μ(1μ)]μU[0,1].
Sekarang Anda siap untuk menghitung posterior dan menjelajahinya dengan metode komputasi favorit Anda.
Zen
sumber
4
Tidak, bukan MCMC hal ini! Quadrature hal ini! hanya 2 parameter - quadrature adalah "standar emas" untuk eksterior berdimensi kecil, baik untuk waktu maupun akurasi.
probabilityislogic
3
Pilihan lain adalah menganggap sebagai ukuran ketepatan, dan sekali lagi gunakan sebagai nilai tengah. Ini dilakukan setiap saat dengan proses Dirichlet, dan distribusi beta adalah kasus khusus. Jadi mungkin melempar gamma atau log-normal sebelum dan seragam di . μ = αψ=α+β ψμμ=αα+βψμ
pria
2
Yang pasti, ini bukan konjugat, benar?
pria
3
Tentu saja tidak!
Zen
Hai @ Zen saya sedang berurusan dengan masalah ini sekarang, tapi saya baru di Bayesian dan saya tidak yakin apakah saya memahami ide itu. Saya menemukan bahwa Anda ingin menemukan dan kemudian menggunakan reparametrization, tetapi tentu saja itu bukan tolong, tolong bantu saya untuk mengerti?011μ(1μdμ
Red Noise
23

Ya, ia memiliki konjugat sebelumnya dalam keluarga eksponensial. Pertimbangkan tiga keluarga parameter Untuk beberapa nilai ini dapat diintegrasikan, walaupun saya belum tahu yang mana (saya percaya dan harus bekerja - sesuai dengan distribusi eksponensial independen sehingga pasti berfungsi, dan pembaruan konjugat melibatkan penambahan jadi ini menyarankan berfungsi).(a,b,p)p0a<0,b<0p=0pp>0

π(α,βa,b,p){Γ(α+β)Γ(α)Γ(β)}pexp(aα+bβ).
(a,b,p)p0a<0,b<0p=0pp>0

Masalahnya, dan setidaknya sebagian alasan mengapa tidak ada yang menggunakannya, adalah bahwa yaitu konstanta normalisasi tidak memiliki bentuk tertutup.

00{Γ(α+β)Γ(α)Γ(β)}pexp(aα+bβ)=?
orang
sumber
Ah. Itu bermasalah. Saya akan mencari versi konjugasi yang kurang informasi sebelumnya, jadi sepertinya saya mungkin juga memulai dengan prior uniform atas dua parameter. Terima kasih.
Brash Equilibrium
Anda tidak perlu menormalkannya jika Anda hanya membandingkan kemungkinan ...
Neil G
Saya pikir Anda mungkin kehilangan aksi dalam jangka waktu exp Anda juga. Mungkin seharusnya p a α , dll.pexppaα
Neil G
@NeilG ada di exp , Anda hanya perlu mengekspresikan hal-hal dalam bentuk log Γ ( ) bukan Γ ( ) . Melakukan p a α hanya reparmetrization, itu tidak mengubah apa pun. Tidak yakin apa yang Anda maksud "hanya membandingkan kemungkinan". Anda tidak dapat menerapkan sampler Gibbs dengan ini sebelumnya tanpa menggunakan sesuatu seperti Metropolis, yang membunuh keuntungan konjugasi kondisional, konstanta normalisasi bergantung pada a dan b yang membunuh menempatkan prioritas sebelumnya atau memperkirakannya dengan metode kemungkinan, dll. .pexplogΓ()Γ()paαab
guy
2
@NeilG integral lebih dari dan β karena itu adalah variabel acak. αβ
pria
9

Secara teori harus ada konjugat sebelum distribusi beta. Hal ini karena

Namun derivasi tersebut terlihat sulit, dan mengutip Keluarga Eksponensial A Bouchard-Cote dan Prijinal Conjugate

Pengamatan penting untuk dibuat adalah bahwa resep ini tidak selalu menghasilkan konjugat sebelum komputasional.

Konsisten dengan ini, tidak ada pendahuluan untuk distribusi Beta di D Fink's A Compendium of Conjugate Priors .

TooTone
sumber
3
Derivasi ini tidak sulit - Lihat jawaban saya: mathoverflow.net/questions/63496/…
Neil G
3

Saya tidak percaya ada distribusi "standar" (yaitu, keluarga eksponensial) yang merupakan konjugat sebelum distribusi beta. Namun, jika ada, itu harus menjadi distribusi bivariat.


sumber
Saya tidak tahu tentang pertanyaan ini, tetapi saya memang menemukan peta sebelumnya yang berguna konjugat ini yang tampaknya mendukung jawaban Anda: johndcook.com/conjugate_prior_diagram.html
Justin Bozonier
Sebelumnya konjugat dalam keluarga eksponensial dan memiliki tiga parameter - bukan dua.
Neil G
1
@ Neil, Anda pasti benar. Saya kira saya seharusnya mengatakan itu harus memiliki setidaknya dua parameter.
-1: jawaban ini jelas salah dalam klaim bahwa "konjugat sebelumnya tidak ada dalam keluarga eksponensial", seperti yang ditunjukkan dalam jawaban di atas ...
Jan Kukacka
3

Robert dan Casella (RC) menggambarkan keluarga konjugasi prior dari distribusi beta dalam Contoh 3.6 (p 71 - 75) dari buku mereka, Memperkenalkan Metode Monte Carlo di R , Springer, 2010. Namun, mereka mengutip hasilnya tanpa mengutip sumber.

B(α,β)

π(α,β){Γ(α+β)Γ(α)Γ(β)}λx0αy0β

{λ,x0,y0}

π(α,β|x){Γ(α+β)Γ(α)Γ(β)}λ(xx0)α((1x)y0)β."

π(α,β|x)x

pengguna37239
sumber
2
π(α,β)(Γ(α+β)Γ(α)Γ(β))λ+1(xx0)α1(y0(1x))β1
1
Saya dengan rendah hati merekomendasikan bahwa poster asli memperbarui pos untuk menunjukkan bahwa posterior yang diberikan dalam buku teks salah, menurut komentar Fred Schoen (yang mudah diverifikasi).
RMurphy