Saya perlu "mempelajari" distribusi gaussian bivariat dengan beberapa sampel, tetapi hipotesis yang baik pada distribusi sebelumnya, jadi saya ingin menggunakan pendekatan bayesian.
Saya mendefinisikan sebelumnya:
Dan distribusi saya diberi hipotesis μ = [ 0 0 ] Σ = [ 18 0 0 18 ]
Sekarang saya tahu terima kasih di sini bahwa untuk memperkirakan rata-rata yang diberikan data
Saya dapat menghitung:
Sekarang muncul pertanyaan, mungkin saya salah, tetapi tampaknya bagi saya bahwa hanyalah matriks kovarians untuk parameter estimasi μ n , dan bukan kovarian estimasi data saya. Apa yang saya ingin hitung juga
agar distribusi yang ditentukan sepenuhnya dipelajari dari data saya.
Apakah ini mungkin? Apakah sudah diselesaikan dengan menghitung dan itu hanya dinyatakan dengan cara yang salah rumus di atas (atau saya hanya salah mengartikannya)? Referensi akan dihargai. Terima kasih banyak.
EDIT
Dari komentar, tampak bahwa pendekatan saya "salah", dalam arti bahwa saya mengasumsikan kovarians konstan, yang didefinisikan oleh . Apa yang saya butuhkan adalah meletakkan sebelumnya juga di atasnya, P ( Σ ) , tetapi saya tidak tahu distribusi apa yang harus saya gunakan, dan kemudian bagaimana prosedur untuk memperbaruinya.
sumber
Jawaban:
Anda dapat melakukan pembaruan Bayesian untuk struktur kovarian dengan semangat yang sama dengan Anda memperbarui nilai tengah. Konjugat sebelum matriks kovarian multivariat-normal adalah distribusi Inverse-Wishart, jadi masuk akal untuk memulainya,
Ini kemudian dapat digunakan untuk memperbarui estimasi Anda dari matriks kovarians
Anda dapat memilih untuk menggunakan mean ini sebagai estimasi poin Anda untuk kovarian (Posterior Mean Estimator)
atau Anda dapat memilih untuk menggunakan mode (Penaksir Posteriori Maksimum)
sumber
Ok, saya menemukan solusi nyata untuk masalah saya. Saya mempostingnya meskipun jawaban yang benar untuk pertanyaan (salah tempat) saya adalah yang dipilih.
Pada dasarnya, pertanyaan saya menjelaskan bagaimana cara memperkirakan rata-rata mengetahui kovarians, dan jawaban bagaimana memperkirakan kovarians mengetahui rata-rata. Tapi masalah saya yang sebenarnya adalah estimasi dengan kedua parameter tidak diketahui.
Saya menemukan jawabannya di Wikipedia dengan derivasi yang dijelaskan di sini . Sebelum terkonjugasi normal multivariat adalah Normal-inverse-Wishart, yang pada dasarnya adalah distribusi atas multivarian Normals.
Parameter sebelumnya yang perlu ditentukan adalahμ0 untuk menentukan rata-rata, Ψ untuk menentukan kovarians, dan dua nilai skalar κ0 dan ν0 yang akan saya katakan mendefinisikan seberapa percaya diri kita pada estimasi dua parameter pertama masing-masing.
The updated distribution after observingn samples of a p -variate Normal has the form
where
so my desired estimated parameters are
sumber