Apakah Proses Stochastic seperti Proses Gaussian / Proses Dirichlet memiliki kepadatan? Jika tidak, bagaimana aturan Bayes diterapkan pada mereka?

10

Dirichlet Pocess dan Gaussian Process sering disebut sebagai "distribusi atas fungsi" atau "distribusi atas distribusi". Dalam hal itu, dapatkah saya berbicara tentang kepadatan suatu fungsi di bawah GP? Yaitu, apakah Proses Gaussian atau Proses Dirichlet memiliki gagasan tentang kepadatan probabilitas?

Jika tidak, bagaimana kita bisa menggunakan aturan Bayes untuk beralih dari sebelum posterior, jika gagasan tentang probabilitas fungsi sebelumnya tidak didefinisikan dengan baik? Apakah hal-hal seperti perkiraan MAP atau EAP ada di dunia Bayesian Nonparametric? Terima kasih banyak.

snickerdoodles777
sumber
1
Mengingat bahwa (misalnya) realisasi proses Gaussian hanya diamati pada pengumpulan poin yang terbatas, produk yang sesuai dari tindakan Lebesgue adalah ukuran yang mendominasi. Yang berarti bahwa untuk pengamatan fungsi acak f pada kumpulan titik yang terbatas, terdapat kerapatan.
Xi'an
Jawaban tentang kepadatan adalah ya, dan formulasi matematika yang tepat disebut turunan Radon-Nikodym.
whuber

Jawaban:

4

"Kepadatan" atau "kemungkinan" berhubungan dengan teorema Radon-Nikodym dalam teori ukuran. Seperti dicatat oleh @ Xi'an, ketika Anda mempertimbangkan serangkaian pengamatan parsial yang disebut proses stokastik, kemungkinannya sesuai dengan gagasan turunan biasa menggunakan ukuran Lebesgue. Misalnya, kemungkinan proses Gaussian yang diamati pada set indeks terbatas hingga diketahui adalah vektor acak Gaussian dengan rerata kovarians yang disimpulkan dari proses tersebut, yang keduanya dapat mengambil bentuk parameter.

Dalam kasus ideal dimana jumlah pengamatan tak terbatas tersedia dari proses stokastik, ukuran probabilitas berada pada ruang dimensi tak terbatas, misalnya ruang fungsi kontinu jika proses stokastik memiliki jalur kontinu. Tetapi tidak ada yang ada seperti ukuran Lebesgue pada ruang dimensi tak terbatas, oleh karena itu tidak ada definisi langsung dari kemungkinan.

Untuk proses Gaussian ada beberapa kasus di mana kita dapat menentukan kemungkinan dengan menggunakan gagasan kesetaraan tindakan Gaussian. Contoh penting diberikan oleh teorema Girsanov, yang banyak digunakan dalam matematika finansial. Ini mendefinisikan kemungkinan difusi Ito sebagai turunan dari distribusi probabilitas dari proses Wiener standar didefinisikan untuk . Eksposisi matematika yang rapi ditemukan dalam buku karya Bernt Øksendal . Buku (yang akan datang) karya Särkkä dan Solin memberikan presentasi yang lebih intuitif yang akan membantu para praktisi. Eksposisi matematika yang brilian tentang Analisis dan Peluang pada Ruang Tak Terbatas-Dimensi oleh Nate Elderedge tersedia.YtBtt0

Perhatikan bahwa kemungkinan proses stokastik yang akan sepenuhnya diamati kadang-kadang disebut kemungkinan isian oleh ahli statistik.

Yves
sumber
Penjelasan yang sangat membantu! Saya pikir bagian dari kebingungan saya mengenai topik seperti ini di Bayesian Nonparametrics adalah karena kurangnya pengetahuan saya tentang teori ukuran dan analisis fungsional, jadi saya akan pastikan untuk memeriksa referensi Anda.
snickerdoodles777