Dirichlet Pocess dan Gaussian Process sering disebut sebagai "distribusi atas fungsi" atau "distribusi atas distribusi". Dalam hal itu, dapatkah saya berbicara tentang kepadatan suatu fungsi di bawah GP? Yaitu, apakah Proses Gaussian atau Proses Dirichlet memiliki gagasan tentang kepadatan probabilitas?
Jika tidak, bagaimana kita bisa menggunakan aturan Bayes untuk beralih dari sebelum posterior, jika gagasan tentang probabilitas fungsi sebelumnya tidak didefinisikan dengan baik? Apakah hal-hal seperti perkiraan MAP atau EAP ada di dunia Bayesian Nonparametric? Terima kasih banyak.
machine-learning
probability
bayesian
nonparametric
nonparametric-bayes
snickerdoodles777
sumber
sumber
Jawaban:
"Kepadatan" atau "kemungkinan" berhubungan dengan teorema Radon-Nikodym dalam teori ukuran. Seperti dicatat oleh @ Xi'an, ketika Anda mempertimbangkan serangkaian pengamatan parsial yang disebut proses stokastik, kemungkinannya sesuai dengan gagasan turunan biasa menggunakan ukuran Lebesgue. Misalnya, kemungkinan proses Gaussian yang diamati pada set indeks terbatas hingga diketahui adalah vektor acak Gaussian dengan rerata kovarians yang disimpulkan dari proses tersebut, yang keduanya dapat mengambil bentuk parameter.
Dalam kasus ideal dimana jumlah pengamatan tak terbatas tersedia dari proses stokastik, ukuran probabilitas berada pada ruang dimensi tak terbatas, misalnya ruang fungsi kontinu jika proses stokastik memiliki jalur kontinu. Tetapi tidak ada yang ada seperti ukuran Lebesgue pada ruang dimensi tak terbatas, oleh karena itu tidak ada definisi langsung dari kemungkinan.
Untuk proses Gaussian ada beberapa kasus di mana kita dapat menentukan kemungkinan dengan menggunakan gagasan kesetaraan tindakan Gaussian. Contoh penting diberikan oleh teorema Girsanov, yang banyak digunakan dalam matematika finansial. Ini mendefinisikan kemungkinan difusi Ito sebagai turunan dari distribusi probabilitas dari proses Wiener standar didefinisikan untuk . Eksposisi matematika yang rapi ditemukan dalam buku karya Bernt Øksendal . Buku (yang akan datang) karya Särkkä dan Solin memberikan presentasi yang lebih intuitif yang akan membantu para praktisi. Eksposisi matematika yang brilian tentang Analisis dan Peluang pada Ruang Tak Terbatas-Dimensi oleh Nate Elderedge tersedia.Yt Bt t≥0
Perhatikan bahwa kemungkinan proses stokastik yang akan sepenuhnya diamati kadang-kadang disebut kemungkinan isian oleh ahli statistik.
sumber