Paradigma Bayesian subjektif dan subyektif

Apa perbedaan antara paradigma Bayesian obyektif dan subyektif?
Obyek atau prosedur apa yang mereka definisikan atau tafsirkan secara berbeda?
Apakah ada perbedaan dalam pilihan metode mereka?

Ini adalah topik yang sangat membingungkan, sebagian besar karena fakta bahwa ada dua cara berbeda di mana konsep "subjektivisme" umumnya digunakan dalam diskusi ini. $^\dagger$ Hal ini semakin membingungkan karena terdapat kelas “subjektivisme” yang berakar pada pendahuluan dari para ahli, dan variasi khusus ini harus sesuai dengan kategorisasi filosofi paradigma dengan hati-hati. Saya akan mencoba untuk memberikan kejelasan untuk masalah ini dengan menetapkan beberapa cara berbeda di mana "subjektivisme" sering ditafsirkan, dan kemudian menetapkan bidang kesepakatan yang luas di antara orang Bayesian, dan daerah di mana ada perbedaan dalam pendekatan filosofis dan praktis. Saya berharap akan ada orang lain yang tidak setuju dengan pandangan saya sendiri tentang ini, tetapi saya berharap ini memberikan titik awal yang baik untuk diskusi yang jelas.

Subyektivisme yang lemah: Dalam interpretasi ini, istilah "subyektif" digunakan dalam arti yang lebih lemah, yang berarti semata-mata bahwa probabilitas merangkum keyakinan rasional dari suatu subjek. (Beberapa orang, seperti saya, lebih suka menggunakan istilah "epistemik" untuk konsep ini, karena sebenarnya tidak memerlukan subjektivitas dalam pengertian yang lebih kuat.)

Subyektivisme yang kuat: Dalam interpretasi ini, istilah "subyektif" digunakan dalam arti yang lebih kuat, yang berarti bahwa subjektivisme yang lemah berlaku, dan lebih jauh, keyakinan subjek tidak memiliki justifikasi "objektif" di luar (yaitu, dua atau lebih subjek yang berbeda semuanya dapat memiliki perbedaan kepercayaan, dan tidak ada yang akan dianggap lebih atau kurang salah daripada yang lain).

Dalam analisis Bayesian umumnya kasus bahwa distribusi sampel yang dipilih memiliki justifikasi objektif yang berakar pada beberapa pemahaman tentang mekanisme pengambilan sampel. Namun, jarang ada informasi yang tersedia yang berkaitan dengan parameter, selain dari data sampel. Ini menimbulkan tiga paradigma luas dalam statistik Bayesian, yang sesuai dengan berbagai cara untuk menentukan distribusi sebelumnya.

Paradigma Bayes subyektif: Paradigma ini setuju dengan subjektivisme yang lemah, dan lebih jauh menyatakan bahwa setiap keyakinan probabilistik sama-sama valid. Selama subyek menggunakan pembaruan Bayesian untuk data baru, adalah sah untuk menggunakan yang sebelumnya. Di bawah paradigma ini, prior tidak memerlukan pembenaran obyektif. Dalam paradigma ini ada fokus pada pengungkapan yang digunakan sebelumnya, dan kemudian menunjukkan bagaimana pembaruan ini dengan data baru. Adalah umum dalam metode ini untuk memasukkan analisis sensitivitas yang menunjukkan keyakinan posterior di bawah berbagai keyakinan sebelumnya.

Paradigma Bayes yang objektif:Paradigma ini juga setuju dengan subjektivisme yang lemah, tetapi lebih memilih untuk membatasi keyakinan sebelumnya (sebelum dimasukkannya data apa pun) sehingga mereka secara objektif “tidak informatif” tentang parameter. Dalam paradigma ini, prior seharusnya mencerminkan secara akurat kurangnya informasi yang tersedia terkait dengan parameter, di luar data. Ini biasanya memerlukan mengadopsi beberapa teori untuk bagaimana menetapkan prior (misalnya, Jeffrey, Jaynes, Bernardo referensi prior, dll.) Paradigma ini berpendapat bahwa seperangkat keyakinan probabilistik lebih disukai jika didasarkan pada keyakinan sebelumnya yang objektif. ditentukan dan tidak informatif tentang parameter dalam masalah yang menarik. Ini setuju bahwa setiap rangkaian kepercayaan probabilistik konsisten dengan kriteria rasionalitas yang mendasari analisis Bayesian, tetapi memandang kepercayaan berdasarkan priors “buruk” (terlalu informatif tentang parameter yang tidak diketahui) sebagai lebih buruk daripada yang didasarkan pada priors “baik”. Dalam paradigma ini prior dipilih dari beberapa kelas yang tidak informatif, dan kemudian diperbarui dengan data baru untuk menghasilkan jawaban yang objektif untuk masalah tersebut.

Paradigma Bayesian sebelumnya:Metode ini sering dipandang sebagai bagian dari paradigma subyektif, dan biasanya tidak diidentifikasi secara terpisah, tetapi saya menganggapnya sebagai paradigma yang terpisah karena memiliki elemen dari setiap pandangan. Paradigma ini setuju dengan subjektivisme yang lemah, tetapi seperti paradigma Bayes yang objektif, paradigma ini tidak memandang semua prior sebagai sama-sama valid. Paradigma ini memperlakukan "prior" sebagai present dari pengalaman hidup sebelumnya, dan menganggap keyakinan sebelumnya dari para ahli materi sebagai yang lebih unggul dari keyakinan sebelumnya yang bukan ahli. Ia juga mengakui bahwa kepercayaan-kepercayaan itu mungkin didasarkan pada data yang belum direkam secara sistematis, dan tidak didasarkan pada penggunaan teori probabilitas secara sistematis, sehingga tidak mungkin untuk menguraikan para pakar yang ada menjadi prior non-informatif asli dan data. yang diamati ahli ini. (Dan memang, dengan tidak adanya penggunaan sistematis teori probabilitas, pakar "prior" saat ini mungkin bahkan tidak konsisten dengan pembaruan Bayesian.) Dalam paradigma ini, pendapat "subyektif" pakar saat ini diperlakukan sebagai enkapsulasi berharga dari pengetahuan materi pelajaran, yang diperlakukan sebagai primitif sebelumnya. Dalam paradigma ini analis berusaha untuk mendapatkan ahli sebelum melalui beberapa tes kepercayaan sebelumnya, dan kemudian diformulasikan sebagai yang paling cocok dengan keyakinan ahli (berhati-hati untuk memastikan bahwa keyakinan ahli belum tercemar oleh pengetahuan saat ini. data). Keyakinan "subyektif" dari ahli dengan demikian diperlakukan sebagai enkapsulasi "obyektif" dari pengetahuan subjek dari data sebelumnya. ) Dalam paradigma ini, pendapat "subyektif" ahli saat ini dianggap sebagai enkapsulasi pengetahuan materi pelajaran yang berharga, yang diperlakukan sebagai primitif sebelumnya. Dalam paradigma ini analis berusaha untuk mendapatkan ahli sebelum melalui beberapa tes kepercayaan sebelumnya, dan kemudian diformulasikan sebagai yang paling cocok dengan keyakinan ahli (berhati-hati untuk memastikan bahwa keyakinan ahli belum tercemar oleh pengetahuan saat ini. data). Keyakinan "subyektif" dari ahli dengan demikian diperlakukan sebagai enkapsulasi "obyektif" dari pengetahuan subjek dari data sebelumnya. ) Dalam paradigma ini, pendapat "subyektif" ahli saat ini dianggap sebagai enkapsulasi pengetahuan materi pelajaran yang berharga, yang diperlakukan sebagai primitif sebelumnya. Dalam paradigma ini analis berusaha untuk mendapatkan ahli sebelum melalui beberapa tes kepercayaan sebelumnya, dan kemudian diformulasikan sebagai yang paling cocok dengan keyakinan ahli (berhati-hati untuk memastikan bahwa keyakinan ahli belum tercemar oleh pengetahuan saat ini. data). Keyakinan "subyektif" dari ahli dengan demikian diperlakukan sebagai enkapsulasi "obyektif" dari pengetahuan subjek dari data sebelumnya. dan kemudian prior diformulasikan sebagai yang paling sesuai dengan keyakinan pakar (berhati-hati untuk memastikan bahwa keyakinan pakar belum tercemar oleh pengetahuan tentang data saat ini). Keyakinan "subyektif" dari ahli dengan demikian diperlakukan sebagai enkapsulasi "obyektif" dari pengetahuan subjek dari data sebelumnya. dan kemudian prior diformulasikan sebagai yang paling sesuai dengan keyakinan pakar (berhati-hati untuk memastikan bahwa keyakinan pakar belum tercemar oleh pengetahuan tentang data saat ini). Keyakinan "subyektif" dari ahli dengan demikian diperlakukan sebagai enkapsulasi "obyektif" dari pengetahuan subjek dari data sebelumnya.

Perbedaan dalam metode: Dalam hal metode, paradigma Bayesian objektif berbeda dari paradigma subyektif sejauh yang pertama membatasi prioror yang diijinkan (baik untuk kelas unik sebelumnya atau kelas yang sangat kecil dari prior), sedangkan yang kedua tidak membatasi yang diijinkan. prior. Dalam pendekatan Bayesian yang objektif, prior dibatasi oleh teori-teori yang mewakili prior "non-informatif". Paradigma expert-prior mengambil pendekatan yang berbeda dan sebagai gantinya mengidentifikasi satu atau lebih orang yang ahli, dan memunculkan keyakinan mereka sebelumnya.

Begitu kita memahami pengertian yang berbeda tentang paradigma yang berbeda dalam statistik Bayesian, kita dapat menetapkan beberapa bidang kesepakatan yang luas, dan bidang-bidang di mana ada ketidaksepakatan. Sebenarnya, terlepas dari perbedaan metode, ada lebih banyak kesepakatan tentang teori-teori yang mendasari daripada biasanya diperbaiki.

Kesepakatan luas tentang subjektivisme yang lemah: Ada literatur besar dalam statistik Bayesian yang menunjukkan bahwa “aksioma” probabilitas dapat diturunkan dari desiderata awal yang berkaitan dengan pengambilan keputusan yang rasional. Ini termasuk argumen yang berkaitan dengan konsistensi kepercayaan dinamis (lihat misalnya, Epstein dan Le Breton 1993 ), argumen yang menarik bagi teorema buku Belanda (lihat misalnya, Lehmann 1955 , Hajek 2009). Bayesians dari semua paradigma ini secara luas setuju bahwa probabilitas harus ditafsirkan secara epistemis, sebagai merujuk pada keyakinan subjek, dibatasi oleh kendala rasionalitas yang melekat dalam aksioma probabilitas. Kami setuju bahwa seseorang harus menggunakan aturan probabilitas untuk membatasi keyakinan seseorang tentang ketidakpastian menjadi rasional. Ini menyiratkan bahwa kepercayaan tentang ketidakpastian memerlukan pembaruan Bayesian dalam menghadapi data baru, tetapi itu tidak memaksakan kendala lebih lanjut (yaitu, tanpa lebih, itu tidak mengatakan bahwa ada yang lebih baik dari yang sebelumnya). Ketiga paradigma di atas sepakat tentang ini.

Ada kesepakatan bahwa posisi cenderung untuk berkumpul dengan lebih banyak data: Ada sejumlah teorema konsistensi dalam statistik Bayesian yang menunjukkan bahwa jika Anda memiliki dua orang dengan fungsi kemungkinan yang sama, tetapi berbeda prior, maka keyakinan posterior mereka akan bertemu ketika Anda mendapatkan lebih banyak. dan lebih banyak data. Ini berarti bahwa dengan sejumlah besar data, data sebelumnya tidak terlalu berarti. Ini adalah teorema probabilitas yang tidak dapat disangkal, dan ketiga paradigma di atas menyetujui hal ini. Untuk alasan ini, secara umum diakui bahwa dengan sejumlah besar data, salah satu dari tiga paradigma ini cenderung memberikan hasil yang serupa. Akibatnya, perbedaan dalam paradigma paling penting ketika kita hanya memiliki sejumlah kecil data.$^{\dagger \dagger}$

Ada kesepakatan luas bahwa ada kira-kira “obyektif” aturan untuk prior yang tersedia jika Anda ingin menggunakannya :Ada sejumlah besar literatur dalam statistik Bayesian yang menunjukkan bagaimana Anda dapat mengembangkan prior "non-informatif" yang secara kasar ditentukan oleh masalah pengambilan sampel, dan secara kasar merangkum tidak adanya banyak pengetahuan tentang parameter yang dimaksud. Saya mengatakan "secara kasar" karena ada beberapa teori yang bersaing di sini yang kadang-kadang sesuai tetapi kadang-kadang sedikit berbeda (misalnya, Jeffrey, Jaynes, prior referensi, kelas Walley dari prior yang tidak tepat, dll.), Dan ada juga beberapa paradoks rumit yang dapat terjadi. Masalah yang paling sulit di sini adalah sulit untuk membuat "uninformative" sebelum parameter kontinu yang dapat mengalami transformasi nonlinier (karena "uninformativity" idealnya harus invarian dengan transformasi). Sekali lagi, ini adalah teorema probabilitas, dan semua paradigma setuju dengan isinya. Bayesian obyektif cenderung memandang teori ini sebagai cukup baik sehingga memberikan priors superior, sedangkan Bayesians subyektif dan ahli Bayesian sebelumnya cenderung melihat teori sebagai tidak cukup untuk membangun superioritas prior. Dengan kata lain, ada kesepakatan luas bahwa aturan objektif ini ada, dan dapat digunakan, tetapi ada perbedaan pendapat tentang seberapa baik aturan tersebut.

Ada perbedaan pendapat mengenai pentingnya memiliki satu jawaban: Bayesian objektif termotivasi oleh preferensi bahwa masalah statistik dengan data tetap dan fungsi kemungkinan tetap harus mengarah pada keyakinan posterior yang ditentukan secara unik (atau setidaknya sejumlah kecil keyakinan posterior yang diijinkan). itu bervariasi sangat sedikit). Preferensi ini umumnya merupakan bagian dari preferensi yang lebih luas untuk memiliki prosedur ilmiah yang menghasilkan jawaban unik ketika diterapkan pada set kondisi objektif yang tetap. Sebaliknya, baik orang Bayes yang subyektif maupun orang Bayes yang ahli sebelumnya percaya bahwa ini tidak terlalu penting, dan mereka umumnya percaya bahwa fokus pada posterior yang ditentukan secara unik ini sebenarnya menyesatkan.

Ada kesepakatan luas bahwa publik tidak mengenal baik-baik eksterior Bayesian: Semua paradigma setuju bahwa masyarakat umum tidak terbiasa dengan mekanika dasar bagaimana analisis Bayesian bertransisi dari sebelum ke posterior. Orang Bayes yang objektif kadang-kadang khawatir bahwa memberikan lebih dari satu jawaban yang diijinkan untuk orang posterior akan membingungkan orang. Bayesive Subyektif khawatir bahwa gagal memberikan lebih dari satu jawaban yang diijinkan untuk posterior menyesatkan orang.

$^\dagger$ Perlu dicatat bahwa kebingungan "subyektivisme" di sini berasal dari contoh khusus dari dikotomi palsu umum dalam epistemologi antara "subyektivisme" dan "intrinsicism" (lihat misalnya, Piekoff ). Dalam upaya untuk menafsirkan probabilitas banyak pengguna telah membuat kesalahan dengan meyakini bahwa setiap penolakan terhadap teori-teori obrolan probabilitas selalu mengarah pada interpretasi yang "subyektif" dalam arti yang lebih kuat yang ditentukan di sini. Untuk memahami interpretasi probabilitas dengan benar, merupakan ide yang baik untuk memahami masalah umum dengan dikotomi subjektivisme-intrinsikisme, dan oleh karena itu mengakui bahwa interpretasi epistemik objektif ada.

$^{\dagger \dagger}$ Ada beberapa kondisi keteraturan yang luas yang diperlukan untuk hasil ini (misalnya, kedua subjek memiliki sebelumnya dengan dukungan termasuk nilai parameter yang benar) tetapi berlaku sangat luas.