Definisi probabilitas yang sering; apakah ada definisi formal?

Apakah ada definisi formal (matematis) tentang apa yang sering dipahami oleh para pengunjung di bawah '' probabilitas ''. Saya membaca bahwa ini adalah frekuensi relatif terjadinya '' dalam jangka panjang '', tetapi apakah ada cara formal untuk mendefinisikannya? Apakah ada referensi yang diketahui di mana saya dapat menemukan definisi itu?

EDIT:

Dengan frequentist (lihat komentar oleh @whuber dan komentar saya untuk jawaban @Kodiologist dan @Graeme Walsh di bawah jawaban itu) Maksud saya orang-orang yang '' percaya '' bahwa frekuensi relatif jangka panjang ini ada. Mungkin ini (sebagian) menjawab pertanyaan @Tim juga

Tolong jelaskan apa yang Anda maksud dengan "Frequentist." Penggunaan yang saya lihat di utas lain menunjukkan banyak orang tidak memiliki pengertian yang konsisten atau jelas tentang apa arti istilah ini. Karena itu definisi akan membantu menjaga jawaban yang relevan.

whuber

@whuber Saya kira definisi frequentist adalah "non Bayesian" dan Bayesian adalah "non frequentist" dalam banyak kasus :)

Tim

Terkait erat: en.wikipedia.org/wiki/Empirical_probability

Silverfish

Saya akan mengatakan bahwa stats.stackexchange.com/a/230943/113090 ini mungkin menarik bagi Anda, tetapi kemudian saya menyadari bahwa Anda adalah orang yang memposting jawaban itu, jadi tidak apa-apa. Pokoknya proses pemikiran Anda mungkin menarik bagi orang lain yang juga memiliki pertanyaan yang sama dengan Anda (misalnya saya) "apakah ada definisi kemungkinan formal yang sering"

Chill2Macht

Saya tidak yakin saya akan memiliki energi untuk menulis jawaban sendiri, tetapi saya ingin meninggalkan tautan yang sama dengan entri Ensiklopedia Filsafat Stanford tentang Interpretasi Kemungkinan yang saya posting di bawah jawaban Anda di utas terkait. Bagian interpretasi / definisi frequentist adalah bacaan yang baik. Ini berbicara secara luas tentang berbagai masalah konseptual dengan upaya untuk memberikan definisi probabilitas yang sering.

amoeba

Jawaban:

TL; DR Sepertinya tidak mungkin untuk mendefinisikan definisi probabilitas yang konsisten dengan kerangka kerja Kolmogorov yang tidak sepenuhnya melingkar (yaitu dalam arti logika sirkular).

Tidak terlalu lama jadi saya membaca: Saya ingin membahas apa yang saya lihat sebagai beberapa masalah potensial dengan definisi calon yang sering tentang probabilitas Pertama, hanya dapat secara wajar ditafsirkan sebagai variabel acak, sehingga ungkapan di atas tidak didefinisikan secara tepat dalam arti yang ketat. Kita perlu menentukan mode konvergensi untuk variabel acak ini, baik itu hampir pasti, dalam probabilitas, dalam distribusi, dalam rata-rata, atau dalam rata-rata kuadrat.

lim_{n \to \infty} \frac{n_{A}}{n}

$\underset{n \to \infty}{\lim} \frac{n_A}{n}$

n_{A}

$n_A$

Tetapi semua konsep konvergensi ini membutuhkan ukuran ruang probabilitas untuk didefinisikan sebagai bermakna. Pilihan intuitif, tentu saja, akan memilih konvergensi hampir pasti. Ini memiliki fitur yang perlu ada batasnya kecuali jika terjadi pengukuran nol. Apa yang merupakan himpunan ukuran nol akan bertepatan untuk setiap kelompok tindakan yang benar-benar berkelanjutan sehubungan dengan satu sama lain - ini memungkinkan kita untuk mendefinisikan gagasan konvergensi yang hampir pasti membuat batas di atas menjadi ketat sementara masih agak agnostik tentang apa yang mendasarinya ukuran untuk ruang acara yang terukur adalah (yaitu karena itu bisa berupa ukuran apa pun yang benar-benar berkelanjutan sehubungan dengan beberapa ukuran yang dipilih). Ini akan mencegah sirkularitas dalam definisi yang akan timbul dari memperbaiki ukuran yang diberikan sebelumnya,

Namun, jika kita menggunakan konvergensi yang hampir pasti, maka itu berarti kita membatasi diri pada situasi hukum yang kuat dari sejumlah besar (selanjutnya SLLN). Izinkan saya menyatakan teorema itu (seperti yang diberikan pada halaman 133 dari Chung) demi referensi di sini:

Biarkan menjadi urutan variabel acak independen yang didistribusikan secara identik. Maka kita memiliki mana . $\{X_n\}$
$E | X_{1} | < \infty ⟹ \frac{S_{n}}{n} \to E (X_{1}) a . s .$ $\mathbb{E}|X_1| < \infty \implies \frac{S_n}{n} \to \mathbb{E}(X_1)\quad a.s.$ $E | X_{1} | = \infty ⟹ \underset{n \to \infty}{lim sup} \frac{| S_{n} |}{n} = + \infty a . s .$ $\mathbb{E}|X_1| = \infty \implies \underset{n \to \infty}{\lim\sup}\frac{|S_n|}{n} = + \infty \quad a.s.$ $S_n:= X_1 + X_2 + \dots + X_n$

Jadi katakanlah kita memiliki ruang yang dapat diukur dan kami ingin mendefinisikan probabilitas beberapa peristiwa sehubungan dengan beberapa keluarga pengukuran probabilitas yang benar-benar kontinu . Kemudian dengan salah satu dari Teorema Ekstensi Kolmogorov atau Teorema Ekstensi Ionescu Tulcea (saya pikir keduanya bekerja), kita dapat membangun keluarga ruang produk , satu untuk setiap . (Perhatikan bahwa keberadaan ruang produk tanpa batas yang merupakan kesimpulan dari teorema Kolmogorov membutuhkan ukuran setiap ruang menjadi , maka mengapa saya sekarang membatasi probabilitas, alih-alih ukuran yang sewenang-wenang). Kemudian tentukan $(X, \mathscr{F})$ $A \in \mathscr{F}$ $\{\mu_i\}_{i \in I}$ $\{(\prod_{j=1}^{\infty} X_j)_i\}_{i \in I}$ $\mu_i$ $1$ $\mathbb{1}_{A_j}$ menjadi variabel indikator acak, yaitu yang sama dengan jika terjadi pada salinan dan jika tidak, dengan kata lainMaka jelas (di mana menunjukkan ekspektasi sehubungan dengan ), sehingga hukum yang kuat dari sejumlah besar sebenarnya akan berlaku untuk (karena dengan konstruksi $1$ $A$ $j$ $0$

n_{A} = 1_{A_{1}} + 1_{A_{2}} + \dots + 1_{A_{n}} .

$n_A = \mathbb{1}_{A_1} + \mathbb{1}_{A_2} + \dots + \mathbb{1}_{A_n}.$

0 \leq E_{i} 1_{A_{j}} \leq 1

$0 \le \mathbb{E}_i \mathbb{1}_{A_j} \le 1$

E_{i}

$\mathbb{E}_i$

μ_{i}

$\mu_i$

(\prod_{j = 1}^{\infty} X_{j})_{i}

$(\prod_{j=1}^{\infty} X_j)_i$

1_{A_{j}}

$\mathbb{1}_{A_j}$ terdistribusi secara identik dan independen - perhatikan bahwa didistribusikan secara independen berarti bahwa ukuran ruang produk adalah multiplikatif sehubungan dengan langkah-langkah koordinat) sehingga kami mendapatkan dan dengan demikian definisi kita untuk probabilitas sehubungan dengan seharusnya secara alami adalah .

\frac{n_{A}}{n} \to E_{i} 1_{A_{1}} a . s .

$\frac{n_A}{n} \to \mathbb{E}_i \mathbb{1}_{A_1} \quad a.s.$

A

$A$

μ_{i}

$\mu_i$

E_{1} 1_{A}

$\mathbb{E}_1 \mathbb{1}_{A}$

Namun saya baru menyadari bahwa meskipun urutan variabel acak akan konvergen hampir pasti sehubungan dengan jika dan hanya jika konvergen hampir pasti sehubungan dengan , ( di mana ) itu tidak berarti bahwa ia akan konvergen ke nilai yang sama ; pada kenyataannya, SLLN menjamin bahwa itu tidak akan kecuali yang tidak benar secara umum. $\frac{n_A}{n}$ $\mu_{i_1}$ $\mu_{i_2}$ $i_1, i_2 \in I$ $\mathbb{E}_{i_1} \mathbb{1}_A = \mathbb{E}_{i_2} \mathbb{1}_A$

Jika entah bagaimana "cukup kanonik", katakan seperti distribusi seragam untuk set yang terbatas, maka mungkin ini bekerja dengan baik, tetapi tidak benar-benar memberikan wawasan baru. Khususnya, untuk distribusi seragam, , yaitu probabilitas hanyalah proporsi titik atau peristiwa elementer dalam yang milik , yang lagi-lagi tampak agak melingkar bagiku. Untuk variabel acak kontinu, saya tidak melihat bagaimana kita bisa menyetujui pilihan "kanonik" dari . $\mu$ $\mathbb{E}\mathbb{1}_A = \frac{|A|}{|X|}$ $A$ $X$ $A$ $\mu$

Yaitu sepertinya masuk akal untuk menentukan frekuensi suatu peristiwa sebagai probabilitas peristiwa, tetapi sepertinya tidak masuk akal untuk menentukan probabilitas peristiwa tersebut menjadi frekuensi (setidaknya tanpa melingkar). Ini khususnya bermasalah, karena dalam kehidupan nyata kita tidak benar-benar tahu apa probabilitasnya; kita harus memperkirakannya.

Juga perhatikan bahwa definisi frekuensi ini untuk subset ruang terukur bergantung pada ukuran yang dipilih sebagai ruang probabilitas; misalnya, tidak ada ukuran produk untuk banyak salinan diberkahi dengan ukuran Lebesgue, karena . Demikian juga, ukuran menggunakan ukuran produk kanonik adalah , yang dapat meledak hingga tak terhingga jika atau menjadi nol jika , yaitu teorema ekstensi Kolmogorov dan Tulcea adalah hasil yang sangat khusus yang khas untuk ukuran probabilitas . $\mathbb{R}$ $\mu(\mathbb{R})=\infty$ $\prod_{j=1}^n X$ $(\mu(X))^n$ $\mu(X) >1$ $\mu(X) <1$

Chill2Macht
sumber

Terima kasih atas jawaban yang bagus (+1). Saya setuju bahwa ada '' masalah '' dengan definisi dalam hal frekuensi relatif jangka panjang, itu mungkin salah satu alasan mengapa Kolmogorov mengembangkan Grundbegriffe-nya. Namun ketika kita berbicara tentang sering, kita harus menempatkan diri kita dalam kerangka waktu sebelum teori Kolmogorov, kurasa?

@ FPF Saya kira jujur saya tidak tahu. Saya kira apa yang saya coba katakan adalah bahwa saya tidak melihat bagaimana pembenaran yang ketat untuk pemahaman yang sering tentang kemungkinan dapat mengarah pada definisi yang berguna / tidak melingkar.

Chill2Macht

@ fcop Saya sangat menghargai karunia yang murah hati - Saya benar-benar dalam suasana hati yang buruk hari ini sebelum menerimanya. Sejujurnya itu membuat saya agak terpojok (dalam cara yang baik). Sekali lagi, saya sangat menghargainya

Chill2Macht

jangan katakan itu, jawaban Anda sangat berkembang dan baik secara matematis.

Saya tidak berpikir ada definisi matematis, tidak. Perbedaan antara berbagai interpretasi probabilitas bukanlah perbedaan dalam cara probabilitas didefinisikan secara matematis. Probabilitas dapat didefinisikan secara matematis dengan cara ini: jika adalah ukuran ruang dengan , maka probabilitas dari setiap kejadian hanya . Saya harap Anda setuju bahwa definisi ini netral untuk pertanyaan seperti apakah kita harus menafsirkan probabilitas dalam mode yang sering atau Bayesian. $(Ω, Σ, μ)$ $μ(Ω) = 1$ $S ∈ Σ$ $μ(S)$

Kodiologis
sumber

itu bagus tetapi definisi probabilitas ini sebagai yang memenuhi aksioma Kolmogorov sangat abstrak, perlu didefinisikan dalam kasus-kasus tertentu. Itu sama dengan 'lingkaran adalah himpunan titik yang berada pada jarak tertentu dari titik tetap'. Itu tidak berarti apa-apa selama Anda tidak mengatakan di mana ruang metrik Anda: Anda harus mengatakan apa definisi '' jarak ''. Saya pikir mendefinisikan sebagai frekuensi relatve jangka panjang tidak memenuhi aksioma Kolmogorov, bagaimana menurut Anda? PS Definisi dalam komentar @Silverfish juga memenuhi aksioma ini.

μ

$\mu$

P

$\mathbb{P}$

(lanjutan) jadi singkatnya, saya dapat mendefinisikan ( define adalah kata yang tepat), banyak yang memenuhi aksioma Kolmogorov dan ini semua adalah probabilitas yang valid menurut teori aksiomatik.

μ

$\mu$

Diperdebatkan, sistem Kolmogorov menyediakan sebuah basis aksioma - yang tidak selalu berarti sebuah frequentist atau Bayesian interpretasi. Dalam semangat pandangan frequentist, ide dasarnya adalah bahwa ketika jumlah cobaan meningkat menjadi tidak terbatas, frekuensi empiris menstabilkan sekitar, atau konvergen ke, beberapa nilai; probabilitas acara tersebut. Meskipun pendekatan frekuensi meningkatkan pendekatan klasik, kurangnya ketelitian mengarah pada pondasi aksiomatik. Apakah ini lebih merupakan pertanyaan tentang sejarah teori probabilitas?

lim_{n \to \infty} (n_{A} / n) = P_{A} = P (A) .

$\lim_{n\rightarrow \infty} \left(n_{A}/ n\right) = P_A = P(A).$

Graeme Walsh

@Graeme Walsh: dapatkah Anda memasukkannya ke dalam jawaban, dan melengkapinya dengan argumen mengapa definisi ini sejalan dengan aksioma Kolmogorov? (tentu saja orang dapat mempertanyakan keberadaan batas, tetapi kemudian kita dapat mengatakan bahwa frequentist adalah mereka yang '' percaya '' akan keberadaannya?)

P (A)

$P(A)$

@ fcop Seperti yang dicatat Walsh, "definisi" ini tidak ketat.

Kodiologist