Peluang bersyarat dari variabel kontinu

Misalkan variabel acak mengikuti distribusi Seragam kontinu dengan parameter 0 dan 10 (yaitu ) $U$ $U \sim \rm{U}(0,10)$

Sekarang mari kita menandakan A peristiwa bahwa = 5 dan B peristiwa bahwa sama dengan atau 6. Menurut pemahaman saya, kedua peristiwa memiliki probabilitas nol untuk terjadi. $U$ $U$ $5$

Sekarang, jika kita mempertimbangkan untuk menghitung , kita tidak dapat menggunakan hukum kondisional , karena sama dengan nol. Namun, intuisi saya mengatakan bahwa . $P(A|B)$ $P\left( {A|B} \right) = \frac{{P\left( {A \cap B} \right)}}{{P\left( B \right)}}$ $P(B)$ $P(A|B) = 1/2$

conditional-probability continuous-data uniform Cupu
sumber

Apa yang akan intuisi Anda jika memiliki kerapatan tidak seragam ?

U

$U$

0.02 u, u \in (0, 10)

$0.02u, u \in (0,10)$

Dilip Sarwate

@DilipSarwate Intuisi saya akan memberi tahu saya bahwa jawabannya adalah angka yang sedikit lebih rendah dari 0,5

Noob

Jawaban:

"Konsep probabilitas bersyarat terkait dengan hipotesis terisolasi yang probabilitasnya sama dengan 0 tidak dapat diterima." A. Kolmogorov

Untuk variabel acak kontinu, dan katakanlah, distribusi bersyarat ditentukan oleh properti bahwa mereka memulihkan ukuran probabilitas asli, yaitu, untuk semua set terukur , , Ini menyiratkan bahwa kepadatan bersyarat didefinisikan secara sewenang-wenang pada set ukuran nol atau, dengan kata lain, bahwa kepadatan bersyarat didefinisikan hampir di mana-mana . Karena himpunan berukuran nol terhadap ukuran Lebesgue, ini berarti Anda dapat mendefinisikan keduanya $X$ $Y$ $A\in\mathcal{B}(\mathbf{X})$ $B\in\mathcal{B}(\mathbf{Y})$

P (X \in A, Y \in B) = \int_{B} d P_{Y} (y) \int_{B} d P_{X | Y} (x | y)

$\mathbb{P}(X\in A,Y\in B)=\int_B \text{d}P_Y(y) \int_B \text{d}P_{X|Y}(x|y)$

p_{X | Y} (x | y)

$p_{X|Y}(x|y)$

{5, 6}

$\{5,6\}$

p (5)

$p(5)$ dan dalam cara yang benar-benar sewenang-wenang dan karenanya probabilitas dapat mengambil nilai apa pun.

p (6)

$p(6)$

P (U = 5 | U \in {5, 6})

$\mathbb{P}(U=5|U\in\{5,6\})$

Ini tidak berarti Anda tidak dapat menentukan kepadatan bersyarat dengan rumus rasio seperti dalam kasus normal bivariat tetapi hanya bahwa kepadatan hanya ditentukan hampir di mana-mana untuk dan .

f (y | x) = f (x, y) / f (x)

$f(y|x)=f(x,y)\big/f(x)$

x

$x$

y

$y$

"Banyak argumen yang sia-sia berkobar - di antara para probabilis yang kompeten - di mana hasil ini 'benar'." ET Jaynes

Fakta bahwa argumen pembatas (ketika menjadi nol) dalam jawaban di atas tampaknya memberikan jawaban yang alami dan intuitif terkait dengan paradoks Borel . Pilihan parametrisation dalam hal-hal batas, seperti yang ditunjukkan oleh contoh berikut ini saya gunakan di kelas sarjana saya. $\epsilon$

Ambil bivariat normal Berapakah densitas bersyarat dari mengingat ?

X, Y \overset{i.i.d.}{\sim} N (0, 1)

$X,Y\stackrel{\text{i.i.d.}}{\sim}\mathcal{N}(0,1)$ $X$ $X=Y$

Jika seseorang mulai dari kepadatan bersama , jawaban "intuitif" adalah [sebanding dengan] . Ini dapat diperoleh dengan mempertimbangkan perubahan variabel mana memiliki kepadatan . Karenanya dan Namun , jika seseorang menganggap sebaliknya perubahan variabeldensitas marginal dari adalah densitas Cauchy $\varphi(x)\varphi(y)$ $\varphi(x)^2$

(x, t) = (x, y - x) \sim φ (x) φ (t + x)

$(x,t)=(x,y-x) \sim \varphi(x)\varphi(t+x)$

T = Y - X

$T=Y-X$

φ (t / \sqrt{2}) / \sqrt{2}

$\varphi(t/\sqrt{2})/\sqrt{2}$

f (x | t) = \frac{φ (x) φ (t + x)}{φ (t / \sqrt{2}) / \sqrt{2}}

$f(x|t)=\dfrac{\varphi(x)\varphi(t+x)}{\varphi(t/\sqrt{2})/\sqrt{2}}$

f (x | t = 0) = \frac{φ (x) φ (x)}{φ (0 / \sqrt{2}) / \sqrt{2}} = φ (x)^{2} \sqrt{2}

$f(x|t=0)=\dfrac{\varphi(x)\varphi(x)}{\varphi(0/\sqrt{2})/\sqrt{2}}=\varphi(x)^2\sqrt{2}$

(x, r) = (x, y / x) \sim φ (x) φ (r x) | x |

$(x,r)=(x,y/x) \sim \varphi(x)\varphi(rx)|x|$

R = Y / X

$R=Y/X$

ψ (r) = 1 / π {1 + r^{2}}

$\psi(r)=1/\pi\{1+r^2\}$ dan kepadatan bersyarat diberikan adalah Oleh karena itu, Dan di sini letak "paradoks": peristiwa dan sama dengan , tetapi mereka menyebabkan kepadatan bersyarat berbeda pada .

X

$X$

R

$R$

f (x | r) = φ (x) φ (r x) | x | \times π {1 + r^{2}}

$f(x|r)=\varphi(x)\varphi(rx)|x| \times \pi \{1+r^2\}$

f (x | r = 1) = π φ (x)^{2} | x | / 2 .

$f(x|r=1)= \pi\varphi(x)^2|x|/2\,.$

R = 1

$R=1$

T = 0

$T=0$

X = Y

$X=Y$

X

$X$

Xi'an
sumber

Ini benar-benar salah. Jika Anda mengambil kursus yang ketat dalam teori probabilitas Anda akan melihat bahwa pengkondisian pada peristiwa-peristiwa dengan ukuran nol adalah mungkin, dan praktis. Pertimbangkan Gaussian bitivariat. Semua orang tahu Anda dapat mengkondisikan pada variabel pertama yang mengambil nilai nol, meskipun peristiwa ini memiliki probabilitas nol. Lihat wikipedia. en.wikipedia.org/wiki/…

Yair Daon

Ini jawaban kontroversial:

Xi'an benar bahwa Anda tidak dapat mengkondisikan pada acara dengan probabilitas nol. Namun, Yair juga benar bahwa setelah Anda memutuskan proses pembatasan , Anda dapat mengevaluasi suatu probabilitas. Masalahnya adalah ada banyak proses pembatas yang sampai pada kondisi yang diinginkan.

Saya pikir prinsip ketidakpedulian kadang-kadang dapat menyelesaikan pilihan seperti itu. Ini berpendapat bahwa hasilnya tidak boleh dipengaruhi oleh pertukaran label yang sewenang-wenang. dalam kasus Anda, katakanlah, membalik interval sehingga seragam dan poin 5 dan 6 telah diaktifkan. Membalik mengubah jawaban ke . Jadi jika Anda telah memilih proses pembatas yang berbeda untuk yang satu daripada yang lain, maka Anda memiliki perubahan label yang sewenang-wenang (dalam hal ini, mengubah infinity positif menjadi infinity negatif) mendapatkan hasil yang berbeda. Itu seharusnya tidak terjadi sesuai dengan prinsip ketidakpedulian. Karena itu, jawabannya adalah 0,5 seperti yang Anda duga. $(1, 11)$ $p$ $1-p$

Perhatikan bahwa banyak ahli statistik tidak menerima prinsip ketidakpedulian. Saya suka karena itu mencerminkan intuisi saya. Meskipun saya tidak selalu yakin bagaimana cara menerapkannya, mungkin dalam 50 tahun ini akan lebih umum?

Neil G
sumber

Terima kasih atas kiriman yang bijaksana. Saya, salah satu, sangat meragukan "prinsip ketidakpedulian" akan menjadi arus utama, karena itu tidak bisa diterapkan. Argumen Anda berantakan ketika nilai-nilai yang mendasarinya diungkapkan kembali. Distribusi seragam pada dengan demikian bisa menjadi, katakanlah, distribusi Cauchy, bisa menjadi , dan menjadi . "Prinsip ketidakpedulian" Anda sekarang menghasilkan jawaban yang sama sekali berbeda. (Saya menggunakan probabilitas untuk mengubah contoh ini.)

[0, 10]

$[0,10]$

5

$5$

0

$0$

6

$6$

\sqrt{1 - \frac{2}{\sqrt{5}}}

$\sqrt{1-\frac{2}{\sqrt{5}}}$

whuber

@whuber: Argumen membalik tidak akan berfungsi untuk distribusi Cauchy, kecuali jika Anda membalik mode.

Neil G

Tentu ya: ada banyak cara untuk mengubah satu distribusi kontinu ke yang lain yang menukar dua nilai. Sebenarnya, "membalik" Anda bahkan tidak mempertahankan distribusi asli. (Ini mengubah dukungannya sama sekali.) Jadi sepertinya yang Anda lakukan hanyalah mengganti satu distribusi dengan yang lain. Sepertinya tidak ada prinsip yang beroperasi di sini sama sekali.

whuber

@whuber: ia mengganti satu distribusi dengan yang lain di mana wilayah seragam di sekitar 5 dan 6 tidak berubah - dengan cara yang sama saya pikir bahwa zoom out mencoba membuat kepadatan tidak berubah dalam lingkaran asli dalam paradoks Bertrand .

Neil G

@whuber: Kamu benar. Saya sangat menyukai jawaban Potato untuk salah satu pertanyaan saya. Saya pribadi berpikir bahwa jika ada perbedaan antara teori dan intuisi, kita harus mencari teori baru yang lebih lengkap. Mungkin "prinsip ketidakpedulian" tidak sepenuhnya benar, atau secara umum tidak bisa diterapkan, tetapi saya memiliki keinginan alami untuk teori probabilitas untuk menjawab pertanyaan yang kita punya pemahaman intuitif. Mungkin Lebesgue memiliki kegelisahan yang sama tentang integrasi Riemann ketika dia menciptakan integralnya?

Neil G

Ya kita bisa! Anda dapat mengkondisikan pada peristiwa probabilitas nol! Matematika menjadi rumit - Anda perlu teori ukuran tetapi Anda bisa melakukannya. Dalam kasus sederhana seperti ini saya akan mencari intuisi dengan mendefinisikan dan . Lakukan semuanya sekarang seperti yang Anda lakukan sebelumnya dan ambil . $A = [5 - \frac{\epsilon}{2} , 5 + \frac{\epsilon}{2}]$ $B = [5 - \frac{\epsilon}{4} , 5 + \frac{\epsilon}{4}] \cup [6 - \frac{\epsilon}{4} , 6 + \frac{\epsilon}{4}]$ $\epsilon \to 0$

Biarkan saya tekankan lagi (dan lagi) bahwa metode di atas digunakan untuk intuisi. Pengkondisian pada peristiwa probabilitas nol dilakukan sangat sering tanpa banyak pemikiran. Contoh terbaik yang dapat saya pikirkan adalah jika adalah gaussian bivariat. Orang sering menganggap kerapatan diberikan (katakanlah) , yang merupakan peristiwa dengan nol. Ini beralasan dalam teori, tetapi sama sekali tidak sepele. Mengenai @ Kutipan Xi'an dari Kolmogorov - Saya hanya dapat mengutip Varadhan: "Salah satu tujuan kami adalah mencari definisi yang masuk akal ketika " (Teori Probabilitas, catatan kuliah Courant, halaman 74) . $(X_1, X_2) \sim \mathcal{N}(0, \Sigma)$ $X_1$ $X_2 = 0$ $P(\xi = a) = 0$

Jadi, ya, Anda bisa memberi makna untuk mengkondisikan pada peristiwa dengan ukuran nol.

Yair Daon
sumber

Misalkan : artinya dan dimungkinkan. Bagaimana Anda menangani situasi ketika dan ? Apakah (yang "secara intuitif" adalah jawaban yang tepat karena semua angka dalam memiliki kepadatan yang sama) atau mungkin (yang perubahan sederhana dari ke pada Anda rumus akan memberi) atau bahkan ?

U \sim U [0, 10]

$U\sim \text{U}[0,10]$

0

$0$

10

$10$

A = {0}

$A=\{0\}$

B = {0, 6}

$B=\{0,6\}$

P (A | B) = 1 / 2

$P(A|B)=1/2$

[0, 10]

$[0,10]$

1 / 3

$1/3$

5

$5$

0

$0$

0

$0$

whuber

@ YairDaon Terima kasih atas jawaban Anda! Jika saya mengerti dengan baik, Anda bermaksud melakukan yang berikut: untuk kecil , kami memiliki:

ε

$\varepsilon$

P (A | B) = \frac{P (A \cap B)}{P (B)} = \frac{\int_{5 - \frac{ε}{4}}^{5 + \frac{ε}{4}} f (u) d u}{\int_{5 - \frac{ε}{4}}^{5 + \frac{ε}{4}} f (u) d u + \int_{6 - \frac{ε}{4}}^{6 + \frac{ε}{4}} f (u) d u} = \frac{\frac{ε}{2}}{\frac{ε}{2} + \frac{ε}{2}} = 0.5

$P\left( {A|B} \right) = \frac{{P\left( {A \cap B} \right)}}{{P\left( B \right)}} = \frac{{\int\limits_{5 - \frac{\varepsilon }{4}}^{5 + \frac{\varepsilon }{4}} {f\left( u \right)du} }}{{\int\limits_{5 - \frac{\varepsilon }{4}}^{5 + \frac{\varepsilon }{4}} {f\left( u \right)du} + \int\limits_{6 - \frac{\varepsilon }{4}}^{6 + \frac{\varepsilon }{4}} {f\left( u \right)du} }} = \frac{{\frac{\varepsilon }{2}}}{{\frac{\varepsilon }{2} + \frac{\varepsilon }{2}}} = 0.5$

Noob

@YairDaon Tapi saya pikir hasilnya tidak invarian jika awalnya kita mendefinisikan A sebagai ( dan B sama seperti sebelumnya). Dalam kasus seperti itu hasilnya adalah

[5 - \frac{ε}{8}, 5 + \frac{ε}{8}]

$\left[ {5 - \frac{\varepsilon }{8},5 + \frac{\varepsilon }{8}} \right]$

\frac{1}{8}

${\frac{1}{8}}$

Noob

Sangat baik untuk intuisi dengan menunjukkan tidak ada jawaban unik: itulah dasar pernyataan Kolmogorov yang dikutip oleh @ Xi'an. Fakta bahwa Anda harus mengubah prosedur Anda untuk membuat hal-hal keluar karena Anda pikir mereka harus memperingatkan Anda tentang masalah dengan pendekatan ini.

whuber

Kerapatan diberikan didefinisikan dengan baik, bertentangan dengan kerapatan diberikan .

X_{2}

$X_2$

X_{1}

$X_1$

X_{2}

$X_2$

X_{1} = 0

$X_1=0$

Xi'an