Apakah teori probabilitas mempelajari tentang fungsi-fungsi non-negatif yang berintegrasi / dijumlahkan menjadi satu?

26

Ini mungkin pertanyaan konyol, tetapi apakah teori probabilitas mempelajari fungsi-fungsi yang mengintegrasikan / menjumlahkan satu?

EDIT. Saya lupa non-negatif. Jadi, apakah teori probabilitas mempelajari fungsi - fungsi non-negatif yang mengintegrasikan / menjumlahkan satu?

dontloo
sumber
Ya, probabilitas selalu berjumlah satu. Kemungkinan di sisi lain tidak memiliki kendala ini.
Mike Hunter
2
Satu-satunya jawaban yang masuk akal untuk pertanyaan yang dinyatakan adalah tidak, paling tidak karena ada banyak fungsi yang berintegrasi ke 1 tetapi yang tidak dapat mewakili probabilitas untuk beberapa dan . Misalnya, perhatikan fungsi yang 1,5 antara 0 dan 1 dan -0,5 antara 1 dan 2, dan 0 di tempat lain. (tapi ini juga bisa dibilang "tidak" karena alasan lain juga)b a f ( u ) d u a bfabf(u)duab
Glen_b -Reinstate Monica
1
Ada makalah serius tentang probabilitas negatif, misalnya Maurice S. Bartlett. doi.org/10.1017/S0305004100022398
Nick Cox
2
@dontloo apa yang saya bertujuan ada sekarang cukup baik ditutupi oleh kutipan Tao dalam jawaban Chaconne.
Glen_b -Reinstate Monica

Jawaban:

31

Pada tingkat formal murni, orang bisa menyebut teori probabilitas studi ruang ukur dengan ukuran total satu, tapi itu akan seperti teori panggilan angka studi string angka yang berakhir

- dari Topik Terry Tao dalam teori matriks acak .

Saya pikir ini adalah hal yang sangat mendasar. Jika kita memiliki ruang probabilitas dan variabel acak X : Ω R dengan ukuran pushforward P X : = P X - 1 , maka alasan kerapatan f = d P X(Ω,F,P)X:ΩRPX:=PX1 diintegrasikan ke satu karenaP(Ω)=1. Dan itu lebih mendasar daripada pdf vs pmfs.f=dPXdμP(Ω)=1

Inilah buktinya:

Rfdμ=RdPX=PX(R)=P({ωΩ:X(ω)R})=P(Ω)=1.

Ini hampir mengulangi jawaban AdamO (+1) karena semua CDF adalah càdlàg, dan ada hubungan satu-ke-satu antara set CDF pada dan himpunan semua ukuran probabilitas pada ( R , B ) , tetapi karena CDF RV didefinisikan dalam hal distribusinya, saya melihat ruang probabilitas sebagai tempat untuk "memulai" dengan upaya semacam ini.R(R,B)


Saya memperbarui untuk menguraikan korespondensi antara CDF dan ukuran probabilitas dan bagaimana keduanya merupakan jawaban yang masuk akal untuk pertanyaan ini.

Kami mulai dengan memulai dengan dua ukuran probabilitas dan menganalisis CDF yang sesuai. Kami menyimpulkan dengan mulai dengan CDF dan melihat ukuran yang disebabkannya.

Biarkan dan R menjadi ukuran probabilitas pada ( R , B ) dan biarkan F Q dan F R menjadi CDF masing-masing (yaitu F Q ( a ) = Q ( ( - , a ] ) dan demikian pula untuk R ). Q dan R keduanya akan mewakili ukuran variabel acak yang terdorong (yaitu distribusi) tetapi sebenarnya tidak masalah dari mana mereka berasal untuk ini.QR(R,B)FQFRFQ(a)=Q((,a])RQR

Ide kuncinya adalah ini: jika dan R menyetujui koleksi set yang cukup kaya, maka mereka setuju pada aljabar σ yang dihasilkan oleh set tersebut. Secara intuitif, jika kita memiliki koleksi acara yang berperilaku baik yang, melalui sejumlah komplemen, persimpangan, dan serikat pekerja yang terhitung jumlahnya membentuk B , maka menyepakati semua set tersebut tidak meninggalkan ruang gerak untuk tidak setuju pada set Borel mana pun.QRσB

Mari kita meresmikannya. Misalkan dan biarkan L = { A R : Q ( A ) = R ( A ) } , yaitu L adalah himpunan bagian dari P ( R ) di mana Q dan R setuju (dan didefinisikan). Perhatikan bahwa kami mengizinkan mereka untuk menyetujui set non-Borel karena L sebagaimana didefinisikan belum tentu merupakan subset dariS={(,a]:aR}L={AR:Q(A)=R(A)}LP(R)QRL . Tujuan kami adalah untuk menunjukkan bahwa BL .BBL

Ternyata ( σ- aljabar yang dihasilkan oleh S ) sebenarnya adalah B , jadi kami berharap bahwa S adalah kumpulan peristiwa yang cukup besar sehingga jika Q = R di mana-mana di S maka mereka dipaksa untuk sama pada semua B .σ(S)σSBSQ=RSB

Perhatikan bahwa ditutup di bawah persimpangan terbatas, dan bahwa L ditutup di bawah komplemen dan persimpangan disjoint yang dapat dihitung (ini mengikuti dari -asitifitas σ ). Ini berarti bahwa S adalah π -sistem dan L adalah λ -sistem . Dengan π - λ teorema kami karena itu memiliki bahwa σ ( S ) = BL . Unsur-unsur SSLσSπLλπλσ(S)=BLSsama sekali tidak serumit set Borel yang sewenang-wenang, tetapi karena set Borel apa pun dapat dibentuk dari sejumlah komplemen, serikat pekerja, dan persimpangan elemen yang dapat dihitung , jika tidak ada perbedaan pendapat antara Q dan R pada elemen-elemen dari S maka ini akan diikuti hingga ada tidak ada perbedaan pendapat pada setiap B B .SQRSBB

Kami baru saja menunjukkan bahwa jika maka Q = R (pada B ), yang berarti bahwa peta Q F Q dari P : = { P : P  adalah ukuran probabilitas pada  ( R , B ) } ke F : = { F : RR : F  adalah CDF } adalah suntikan.FQ=FRQ=RBQFQP:={P:P is a probability measure on (R,B)}F:={F:RR:F is a CDF}

Sekarang jika kita ingin berpikir tentang arah yang lain, kita ingin memulai dengan CDF dan menunjukkan bahwa ada ukuran probabilitas unik Q sehingga F ( a ) = Q ( ( - , a ] ) . Ini akan membentuk bahwa pemetaan kami Q F Q sebenarnya adalah sebuah penambangan. Untuk arah ini, kami mendefinisikan F tanpa referensi probabilitas atau ukuran.FQF(a)=Q((,a])QFQF

Kami pertama-tama mendefinisikan fungsi ukuran Stieltjes sebagai fungsi sedemikian rupaG:RR

  1. tidak menurunG
  2. adalah kontinu-kananG

(dan perhatikan bagaimana menjadi càdlàg mengikuti dari definisi ini, tetapi karena kendala ekstra yang tidak berkurang "sebagian besar" fungsi càdlàg bukanlah fungsi ukuran Stieltjes).

Dapat ditunjukkan bahwa setiap fungsi Stieltjes menginduksi ukuran unik μ pada ( R , B ) yang didefinisikan oleh μ ( ( a , b ] ) = G ( b ) - G ( a ) (lihat misalnya Probabilitas dan Proses Acak Durrett untuk perinciannya. tentang ini) Sebagai contoh, ukuran Lebesgue diinduksi oleh G ( x ) = x .Gμ(R,B)

μ((a,b])=G(b)G(a)
G(x)=x

Sekarang mencatat bahwa CDF adalah fungsi Stieltjes dengan properti tambahan yang membatasi x - F ( x ) : = F ( - ) = 0 dan lim x F ( x ) : = F ( ) = 1 , kita dapat menerapkan hasil itu untuk menunjukkan bahwa untuk setiap CDF F kita mendapatkan ukuran unik Q pada ( R , B )FlimxF(x):=F()=0limxF(x):=F()=1FQ(R,B)didefinisikan oleh

Q((a,b])=F(b)F(a).

Perhatikan bagaimana dan Q ( ( - , - ] ) = F ( ) - F ( - ) = 1 jadi Q adalah ukuran probabilitas dan tepat yang akan kita gunakan untuk mendefinisikan FQ((,a])=F(a)F()=F(a)Q((,])=F()F()=1QF jika kita pergi ke arah lain.

Semua bersama-sama kita sekarang telah melihat bahwa pemetaan adalah 1-1 dan ke sehingga kita benar-benar memiliki bijection antara P dan F . Membawa ini kembali ke pertanyaan aktual, ini menunjukkan bahwa kita dapat secara setara memegang CDF atau ukuran probabilitas sebagai objek kita yang kita nyatakan probabilitas sebagai studi (sambil juga mengakui bahwa ini adalah upaya yang agak jenaka). Saya pribadi masih lebih suka ruang probabilitas karena saya merasa seperti teori yang lebih alami mengalir ke arah itu tetapi CDF tidak "salah".QFQPF

jld
sumber
3
+1 untuk perspektif yang lebih luas tentang masalah ini; Anda dengan benar mencatat bahwa fungsi-ruang càdlàg Skorokhod hanya merupakan gagasan saat ini tentang apa yang ditimbulkan oleh teori probabilitas, secara radikal berbeda dari Borel, dan penemuan Skorokhod hanya sekitar ~ 40 tahun yang lalu. Siapa yang tahu apa yang bisa diungkapkan oleh abad berikutnya?
AdamO
1
@ Adamo benar-benar, dan ada yang lebih aneh seperti probabilitas non-Archimedean, di mana bahkan jika mereka tidak pernah menjadi pandangan dominan (dan setahu saya tidak ada yang serius mencoba melakukan itu) Saya menemukan mereka membantu saya untuk lebih memahami formulasi standar ( misalnya seberapa serius aditif sigma suatu hal)
jld
Saya membaca judul pertanyaan dan memikirkan kutipan dari Terence Tao; Pasti sudah membacanya bertahun-tahun yang lalu ( 2010 ) tetapi itu benar-benar mengesankan. Ketika ia melanjutkan dengan mengatakan, Pada tataran praktis, yang terjadi adalah yang sebaliknya ...
ShreevatsaR
Lihat komentar saya pada pertanyaan: Bagaimana teori-teori alternatif probabilitas, seperti Bayesian (dan Dempster-Shafer dan Model Keyakinan yang Dapat Dipindahtangankan dan Teori Dezert-Smarandache), probabilitas yang tidak tepat, teori masuk akal, dll. Terkait dengan pertanyaan dan diskusi ini?
E. Douglas Jensen
@ E.DouglasJensen Saya tidak yakin, saya menyikapi ini dalam hal aksioma standar Kolmogorov jadi dalam konteks itu saya pikir jawaban saya "benar", tetapi jika kita mengubah aksioma maka saya kira semua taruhan dibatalkan . Juga saya sama sekali tidak filosofis tentang hal ini jadi jika kita mencoba menghubungkan ini dengan dunia nyata dengan cara apa pun, misalnya dengan pertanyaan seperti "berapa probabilitas matahari terbit", maka saya yakin itu akan lebih rumit. Namun demikian, tampaknya taruhan yang cukup aman bahwa probabilitas bahwa "sesuatu" terjadi adalah nilai maksimal (mungkin ) dan bahwa tidak ada ketidakpastian dalam hal itu1
jld
12

Tidak; yang distribusi Cantor hanya counterexample tersebut. Ini adalah variabel acak, tetapi tidak memiliki kepadatan. Namun memiliki fungsi distribusi. Karena itu, saya akan mengatakan bahwa teori probabilitas adalah studi tentang fungsi càdlàg , termasuk Cantor DF, yang memiliki batas kiri 0 dan batas kanan 1.

AdamO
sumber
Bagus, saya tidak pernah mendengar fungsi cadlag. Namun, ini masih menganggap ruang nyata dan metrik. Tidak semua teori probabilitas dilakukan pada ruang-ruang seperti itu.
HRSE
1
Misalnya, Anda dapat kembali ke Terrence Fine, Theories of Probability. Perhatikan juga bahwa fungsi cadlag (setidaknya sesuai dengan artikel wikipedia) memiliki bilangan real sebagai domain. "Yayasan Statistik" LJ Savage memberikan penjelasan tentang teori probabilitas (subyektif) tentang ruang yang belum tentu nyata.
HRSE
1
@ jwg Beberapa komentar lain dalam posting ini membahas probabilitas negatif, yang tampaknya bermanfaat dalam fisika kuantum meskipun pikiran sederhana saya tidak dapat memahami hal seperti itu.
AdamO
1
@ HRSE terima kasih untuk referensi. Saya tidak dapat menemukan keduanya secara online tetapi saya membaca beberapa makalah lain oleh penulis tersebut walaupun saya tidak menemukan contohnya. Jika kita mendefinisikan variabel acak sebagai X : Ω R n maka CDF didefinisikan dalam hal ukuran pushforward P X : = P X - 1 (bukan ukuran P pada ( Ω , F ) ) dan karena X bernilai nyata P X adalah ukuran pada ( R n ,XX:ΩRnPX:=PX1P(Ω,F)XPXyang berarti kita dapat memberi makan itu set seperti(-,a]jadiFmemiliki R n sebagai domainnya. Apakah saya kehilangan sesuatu?(Rn,Bn)(,a]FRn
jld
1
Saya pikir tertata dengan baik berarti setiap subset memiliki elemen paling sedikit sedangkan sarana yang benar-benar dipesan untuk semua dan y , tepat satu dari x < y , x > y , atau x = y berlaku, jadi N keduanya, R hanya benar-benar dipesan, dan C juga tidak. Kita benar-benar perlu melipatgandakan dan menambahkan probabilitas sehingga paling tidak kode domain P harus berupa bidang, tapi saya tidak berpikir itu memilikixyx<yx>yx=yNRCPuntuk benar-benar dipesan atau lengkap. Langkah-langkah yang dihargai kompleks adalah contoh yang pertama dan langkah-langkah yang dinilai hyperreal adalah contoh yang kedua. Semua ini adalah ruang metrik (atau bisa juga)
jld
6

Saya yakin Anda akan mendapatkan jawaban yang baik, tetapi akan memberi Anda perspektif yang sedikit berbeda di sini.

Anda mungkin pernah mendengar ahli matematika mengatakan bahwa fisika adalah matematika yang cukup banyak, atau hanya aplikasi matematika pada hukum alam yang paling mendasar. Beberapa matematikawan (banyak?) Sebenarnya percaya bahwa ini yang terjadi. Saya sudah sering mendengarnya di universitas. Dalam hal ini Anda mengajukan pertanyaan serupa, meskipun tidak seluas ini.

Fisikawan biasanya tidak repot-repot menanggapi pernyataan ini: terlalu jelas bagi mereka bahwa itu tidak benar. Namun, jika Anda mencoba merespons, menjadi jelas bahwa jawabannya tidak sepele, jika Anda ingin membuatnya meyakinkan.

Jawaban saya adalah bahwa fisika bukan hanya sekelompok model, persamaan, dan teori. Ini adalah bidang dengan serangkaian pendekatan dan alat serta heuristik dan cara berpikirnya sendiri. Itulah salah satu alasan mengapa meskipun Poincare mengembangkan teori relativitas sebelum Einstein, dia tidak menyadari semua implikasinya dan tidak mengejar semua orang. Einstein melakukannya, karena dia adalah seorang ahli fisika dan dia mendapatkan apa artinya dengan segera. Saya bukan penggemar pria itu, tetapi karyanya tentang gerakan Brown adalah contoh lain tentang bagaimana seorang fisikawan membangun model matematika. Makalah itu luar biasa, dan dipenuhi dengan intuisi dan jejak pemikiran yang tidak keliru secara fisika-mata.

Jadi, jawaban saya kepada Anda adalah bahwa bahkan jika itu adalah kasus yang berhubungan dengan jenis fungsi yang Anda jelaskan, itu masih belum menjadi studi fungsi tersebut. Juga bukan teori ukuran yang diterapkan pada beberapa subkelas tindakan. Teori probabilitas adalah bidang berbeda yang mempelajari probabilitas, itu terkait dengan dunia alami melalui peluruhan radioaktif dan mekanika kuantum dan gas, dll. Jika itu terjadi sehingga fungsi tertentu tampaknya cocok untuk memodelkan probabilitas, maka kita akan menggunakannya dan mempelajari properti juga, tapi sementara melakukan begitu kita akan mengawasi hadiah utama - probabilitas.

Aksakal
sumber
1
1 untuk membawa kenyataan ke pertarungan matematika dan benar - benar menjawab pertanyaan dengan satu-satunya jawaban yang masuk akal, yaitu bahwa reduksionisme seperti itu tidak tepat
sasaran
@ Chaconne Saya belajar kata yang berguna hari ini , reduksionisme , akan memasukkannya ke dalam kosakata saya :)
Aksakal
+1, inilah yang ingin saya katakan dengan jawaban saya, tetapi saya mengatakannya kurang efektif daripada yang Anda pikirkan.
Nathaniel
4

Well, partially true, it lacks a second condition. Negative probabilities do not make sense. Hence, these functions have to satisfy two conditions:

  • Continuous distributions:

    Df(x)dx=1andf(x)>0xD
  • Discrete distributions:

    xDP(x)=1and0<P(x)1xD

Where D is the domain where probability distribution is defined.

Carlos Campos
sumber
Thanks a lot Carlos for the answer, actually I want to know what if the non negative condition was added?
dontloo
1
I would say that reducing probability field to study of probability density/mass functions (fulfilling the upper properties) is too bare. Moreover, as it has been stated by @AdamO, there are some cases of random variables which do not have probability density function, even though they have a well defined cdf.
Carlos Campos
@CarlosCampos: Regarding negative probabilities: They actually do make sense in some contexts, e.g. half coins. See en.wikipedia.org/wiki/Negative_probability for a bit more information.
Inkane
3

Saya akan mengatakan tidak, itu bukan teori probabilitas secara fundamental, tetapi saya akan mengatakannya untuk alasan yang berbeda dari jawaban lainnya.

Pada dasarnya, saya akan mengatakan, teori probabilitas adalah studi tentang dua hal:

  1. Proses stokastik, dan

  2. Inferensi Bayesian.

Proses stokastik meliputi hal-hal seperti dadu bergulir, menggambar bola dari guci, dll, serta model yang lebih canggih yang ditemukan dalam fisika dan matematika. Bayesian inference beralasan di bawah ketidakpastian, menggunakan probabilitas untuk mewakili nilai kuantitas yang tidak diketahui.

Kedua hal ini lebih dekat hubungannya daripada yang mungkin muncul pada awalnya. Salah satu alasan kita dapat mempelajarinya di bawah payung yang sama adalah bahwa aspek-aspek penting dari keduanya dapat direpresentasikan sebagai fungsi non-negatif yang menjumlahkan / memadukannya menjadi satu. Tetapi probabilitas bukan hanya studi tentang fungsi-fungsi itu - interpretasi mereka dalam hal proses acak dan kesimpulan juga merupakan bagian penting dari itu.

Sebagai contoh, teori probabilitas mencakup konsep-konsep seperti probabilitas bersyarat dan variabel acak, dan jumlah seperti entropi, informasi timbal balik, dan ekspektasi dan varian dari variabel acak. Sementara seseorang dapat mendefinisikan hal-hal ini murni dalam hal fungsi non-negatif yang dinormalisasi, motivasi untuk ini akan tampak sangat aneh tanpa interpretasi dalam hal proses dan kesimpulan acak.

Selain itu, seseorang kadang-kadang menemukan konsep dalam teori probabilitas, terutama pada sisi inferensi, yang tidak dapat dinyatakan dalam fungsi non-negatif yang dinormalisasi menjadi satu. Yang disebut "prior priors" muncul di sini, dan AdamO memberikan distribusi Cantor sebagai contoh lain.

Tentu saja ada beberapa bidang teori probabilitas di mana minat utama adalah pada sifat-sifat matematika dari fungsi non-negatif yang dinormalisasi, yang mana dua domain aplikasi yang saya sebutkan tidak penting. Ketika hal ini terjadi, kita sering menyebutnya mengukur teori daripada teori probabilitas. Tetapi teori probabilitas juga - memang, saya akan katakan sebagian besar - bidang terapan, dan aplikasi distribusi probabilitas dalam dirinya sendiri merupakan komponen non-sepele dari bidang tersebut.

Nathaniel
sumber
2
You made the domain of topics in probability theory pretty narrow...
Tim
@Tim not on purpose - I divided it into two areas, but intended each of them to be interpreted very broadly. Can you give me some other topics that don't fit under either heading?
Nathaniel