Apa yang dimaksud dengan variabel acak iid?

Bagaimana Anda akan menjelaskan iid (independen dan didistribusikan secara identik) kepada orang-orang non-teknis?

Ini berarti "Independen dan terdistribusi secara identik".

Contoh yang baik adalah suksesi melempar koin yang adil: Koin tidak memiliki memori, sehingga semua lemparan "independen".

Dan setiap lemparan adalah 50:50 (kepala: ekor), jadi koin itu dan tetap adil - distribusi dari mana setiap lemparan ditarik, sehingga untuk berbicara, adalah dan tetap sama: "didistribusikan secara identik".

Titik awal yang baik adalah halaman Wikipedia .

::SUNTING::

Ikuti tautan ini untuk mengeksplorasi konsep lebih lanjut.

Penjelasan nonteknis:

Kemandirian adalah gagasan yang sangat umum. Dua peristiwa dikatakan independen jika kejadian satu tidak memberi Anda informasi, apakah peristiwa lain terjadi atau tidak. Secara khusus, probabilitas bahwa kita menganggap peristiwa kedua tidak dipengaruhi oleh pengetahuan bahwa peristiwa pertama telah terjadi.

• Contoh acara independen, mungkin didistribusikan secara identik.
  Pertimbangkan untuk melemparkan dua koin yang berbeda satu demi satu. Dengan anggapan bahwa ibu jari Anda tidak terlalu lelah ketika membalik koin pertama, masuk akal untuk mengasumsikan bahwa mengetahui bahwa lemparan koin pertama menghasilkan Kepala sama sekali tidak mempengaruhi apa yang Anda pikirkan kemungkinan Kepala pada lemparan kedua adalah. Dua peristiwa dikatakan sebagai peristiwa independen .

  $$\{\text{first coin toss resulted in Heads}\}~~\text{and}~~\{\text{second coin toss resulted in Heads}\}$$

  • Jika kita tahu, atau bersikeras, bahwa kedua koin memiliki probabilitas yang berbeda untuk menghasilkan Kepala, maka peristiwa tersebut tidak terdistribusi secara identik.

  • Jika kita tahu atau berasumsi bahwa kedua koin tersebut memiliki probabilitas sama untuk muncul Kepala, maka peristiwa di atas juga terdistribusi secara identik, artinya keduanya memiliki probabilitas sama untuk terjadi. Tetapi perhatikan bahwa kecuali , probabilitas Head tidak sama dengan probabilitas Tails. Seperti dicatat dalam salah satu Komentar, "distribusi identik" tidak sama dengan "kemungkinan sama."$p$$p$$p = \frac 12$

• Contoh peristiwa non-independen yang terdistribusi secara identik.
  Pertimbangkan sebuah guci dengan dua bola di dalamnya, satu hitam dan satu putih. Kami meraih ke dalamnya dan mengeluarkan dua bola satu demi satu, memilih yang pertama secara acak (dan ini tentu saja menentukan warna bola berikutnya). Dengan demikian, dua hasil yang sama-sama kemungkinan dari percobaan adalah (Putih, Hitam) dan (Hitam, Putih), dan kami melihat bahwa bola pertama sama-sama cenderung Hitam atau Putih dan begitu juga bola kedua juga sama-sama cenderung menjadi Hitam atau Putih. Dengan kata lain, peristiwa tentu didistribusikan secara identik, tetapi pasti tidak

  $$\{\text{first ball drawn is Black}\}~~\text{and}~~\{\text{second ball drawn is Black}\}$$ acara independen. Memang, jika kita tahu bahwa peristiwa pertama telah terjadi, kita tahu pasti bahwa peristiwa kedua tidak dapat terjadi. Jadi, sementara evaluasi awal kami tentang probabilitas peristiwa kedua adalah , setelah kami tahu bahwa peristiwa pertama telah terjadi, kami sebaiknya merevisi penilaian kami tentang kemungkinan penarikan kedua akan menjadi hitam dari hingga .$\frac 12$$\frac 12$$0$

Variabel acak adalah variabel yang berisi probabilitas semua peristiwa yang mungkin terjadi dalam skenario. Misalnya, mari kita buat variabel acak yang mewakili jumlah kepala dalam 100 lemparan koin. Variabel acak akan berisi kemungkinan mendapatkan 1 kepala, 2 kepala, 3 kepala ..... sampai 100 kepala. Mari kita sebut variabel acak X ini .

Jika Anda memiliki dua variabel acak maka mereka adalah IID (independen yang didistribusikan secara identik) jika:

1. Jika mereka independen . Sebagaimana dijelaskan di atas, kemandirian berarti terjadinya satu peristiwa tidak memberikan informasi apa pun tentang peristiwa lainnya. Misalnya, jika saya mendapatkan 100 kepala setelah 100 membalik, probabilitas mendapatkan kepala atau ekor di flip berikutnya adalah sama.
2. Jika setiap variabel acak memiliki distribusi yang sama . Sebagai contoh, mari kita variabel acak dari atas - X . Katakanlah X mewakili Obama yang akan melempar koin 100 kali. Sekarang katakanlah Y mewakili seorang Imam yang akan melempar koin 100 kali. Jika Obama dan Imam membalik koin dengan probabilitas yang sama untuk mendarat, maka X dan Y dianggap dibagikan secara identik. Jika kita sampel berulang kali dari Priest atau Obama, maka sampel tersebut dianggap terdistribusi secara identik.

Catatan: Kemandirian juga berarti Anda dapat melipatgandakan probabilitas. Katakanlah probabilitas kepala adalah p, maka probabilitas untuk mendapatkan dua kepala berturut-turut adalah p * p, atau p ^ 2.

Dua variabel dependen tersebut dapat memiliki distribusi yang sama dapat ditunjukkan dengan contoh ini:

Asumsikan dua percobaan berturut-turut yang melibatkan masing-masing 100 lemparan koin bias, di mana jumlah Kepala dimodelkan sebagai variabel acak X1 untuk percobaan pertama dan X2 untuk percobaan kedua. X1 dan X2 adalah variabel acak binomial dengan parameter 100 dan p, di mana p bias koin.
Dengan demikian, mereka terdistribusi secara identik. Namun mereka tidak independen, karena nilai yang pertama cukup informatif tentang nilai yang terakhir. Itu adalah jika hasil percobaan pertama adalah 100 Kepala, ini memberi tahu kita banyak tentang bias koin dan oleh karena itu memberi kita banyak informasi baru mengenai distribusi X2.
Masih X2 dan X1 didistribusikan secara identik karena mereka berasal dari koin yang sama.

Yang juga benar adalah bahwa jika 2 variabel acak tergantung, maka posterior X2 yang diberikan X1 tidak akan pernah sama dengan yang sebelumnya dari X2 dan sebaliknya. Sementara ketika X1 dan X2 independen, posisi mereka sama dengan prior mereka. Oleh karena itu, ketika dua variabel tergantung, pengamatan salah satunya menghasilkan estimasi yang direvisi mengenai distribusi variabel kedua. Masih mungkin keduanya dari distribusi yang sama, hanya saja kita belajar lebih dalam tentang sifat distribusi ini. Jadi kembali ke percobaan melempar koin, awalnya tanpa adanya informasi kita dapat berasumsi bahwa X1 dan X2 mengikuti distribusi Binomial dengan parameter 100 dan 0,5. Tetapi setelah mengamati 100 Head berturut-turut, kami pasti akan merevisi estimasi kami tentang parameter p untuk membuatnya mendekati 1.

Kumpulan beberapa undian acak dari distribusi yang sama. Contohnya sedang mengeluarkan kelereng dari tas 10.000 kali dan menghitung berapa kali Anda mengeluarkan kelereng merah.

Jika variabel acak berasal dari populasi yang memiliki (katakanlah) distribusi normal, itu adalah pdf (probabilitas fungsi kepadatan) adalah distribusi normal, dengan rata-rata populasi dan varians populasi ( angka-angka adalah hipotetis dan hanya untuk pengertian Anda dan untuk menyederhanakan perbandingan) kita dapat menggambarkannya sebagai berikut: .$X$$\mu=3$$\sigma^2=4$$X \sim N(3 , 4)$

Sekarang jika kita memiliki variabel acak yang juga terdistribusi normal dan maka dan terdistribusi secara identik.$Y$$Y \sim N(3, 4)$$X$$Y$

Namun demikian, didistribusikan secara identik tidak selalu menyiratkan independensi.