Jika adalah IID, maka hitung , di mana

Pertanyaan

Jika adalah IID, maka hitung , di mana .$X_1,\cdots,X_n \sim \mathcal{N}(\mu, 1)$$\mathbb{E}\left( X_1 \mid T \right)$$T = \sum_i X_i$

---

Coba : Silakan periksa apakah di bawah ini benar.

Katakanlah, kita mengambil penjumlahan dari harapan bersyarat itu sehingga, Ini berarti bahwa setiap sejak X_1, \ ldots, X_n adalah IID.

$$\begin{align} \sum_i \mathbb{E}\left( X_i \mid T \right) = \mathbb{E}\left( \sum_i X_i \mid T \right) = T . \end{align}$$ $\mathbb{E}\left( X_i \mid T \right) = \frac{T}{n}$$X_1,\ldots,X_n$

Dengan demikian, $\mathbb{E}\left( X_1 \mid T \right) = \frac{T}{n}$ . Apakah itu benar?

Idenya benar - tetapi ada pertanyaan untuk mengungkapkannya sedikit lebih keras. Karena itu saya akan fokus pada notasi dan pengungkapan esensi ide.

---

Mari kita mulai dengan gagasan pertukaran:

Variabel acak dapat ditukar ketika distribusi variabel yang diijinkan semuanya sama untuk setiap permutasi yang mungkin .$\mathbf X=(X_1, X_2, \ldots, X_n)$X σ = ( X σ ( 1 ) , X σ ( 2 ) , ... , X σ ( n ) ) σ$\mathbf{X}^\sigma=(X_{\sigma(1)}, X_{\sigma(2)}, \ldots, X_{\sigma(n)})$$\sigma$

Jelas iid menyiratkan dapat ditukar.

Sebagai soal notasi, tulislah untuk komponen dari dan biarkan$X^\sigma_i = X_{\sigma(i)}$$i^\text{th}$$\mathbf{X}^\sigma$

$$T^\sigma = \sum_{i=1}^n X^\sigma_i = \sum_{i=1}^n X_i = T.$$

Biarkan menjadi indeks apa pun dan biarkan menjadi permutasi dari indeks yang mengirim ke (Seperti ada karena kita selalu bisa hanya menukar dan ) Dapat dipertukarkan dari menyiratkan$j$$\sigma$$1$$j = \sigma(1).$$\sigma$$1$$j.$$\mathbf X$

$$E[X_1\mid T] = E[X^\sigma_1\mid T^\sigma] = E[X_j\mid T],$$

karena (dalam ketidaksetaraan pertama) kita hanya mengganti $\mathbf X$ dengan vektor $\mathbf X^\sigma.$ terdistribusi secara identik . Inilah inti masalahnya.

Karena itu

$$T = E[T \mid T] = E[\sum_{i=1}^n X_i\mid T] = \sum_{i=1}^n E[X_i\mid T] = \sum_{i=1}^n E[X_1\mid T] = n E[X_1 \mid T],$$

dari mana

$$E[X_1\mid T] = \frac{1}{n} T.$$

$\newcommand{\one}{\mathbf 1}$Ini bukan bukti (dan +1 ke jawaban @ whuber), tetapi ini adalah cara geometris untuk membangun beberapa intuisi mengapa $E(X_1 | T) = T/n$ adalah jawaban yang masuk akal.

Mari $X = (X_1,\dots,X_n)^T$ dan $\one = (1,\dots,1)^T$ sehingga $T = \one^TX$ . Kami kemudian mengkondisikan pada kejadian bahwa $\one^TX = t$ untuk beberapa $t \in \mathbb R$ , jadi ini seperti menggambar multivariat Gaussians yang didukung pada $\mathbb R^n$ tetapi hanya melihat yang berakhir di ruang affine $\{x \in \mathbb R^n : \one^Tx = t\}$ . Kemudian kita ingin mengetahui rata-ratakoordinat$x_1$ dari titik-titik yang mendarat di ruang affine ini (apalagi ukuran subset nol ukuran).

Kita tahu

$$X \sim \mathcal N(\mu \one, I)$$ jadi kita punya Gaussian berbentuk bola dengan vektor rata-rata konstan, dan vektor rata-rata $\mu\one$ berada di garis yang sama dengan vektor normal hyperplane $x^T\one = 0$ .

Ini memberi kita situasi seperti gambar di bawah ini:

Ide kunci: pertama bayangkan kepadatan selama affine subruang $H_t := \{x : x^T\one = t\}$ . Kerapatan $X$ simetris di sekitar $x_1 = x_2$ karena $E(X) \in \text{span } \one$ . Kepadatan juga akan simetris pada $H_t$ sebagai $H_t$ juga simetris di atas garis yang sama, dan titik sekitar yang simetris adalah perpotongan garis $x_1 + x_2 = t$ dan$x_1 = x_2$ . Ini terjadi untuk$x = (t/2, t/2)$ .

Untuk gambar $E(X_1 | T)$ kita bisa membayangkan sampel berulang, dan kemudian setiap kali kita mendapatkan titik di $H_t$ kita mengambil hanya $x_1$ berkoordinasi dan save itu. Dari simetri kepadatan pada $H_t$ distribusi $x_1$ koordinat juga akan simetris, dan itu akan memiliki titik pusat yang sama dari $t/2$ . Mean dari distribusi simetris adalah titik pusat simetri jadi ini berarti $E(X_1 | T) = T/2$, dan bahwa $E(X_1| T) = E(X_2 | T)$ karena $X_1$ dan $X_2$ dapat dikeluarkan tanpa mempengaruhi apa pun.

Dalam dimensi yang lebih tinggi, ini sulit (atau tidak mungkin) untuk divisualisasikan secara tepat, tetapi ide yang sama berlaku: kita punya Gaussian berbentuk bola dengan rata-rata dalam rentang $\one$ , dan kita sedang melihat subruang afin yang tegak lurus terhadap itu. Titik keseimbangan distribusi pada subruang masih akan menjadi persimpangan $\text{span }\one$ dan $\{x : x^T\one = t\}$ yang berada di $x=(t/n, \dots, t/n)$ , dan densitasnya masih simetris. jadi titik keseimbangan ini lagi berarti.

Sekali lagi, itu bukan bukti, tapi saya pikir itu memberikan ide yang layak mengapa Anda mengharapkan perilaku ini di tempat pertama.

---

Di luar ini, seperti yang dicatat oleh @StubbornAtom, ini sebenarnya tidak mengharuskan $X$ untuk menjadi Gaussian. Dalam 2-D, perhatikan bahwa jika $X$ dapat ditukar maka $f(x_1, x_2) = f(x_2, x_1)$ (lebih umum, $f(x) = f(x^\sigma)$ ) sehingga $f$ harus simetris lebih baris $x_1 = x_2$ . Kami juga memiliki $E(X) \in \text{span }\one$ sehingga semua yang saya katakan mengenai "ide kunci" dalam gambar pertama masih tepat. Berikut adalah contoh di mana$X_i$ iid dari model campuran Gaussian. Semua garis memiliki arti yang sama seperti sebelumnya.

Saya pikir jawaban Anda benar, meskipun saya tidak sepenuhnya yakin tentang garis pembunuh dalam bukti Anda, tentang hal itu benar "karena mereka iid". Cara yang lebih bertele-tele untuk solusi yang sama adalah sebagai berikut:

Pikirkan tentang arti sebenarnya dari $\mathbb{E}(x_{i}|T)$ . Anda tahu bahwa Anda memiliki sampel dengan pembacaan N dan rata-rata mereka adalah T. Apa artinya ini sebenarnya, adalah bahwa sekarang, distribusi dasar yang mereka sampel dari tidak lagi penting (Anda akan melihat Anda pada titik yang tidak menggunakan fakta bahwa itu adalah sampel dari Gaussian di bukti Anda).

$\mathbb{E}(x_{i}|T)$ adalah jawaban untuk pertanyaan, jika Anda mengambil sampel dari sampel Anda, dengan penggantian berkali-kali, berapa rata-rata yang Anda peroleh. Ini adalah jumlah atas semua nilai yang mungkin, dikalikan dengan probabilitas mereka, atau$\sum_{i=1}^{N}\frac{1}{N}x_{i}$yang sama dengan T.