Berapa distribusi jumlah varian gaussian non iid?

Jika didistribusikan , didistribusikan dan , saya tahu bahwa didistribusikan jika X dan Y independen. $X$ $N(\mu_X, \sigma^2_X)$ $Y$ $N(\mu_Y, \sigma^2_Y)$ $Z = X + Y$ $Z$ $N(\mu_X + \mu_Y, \sigma^2_X + \sigma^2_Y)$

Tetapi apa yang akan terjadi jika X dan Y tidak independen, yaitu $(X, Y) \approx N\big( (\begin{smallmatrix} \mu_X\\\mu_Y \end{smallmatrix}) , (\begin{smallmatrix} \sigma^2_X && \sigma_{X,Y}\\ \sigma_{X,Y} && \sigma^2_Y \end{smallmatrix}) \big)$

Apakah ini mempengaruhi bagaimana jumlah didistribusikan? $Z$

normal-distribution mathematical-statistics JCWong
sumber

Hanya ingin menunjukkan bahwa ada segala macam distribusi bersama untuk

(X, Y)

$(X,Y)$ lainnya dari normal bivariat yang masih memiliki

X

$X$ dan

Y

$Y$ sedikit normal. Dan perbedaan ini akan membuat perbedaan besar pada jawabannya.

@ G.JayKerns Saya setuju bahwa jika dan adalah normal tetapi tidak harus bersama-sama normal, maka dapat memiliki distribusi selain normal. Tetapi pernyataan OP bahwa " didistribusikan jika dan independen." Benar sekali. Jika dan secara garis besar normal (seperti yang dikatakan bagian pertama kalimat) dan independen (seperti asumsi pada bagian kedua kalimat), maka keduanya juga secara normal normal. Dalam OP pertanyaan , normalitas bersama diasumsikan eksplisit dan setiap kombinasi linear dari

X

$X$

Y

$Y$

X + Y

$X+Y$

Z

$Z$

N (μ_{x} + μ_{y}, σ_{x}^{2} + σ_{y}^{2})

$N(\mu_x + \mu_y, \sigma^2_x + \sigma^2_y)$

X

$X$

Y

$Y$

X

$X$

Y

$Y$

X

$X$ dan adalah normal.

Y

$Y$

Dilip Sarwate

@Dilip, izinkan saya menjelaskan bahwa tidak ada yang salah dengan pertanyaan dan tidak ada yang salah dengan jawaban Anda (+1) (atau probabilitas, salah (+1)). Saya hanya menunjukkan bahwa jika dan tergantung maka tidak perlu bahwa mereka secara normal normal, dan tidak jelas bahwa OP telah mempertimbangkan kemungkinan itu. Selain itu, saya takut (walaupun saya tidak menghabiskan banyak waktu untuk berpikir) bahwa tanpa beberapa asumsi lain (seperti normalitas bersama) pertanyaannya mungkin bahkan tidak dapat dijawab.

X

$X$

Y

$Y$

Seperti yang dikatakan @ G.JayKerns, tentu saja kita bisa mendapatkan segala macam perilaku menarik jika kita mempertimbangkan secara marginal, tetapi tidak secara bersama-sama, mendistribusikan normals. Berikut ini adalah contoh sederhana: Misalkan menjadi standar normal dan dengan probabilitas 1/2 masing-masing, secara independen dari . Misalkan . Maka juga standar normal, tetapi persis sama dengan nol dengan probabilitas 1/2 dan sama dengan dengan probabilitas 1/2.

X

$X$

ε = \pm 1

$\varepsilon = \pm 1$

X

$X$

Y = ε X

$Y = \varepsilon X$

Y

$Y$

Z = X + Y

$Z = X+Y$

2 X

$2X$

kardinal

Kita bisa mendapatkan berbagai macam perilaku yang berbeda dengan mempertimbangkan kopula bivariat yang dikaitkan dengan melalui teorema Sklar . Jika kita menggunakan Gaussian copula, maka kita mendapatkan secara bersama-sama normal, sehingga terdistribusi secara normal. Jika kopula bukan Gaussian copula, maka dan

masing-masing masih terdistribusi secara marginal sebagai normals, tetapi tidak secara bersama-sama normal sehingga jumlah tidak akan terdistribusi secara normal, secara umum.

(X, Y)

$(X,Y)$

(X, Y)

$(X,Y)$

Z = X + Y

$Z = X + Y$

X

$X$

Y

$Y$

kardinal

Jawaban:

Lihat komentar saya pada jawaban probabilityislogic untuk pertanyaan ini . Di sini, dimanaadalahkovariansdaridan. Tidak ada yang menulis entri off-diagonal dalam matriks kovarians sebagai seperti yang Anda lakukan. Entri off-diagonal adalah kovarian yang bisa negatif.

\begin{aligned} X + Y & \sim N (μ_{X} + μ_{Y}, σ_{X}^{2} + σ_{Y}^{2} + 2 σ_{X, Y}) \\ a X + b Y & \sim N (a μ_{X} + b μ_{Y}, a^{2} σ_{X}^{2} + b^{2} σ_{Y}^{2} + 2 a b σ_{X, Y}) \end{aligned}

$\begin{align*} X + Y &\sim N(\mu_X + \mu_Y,\; \sigma_X^2 + \sigma_Y^2 + 2\sigma_{X,Y})\\ aX + bY &\sim N(a\mu_X + b\mu_Y,\; a^2\sigma_X^2 + b^2\sigma_Y^2 + 2ab\sigma_{X,Y}) \end{align*}$

σ_{X, Y}

$\sigma_{X,Y}$

X

$X$

Y

$Y$

σ_{x y}^{2}

$\sigma_{xy}^2$

Dilip Sarwate
sumber

@Kodiologis Terima kasih! Saya terkejut bahwa kesalahan ketik tetap diperhatikan selama lebih dari 4 tahun.

Dilip Sarwate

@ dilip jawaban sudah cukup, tetapi saya hanya berpikir saya akan menambahkan beberapa detail tentang bagaimana Anda sampai pada hasilnya. Kita dapat menggunakan metode fungsi karakteristik. Untuk setiap berdimensi normal multivariate distribusi dimana dan $d$ $X\sim N_{d}(\mu,\Sigma)$ $\mu=(\mu_1,\dots,\mu_d)^T$ , fungsi karakteristik diberikan oleh: $\Sigma_{jk}=cov(X_j,X_k)\;\;j,k=1,\dots,d$

φ_{X} (t) = E [\exp (i t^{T} X)] = \exp (i t^{T} μ - \frac{1}{2} t^{T} Σ t)

$\varphi_{X}({\bf{t}})=E\left[\exp(i{\bf{t}}^TX)\right]=\exp\left(i{\bf{t}}^T\mu-\frac{1}{2}{\bf{t}}^T\Sigma{\bf{t}}\right)$

= \exp (i \sum_{j = 1}^{d} t_{j} μ_{j} - \frac{1}{2} \sum_{j = 1}^{d} \sum_{k = 1}^{d} t_{j} t_{k} Σ_{j k})

$=\exp\left(i\sum_{j=1}^{d}t_j\mu_j-\frac{1}{2}\sum_{j=1}^{d}\sum_{k=1}^{d}t_jt_k\Sigma_{jk}\right)$

Untuk variabel normal satu dimensi kita dapatkan: $Y\sim N_1(\mu_Y,\sigma_Y^2)$

φ_{Y} (t) = \exp (i t μ_{Y} - \frac{1}{2} t^{2} σ_{Y}^{2})

$\varphi_Y(t)=\exp\left(it\mu_Y-\frac{1}{2}t^2\sigma_Y^2\right)$

Sekarang, misalkan kita mendefinisikan sebuah variabel acak yang baru . Untuk kasus Anda, kami telah dan . Fungsi karakteristik adalah pada dasarnya sama dengan yang untuk . $Z={\bf{a}}^TX=\sum_{j=1}^{d}a_jX_j$ $d=2$ $a_1=a_2=1$ $Z$ $X$

φ_{Z} (t) = E [\exp (i t Z)] = E [\exp (i t a^{T} X)] = φ_{X} (t a)

$\varphi_{Z}(t)=E\left[\exp(itZ)\right]=E\left[\exp(it{\bf{a}}^TX)\right]=\varphi_{X}(t{\bf{a}})$

= \exp (i t \sum_{j = 1}^{d} a_{j} μ_{j} - \frac{1}{2} t^{2} \sum_{j = 1}^{d} \sum_{k = 1}^{d} a_{j} a_{k} Σ_{j k})

$=\exp\left(it\sum_{j=1}^{d}a_j\mu_j-\frac{1}{2}t^2\sum_{j=1}^{d}\sum_{k=1}^{d}a_ja_k\Sigma_{jk}\right)$

Jika kita membandingkan fungsi karakteristik ini dengan fungsi karakteristik kita melihat bahwa keduanya sama, tetapi dengan digantikan oleh dan dengan digantikan oleh $\varphi_Y(t)$ $\mu_Y$ $\mu_Z=\sum_{j=1}^{d}a_j\mu_j$ $\sigma_Y^2$ $\sigma^2_Z=\sum_{j=1}^{d}\sum_{k=1}^{d}a_ja_k\Sigma_{jk}$ . Oleh karena itu karena fungsi karakteristik setara dengan fungsi karakteristik , distribusi juga harus sama. Karenanya terdistribusi secara normal. Kita dapat menyederhanakan ekspresi untuk varian dengan mencatat bahwa dan kita mendapatkan: $Z$ $Y$ $Z$ $\Sigma_{jk}=\Sigma_{kj}$

σ_{Z}^{2} = \sum_{j = 1}^{d} a_{j}^{2} Σ_{j j} + 2 \sum_{j = 2}^{d} \sum_{k = 1}^{j - 1} a_{j} a_{k} Σ_{j k}

$\sigma^2_Z=\sum_{j=1}^{d}a_j^2\Sigma_{jj}+2\sum_{j=2}^{d}\sum_{k=1}^{j-1}a_ja_k\Sigma_{jk}$

$\Sigma_{jj}=var(X_j)$ $\Sigma_{jk}=cov(X_j,X_k)$ $d=2$ $a_1=a_2=1$

σ_{Z}^{2} = \sum_{j = 1}^{2} (1)^{2} Σ_{j j} + 2 \sum_{j = 2}^{2} \sum_{k = 1}^{j - 1} (1) (1) Σ_{j k} = Σ_{11} + Σ_{22} + 2 Σ_{21}

$\sigma^2_Z=\sum_{j=1}^{2}(1)^2\Sigma_{jj}+2\sum_{j=2}^{2}\sum_{k=1}^{j-1}(1)(1)\Sigma_{jk}=\Sigma_{11}+\Sigma_{22}+2\Sigma_{21}$

probabilityislogic
sumber

+1 Terima kasih telah meluangkan waktu untuk menuliskan detailnya. Bisakah pertanyaan ini dijadikan bagian dari FAQ?

Dilip Sarwate