Bagaimana rumus untuk menghasilkan variabel acak berkorelasi bekerja?

Jika kita memiliki 2 variabel acak normal, tidak berkorelasi maka kita dapat membuat 2 variabel acak berkorelasi dengan rumus$X_1, X_2$

$Y=\rho X_1+ \sqrt{1-\rho^2} X_2$

dan kemudian akan memiliki korelasi dengan .ρ X $Y$$\rho$$X_1$

Adakah yang bisa menjelaskan dari mana formula ini berasal?

Misalkan Anda ingin menemukan kombinasi linier dan X 2 sedemikian rupa$X_1$$X_2$

$$\text{corr}(\alpha X_1 + \beta X_2, X_1) = \rho$$

Perhatikan bahwa jika Anda mengalikan dan β dengan konstanta yang sama (tidak nol), korelasinya tidak akan berubah. Jadi, kita akan menambahkan kondisi untuk mempertahankan varians: var ( α X 1 + β X 2 ) = var ( X 1$\alpha$$\beta$$\text{var}(\alpha X_1 + \beta X_2) = \text{var}(X_1)$

Ini setara dengan

$$\rho = \frac{\text{cov}(\alpha X_1 + \beta X_2, X_1)}{\sqrt{\text{var}(\alpha X_1 + \beta X_2) \text{var}(X_1)}} = \frac{\alpha \overbrace{\text{cov}(X_1, X_1)}^{=\text{var}(X_1)} + \overbrace{\beta \text{cov}(X_2, X_1)}^{=0}}{\sqrt{\text{var}(\alpha X_1 + \beta X_2) \text{var}(X_1)}} = \alpha \sqrt{\frac{\text{var}(X_1)}{\alpha^2 \text{var}(X_1) + \beta^2 \text{var}(X_2)}}$$

Dengan asumsi kedua variabel acak memiliki varian yang sama (ini adalah asumsi penting!) ( ), kita dapatkan$\text{var}(X_1) = \text{var}(X_2)$

$$\rho \sqrt{\alpha^2 + \beta^2} = \alpha$$

Ada banyak solusi untuk persamaan ini, jadi sekarang saatnya untuk mengingat kondisi pengawetan ragam:

$$\text{var}(X_1) = \text{var}(\alpha X_1 + \beta X_2) = \alpha^2 \text{var}(X_1) + \beta^2 \text{var}(X_2) \Rightarrow \alpha^2 + \beta^2 = 1$$

Dan ini membawa kita ke

$$\alpha = \rho \\ \beta = \pm \sqrt{1-\rho^2}$$

UPD . Mengenai pertanyaan kedua: ya, ini dikenal sebagai pemutihan .

Persamaannya adalah bentuk bivariat sederhana dari dekomposisi Cholesky . Persamaan yang disederhanakan ini kadang-kadang disebut algoritma Kaiser-Dickman (Kaiser & Dickman, 1962).

$X_1$$X_2$$X_1$$X_2$$Y$$X_2$

Referensi:

Kaiser, HF, & Dickman, K. (1962). Matriks sampel dan skor populasi dan matriks korelasi sampel dari matriks korelasi populasi arbitrer. Psychometrika, 27 (2), 179-182.

Correlation coefficient is the $\cos$ between two series if they are treated as vectors (with $n^{th}$ data point being $n^{th}$ dimension of a vector). The above formula simply creates a decomposition of a vector into its $\cos\theta$, $sin\theta$ components (with respect to $X_1,X_2$).
if $\rho = cos \theta$ , then $\sqrt{1-{\rho}^2}=\pm sin \theta$.

Because if $X_1, X_2$ are uncorrelated, the angle between them is a right angle (ie, they can be considered as orthogonal, albeit non-normalized, basis vectors ).