Bagaimana cara menghasilkan angka acak berkorelasi (diberikan berarti, varian dan tingkat korelasi)?

Maaf jika ini agak terlalu mendasar, tapi kurasa aku hanya ingin mengonfirmasi pengertian di sini. Saya merasa saya harus melakukan ini dalam dua langkah, dan saya mulai mencoba untuk mendapatkan matriks korelasi, tetapi itu baru mulai terlihat benar-benar terlibat. Saya mencari penjelasan singkat (idealnya dengan petunjuk menuju solusi pseudocode) tentang cara yang baik dan cepat untuk menghasilkan bilangan acak berkorelasi.

Diberi dua variabel pseudorandom, tinggi dan berat dengan sarana dan varian yang diketahui, dan korelasi yang diberikan, saya pikir pada dasarnya saya mencoba memahami seperti apa langkah kedua ini:

   height = gaussianPdf(height.mean, height.variance)
   weight = gaussianPdf(correlated_mean(height.mean, correlation_coefficient), 
                        correlated_variance(height.variance, 
                        correlation_coefficient))

• Bagaimana cara menghitung mean dan varians yang berkorelasi? Tetapi saya ingin mengkonfirmasi bahwa itu benar-benar masalah yang relevan di sini.
• Apakah saya perlu menggunakan manipulasi matriks? Atau apakah saya memiliki sesuatu yang sangat salah dalam pendekatan dasar saya untuk masalah ini?

Untuk menjawab pertanyaan Anda tentang "cara cepat yang baik dan idealnya menghasilkan angka acak berkorelasi": Diberikan matriks varians-kovarian yang diinginkan, yang secara definitif positif pasti, dekomposisi Cholesky adalah: = ; menjadi matriks segitiga lebih rendah.C L L T$C$$C$$LL^T$$L$

Jika Anda sekarang menggunakan matriks untuk memproyeksikan vektor variabel acak tidak berkorelasi , proyeksi yang dihasilkan akan menjadi variabel acak berkorelasi.X Y = L $L$$X$$Y = LX$

Anda dapat menemukan penjelasan singkat mengapa ini terjadi di sini .

+1 ke @ user11852, dan @ jem77bfp, ini adalah jawaban yang bagus. Biarkan saya mendekati ini dari sudut pandang yang berbeda, bukan karena saya pikir itu selalu lebih baik dalam praktek , tetapi karena saya pikir ini instruktif. Berikut adalah beberapa fakta relevan yang sudah kita ketahui:

1. X Y N ( 0 , 1 $r$ adalah kemiringan garis regresi ketika kedua dan yang standar , yaitu, , $X$$Y$$\mathcal N(0,1)$

2. Y $r^2$ adalah proporsi varians dalam disebabkan varians dalam , $Y$$X$

   
   
   (juga, dari aturan untuk varian ):

3. varians dari variabel acak dikalikan dengan konstanta adalah konstanta kuadrat kali varians aslinya:
   $$\text{Var}[aX]=a^2\text{Var}[X]$$
4. varians add , yaitu varians dari penjumlahan dari dua variabel acak (dengan asumsi mereka independen) adalah jumlah dari dua varians:
   $$\text{Var}[X+\varepsilon]=\text{Var}[X]+\text{Var}[\varepsilon]$$

Sekarang, kita dapat menggabungkan keempat fakta ini untuk membuat dua variabel normal standar yang populasinya akan memiliki korelasi, (lebih tepat, ), meskipun sampel yang Anda hasilkan akan memiliki korelasi sampel yang bervariasi. Idenya adalah untuk membuat variabel pseudorandom, , yaitu standar normal, , dan kemudian menemukan koefisien, , dan varian kesalahan, , sehingga , di mana . (Perhatikan bahwa harus agar ini berfungsi, dan, apalagi, .) Jadi, Anda mulai dengan$r$$\rho$$X$$\mathcal N(0,1)$$a$$v_e$$Y \sim\mathcal N(0,a^2+v_e)$$a^2+v_e=1$$|a|$ $\le 1$$a=r$$r$ yang Anda inginkan; itu koefisien Anda, . Kemudian Anda mengetahui varians kesalahan yang Anda butuhkan, itu . (Jika perangkat lunak Anda mengharuskan Anda untuk menggunakan standar deviasi, mengambil akar kuadrat dari nilai tersebut.) Akhirnya, untuk setiap pseudorandom variate, , bahwa Anda telah dihasilkan, menghasilkan kesalahan variate pseudorandom, , dengan varians kesalahan yang sesuai , dan hitung variasi pseudorandom yang dikorelasikan, , dengan mengalikan dan menambahkan. $a$$1-r^2$$x_i$$e_i$$v_e$$y_i$

Jika Anda ingin melakukan ini di R, kode berikut mungkin bekerja untuk Anda:

correlatedValue = function(x, r){
  r2 = r**2
  ve = 1-r2
  SD = sqrt(ve)
  e  = rnorm(length(x), mean=0, sd=SD)
  y  = r*x + e
  return(y)
}

set.seed(5)
x = rnorm(10000)
y = correlatedValue(x=x, r=.5)

cor(x,y)
[1] 0.4945964

(Sunting: Saya lupa menyebutkan :) Seperti yang saya jelaskan, prosedur ini memberi Anda dua variabel berkorelasi normal standar. Jika Anda tidak ingin normals standar , tetapi ingin variabel memiliki beberapa cara khusus (bukan 0) dan SD (bukan 1), Anda dapat mengubahnya tanpa mempengaruhi korelasinya. Dengan demikian, Anda akan mengurangi mean yang diamati untuk memastikan bahwa rata-rata tepat , kalikan variabel dengan SD yang Anda inginkan dan kemudian tambahkan rata-rata yang Anda inginkan. Jika Anda ingin rata-rata yang diamati berfluktuasi secara normal di sekitar rata-rata yang diinginkan, Anda akan menambahkan perbedaan awal kembali. Pada dasarnya, ini adalah transformasi z-skor secara terbalik. Karena ini adalah transformasi linear, variabel yang diubah akan memiliki korelasi yang sama dengan variabel lain seperti sebelumnya. $0$

Sekali lagi, ini, dalam bentuk yang paling sederhana, hanya memungkinkan Anda menghasilkan sepasang variabel berkorelasi (ini bisa ditingkatkan, tetapi menjadi cepat jelek), dan tentu saja bukan cara yang paling nyaman untuk menyelesaikan pekerjaan. Dalam R, Anda ingin menggunakan ? Mvrnorm dalam paket MASS , baik karena lebih mudah dan karena Anda dapat menghasilkan banyak variabel dengan matriks korelasi populasi yang diberikan. Meskipun demikian, saya pikir bermanfaat untuk menjalani proses ini untuk melihat bagaimana beberapa prinsip dasar berjalan dengan cara yang sederhana.

Secara umum ini bukan hal yang mudah dilakukan, tapi saya percaya ada paket untuk pembuatan variabel normal multivariat (setidaknya dalam R, lihat mvrnormdalam MASSpaket), di mana Anda hanya memasukkan matriks kovarians dan vektor rata-rata.

Ada juga satu lagi pendekatan "konstruktif". Katakanlah kita ingin memodelkan vektor acak dan kita memiliki fungsi distribusinya . Langkah pertama adalah untuk mendapatkan fungsi distribusi marginal; yaitu mengintegrasikan atas semua : Kemudian kami menemukan - fungsi terbalik - dan pasang variabel acak yang didistribusikan secara seragam pada interval . Pada langkah ini kami membuat koordinat pertama .$(X_1,X_2)$$F(x_1,x_2)$$F$$x_2$

Sekarang, karena kita telah mendapatkan satu koordinat, kita perlu menghubungkannya ke fungsi distribusi awal dan kemudian mendapatkan fungsi distribusi bersyarat dengan kondisi : mana adalah fungsi kepadatan probabilitas dari distribusi marginal ; yaitu .$F(x_1,x_2)$$x_1=\hat{x}_1$

Kemudian Anda menghasilkan variabel yang terdistribusi secara seragam di (tidak tergantung dari ) dan hubungkan ke invers . Karena itu, Anda memperoleh ; yaitu, memenuhi . Metode ini dapat digeneralisasi ke vektor dengan dimensi lebih banyak, tetapi kelemahannya adalah Anda harus menghitung, secara analitik atau numerik, banyak fungsi. Idenya dapat ditemukan di artikel ini juga: http://www.econ-pol.unisi.it/dmq/pdf/DMQ_WP_34.pdf .$\xi_2$$[0,1]$$\xi_1$$F(x_2 | X_1=\hat{x}_1)$$\hat{x}_2=(F(x_2 | X_1=\hat{x}_1))^{-1}(\xi)$$\hat x_2$$F(\hat x_2 | X_1=\hat{x}_1) = \xi$

Jika Anda tidak memahami arti memasukkan variabel seragam ke dalam fungsi distribusi probabilitas terbalik, cobalah membuat sketsa dari kasus univariat dan kemudian ingat apa interpretasi geometris dari fungsi terbalik.

Jika Anda siap untuk memberikan efisiensi, Anda dapat menggunakan alogoritma yang dibuang. Keuntungannya adalah, memungkinkan distribusi apa pun (tidak hanya Gaussian).

Mulailah dengan membuat dua urutan bilangan acak yang tidak berkorelasi dan dengan distribusi yang diinginkan. Biarkan dengan nilai koefisien korelasi yang diinginkan. Kemudian lakukan hal berikut:$\{x_i\}_{i=1}^N$$\{y_i\}_{i=1}^N$$C$

1) Hitung koefisien korelasi$c_{old}=corr(\{x_i\},\{y_i\})$

2) Menghasilkan dua munber acak dan$n_1$$n_2: 1 \leq n_{1,2} \leq N$

3) Tukar angka dan$x_{n_1}$$x_{n_2}$

4) Hitung korelasi baru$c_{new}=corr( \{x_i\},\{y_i\})$

5) Jikalalu pertahankan swap. Jangan batalkan swap.$|C-c_{new}| < |C-c_{old}|$

6) Jika stop, goto 1)$|C-c| < \epsilon$

Swap acak tidak akan mengubah distribusi marginal dari .${x_i}$

Semoga berhasil!