Fungsi pembangkit momen dari produk dalam dari dua vektor acak gaussian

Pertama mari kita membahas case . Pada akhirnya adalah generalisasi (mudah) ke arbitrary . $\Sigma = \sigma\mathbb{I}$ $\Sigma$

Mulailah dengan mengamati produk dalam adalah jumlah dari variabel iid, masing-masing produk dari dua varian Normal independen, sehingga mengurangi pertanyaan untuk menemukan mgf dari yang terakhir, karena mgf dari jumlah adalah produk dari mgfs. $(0,\sigma)$

Mgf dapat ditemukan dengan integrasi, tetapi ada cara yang lebih mudah. Ketika dan adalah standar normal, $X$ $Y$

X Y = ((X + Y) / 2)^{2} - ((X - Y) / 2)^{2}

$XY = ((X+Y)/2)^2 - ((X-Y)/2)^2$

adalah perbedaan dari dua varian Chi-squared skala independen. (Faktor skala adalah karena varians dari sama dengan .) Karena mgf dari varian chi-squared adalah , mgf of adalah dan mgf dari adalah . Mengalikan, kami menemukan bahwa mgf yang diinginkan sama dengan . $1/2$ $(X\pm Y)/2$ $1/2$ $1/\sqrt{1 - 2\omega}$ $((X+Y)/2)^2$ $1/\sqrt{1-\omega}$ $-((X-Y)/2)^2$ $1/\sqrt{1+\omega}$ $1/\sqrt{1-\omega^2}$

(Untuk referensi kemudian, pemberitahuan bahwa ketika dan yang rescaled oleh , sisik produk mereka dengan , mana harus skala oleh , juga.) $X$ $Y$ $\sigma$ $\sigma^2$ $\omega$ $\sigma^2$

Ini seharusnya terlihat akrab: hingga beberapa faktor konstan dan sebuah tanda, sepertinya kepadatan probabilitas untuk distribusi t Student dengan derajat kebebasan. (Memang, jika kita telah bekerja dengan fungsi karakteristik alih-alih mgfs, kita akan mendapatkan , yang bahkan lebih dekat dengan Student t PDF.) Tidak peduli bahwa tidak ada hal seperti itu sebagai Siswa t dengan dfs - yang terpenting adalah bahwa mgf analitik di lingkungan dan ini jelas (oleh Teorema Binomial). $0$ $1/\sqrt{1 + \omega^2}$ $0$ $0$

Hal berikut segera bahwa distribusi produk dalam ini IID Gaussian -vectors memiliki MGF sama dengan produk ganda dari MGF ini, $n$ $n$

(1 - ω^{2} σ^{4})^{- n / 2}, n = 1, 2, \dots .

$(1 - \omega^2 \sigma^4)^{-n/2}, \quad n=1, 2, \ldots.$

Dengan mencari fungsi karakteristik dari distribusi t Student, kami menyimpulkan (dengan sedikit aljabar atau integrasi untuk menemukan konstanta normalisasi) bahwa PDF itu sendiri diberikan oleh

f_{n, σ} (x) = \frac{2^{\frac{1 - n}{2}} | x |^{\frac{n - 1}{2}} K_{\frac{n - 1}{2}} (\frac{| x |}{σ^{2}})}{\sqrt{π} σ^{4} Γ (\frac{n}{2})}

$f_{n,\sigma}(x) = \frac{2^{\frac{1-n}{2}} |x|^{\frac{n-1}{2}} K_{\frac{n-1}{2}}\left(\frac{|x|}{\sigma ^2}\right)}{\sqrt{\pi } \sigma ^4 \Gamma \left(\frac{n}{2}\right)}$

( adalah fungsi Bessel). $K$

Sebagai contoh, berikut adalah plot PDF yang ditumpangkan pada histogram sampel acak produk dalam seperti di mana dan : $10^5$ $\sigma=1/2$ $n=3$

Histogram

Lebih sulit untuk mengkonfirmasi akurasi mgf dari simulasi, tetapi perhatikan (dari Binomial Theorem) itu

(1 + t^{2} σ^{4})^{- 3 / 2} = 1 - \frac{3 σ^{4} t^{2}}{2} + \frac{15 σ^{8} t^{4}}{8} - \frac{35 σ^{12} t^{6}}{16} + \frac{315 σ^{16} t^{8}}{128} + \dots,

$(1 + t^2 \sigma^4)^{-3/2} = 1-\frac{3 \sigma ^4 t^2}{2}+\frac{15 \sigma ^8 t^4}{8}-\frac{35 \sigma ^{12} t^6}{16}+\frac{315 \sigma ^{16} t^8}{128}+\ldots,$

dari mana kita dapat membacakan momen (dibagi dengan faktorial). Karena simetri sekitar , hanya momen momen yang penting. Untuk kita mendapatkan nilai-nilai berikut, untuk dibandingkan dengan momen mentah dari simulasi ini: $0$ $\sigma=1/2$

 k    mgf           simulation/k!
 2    0.09375       0.09424920
 4    0.00732422    0.00740436
 6    0.00053406    0.00054128
 8    0.00003755    0.00003674
10    2.58 e-6      2.17 e-6

Seperti yang diharapkan, momen-momen tinggi simulasi akan mulai berangkat dari momen-momen yang diberikan oleh mgf; tetapi setidaknya sampai saat kesepuluh, ada kesepakatan yang sangat baik.

Secara kebetulan, ketika distribusi adalah bi-eksponensial. $n=2$

Untuk menangani kasus umum, mulailah dengan mencatat bahwa produk dalam adalah objek independen-koordinat. Karena itu kami dapat mengambil arah utama (vektor eigen) dari sebagai koordinat. Dalam koordinat ini produk dalam adalah jumlah independen produk dari independen normal variates, setiap komponen didistribusikan dengan varians sama untuk eigen yang terkait. Dengan demikian, membiarkan nilai eigen bukan nol menjadi (dengan ), mgf harus sama $\Sigma$ $\sigma_1^2, \sigma_2^2, \ldots, \sigma_d^2$ $0 \le d \le n$

{(\prod_{i = 1}^{d} (1 - ω^{2} σ_{i}^{4}))}^{- 1 / 2} .

$\left(\prod_{i=1}^d (1 - \omega^2\sigma_i^4)\right)^{-1/2}.$

Untuk mengkonfirmasi bahwa saya tidak membuat kesalahan dalam alasan ini, saya menemukan contoh di mana adalah matriks $\Sigma$

(\begin{array}{ccc} 1 & \frac{1}{2} & - \frac{1}{8} \\ \frac{1}{2} & 1 & - \frac{1}{4} \\ - \frac{1}{8} & - \frac{1}{4} & \frac{1}{2} \end{array})

$\left( \begin{array}{ccc} 1 & \frac{1}{2} & -\frac{1}{8} \\ \frac{1}{2} & 1 & -\frac{1}{4} \\ -\frac{1}{8} & -\frac{1}{4} & \frac{1}{2} \end{array} \right)$

dan menghitung bahwa nilai eigennya adalah

(σ_{1}^{2}, σ_{2}^{2}, σ_{3}^{2}) = (\frac{1}{16} (17 + \sqrt{65}), \frac{1}{16} (17 - \sqrt{65}), \frac{3}{8}) \approx (1.56639, 0.558609, 0.375) .

$\left(\sigma_1^2, \sigma_2^2, \sigma_3^2\right) = \left(\frac{1}{16} \left(17+\sqrt{65}\right),\frac{1}{16} \left(17-\sqrt{65}\right),\frac{3}{8}\right)\approx \left(1.56639,0.558609,0.375\right).$

Dimungkinkan untuk menghitung PDF dengan mengevaluasi secara numerik Transformasi Fourier dari fungsi karakteristik (seperti yang diturunkan dari rumus mgf yang diberikan di sini): sebidang PDF ini diperlihatkan dalam gambar berikut sebagai garis merah. Pada saat yang sama, saya menghasilkan iid variates dari Normal dan iid variates dengan cara yang sama, dan menghitung produk titik . Plot menunjukkan histogram dari produk titik ini (menghilangkan beberapa nilai paling ekstrem - rentangnya dari hingga ): $10^6$ $X_i$ $(0,\Sigma)$ $10^6$ $Y_i$ $10^6$ $X_i\cdot Y_i$ $-12$ $15$

Histogram dan PDF

Seperti sebelumnya, perjanjian ini sangat baik. Lebih jauh, saat-saat itu cocok dengan baik melalui yang kedelapan dan cukup baik bahkan pada kesepuluh:

 k    mgf           simulation/k!
 2     1.45313       1.45208
 4     2.59009       2.59605
 6     5.20824       5.29333
 8    11.0994       11.3115
10    24.4166       22.9982

Tambahan

(Ditambahkan 9 Agustus 2013.)

$f_{n,\sigma}$ adalah turunan dari distribusi varians-gamma , yang awalnya didefinisikan sebagai "campuran rata-rata varians normal di mana kepadatan pencampuran adalah distribusi gamma." Ini memiliki lokasi standar ( ), parameter asimetri (simetris), parameter skala , dan parameter bentuk (sesuai dengan parameterisasi Wikipedia). $0$ $0$ $\sigma^2$ $n/2$

whuber
sumber

Halo, terima kasih banyak untuk penjelasan terperinci. Tapi aku punya satu keraguan. Ketika bersifat umum, istilah-istilah dalam perluasan jumlah produk dalam tidak lagi cocok; karenanya mgf dari jumlah itu tidak lebih dari produk dari mgfs. Lalu, bagaimana kita menggeneralisasikan analisis di atas ke Sigma yang lebih umum?

Σ

$\Sigma$

abhibhat

Saya menambahkan bagian baru untuk memberikan beberapa rincian (mudah) dari generalisasi ini, untuk memperjelas bahwa tidak ada hal baru yang terlibat di sini. Anda juga dapat menggunakan properti dasar mgfs untuk menuliskan mgf dalam kasus di mana data memiliki nilai nol juga, dengan demikian menyelesaikan masalah secara umum penuh.

whuber

Fungsi pembangkit momen dari produk dalam dari dua vektor acak gaussian

Jawaban:

Tambahan