Normalitas asimptotik dari bentuk kuadrat

Mari menjadi vektor acak yang diambil dari . Pertimbangkan contoh . Tentukan , dan . Biarkan dan . $\mathbf{x}$ $P$ $\{ \mathbf{x}_i \}_{i=1}^n \stackrel{i.i.d.}{\sim} P$ $\bar{\mathbf{x}}_n := \frac{1}{n} \sum_{i=1}^n \mathbf{x}_i$ $\hat{C} := \frac{1}{n} \sum_{i=1}^n (\mathbf{x}_i - \bar{\mathbf{x}}_n) (\mathbf{x}_i - \bar{\mathbf{x}}_n)^\top$ $\boldsymbol{\mu} := \mathbb{E}_{\mathbf{x}\sim P}[\mathbf{x}]$ $C:=\mathrm{cov}_{\mathbf{x} \sim P}[\mathbf{x}, \mathbf{x}]$

Dengan teorema limit pusat, asumsikan itu

\sqrt{n} ({\bar{x}}_{n} - μ) \overset{d}{\to} N (0, C),

$\sqrt{n} \big( \bar{\mathbf{x}}_n - \boldsymbol{\mu} \big) \stackrel{d}{\to} \mathcal{N}(\boldsymbol{0}, C),$

di mana $C$ adalah matriks kovarians peringkat penuh.

Pertanyaan : Bagaimana saya membuktikan (atau membantah) hal itu

\sqrt{n} ({\bar{x}}_{n}^{⊤} (\hat{C} + γ_{n} I)^{- 1} {\bar{x}}_{n} - μ^{⊤} C^{- 1} μ) \overset{d}{\to} N (0, v^{2}),

$\sqrt{n} \big( \bar{\mathbf{x}}_n^\top (\hat{C} + \gamma_n I)^{-1} \bar{\mathbf{x}}_n - \boldsymbol{\mu}^\top C^{-1} \boldsymbol{\mu} \big) \stackrel{d}{\to} \mathcal{N}(0, v^2),$

untuk beberapa $v>0$ , dan untuk beberapa $\gamma_n \ge 0$ sedemikian rupa sehingga $\lim_{n\to \infty} \gamma_n =0$ ? Ini terlihat sederhana. Tapi saya tidak tahu bagaimana cara menunjukkan ini. Ini bukan pertanyaan pekerjaan rumah.

Pemahaman saya adalah bahwa metode delta akan memungkinkan kita untuk dengan mudah menyimpulkan

\sqrt{n} ({\bar{x}}_{n}^{⊤} C^{- 1} {\bar{x}}_{n} - μ^{⊤} C^{- 1} μ) \overset{d}{\to} N (0, v^{2}),

$\sqrt{n} \big( \bar{\mathbf{x}}_n^\top C^{-1} \bar{\mathbf{x}}_n - \boldsymbol{\mu}^\top C^{-1} \boldsymbol{\mu} \big) \stackrel{d}{\to} \mathcal{N}(0, v^2),$

atau

\sqrt{n} ({\bar{x}}_{n}^{⊤} (\hat{C} + γ_{n} I)^{- 1} {\bar{x}}_{n} - μ^{⊤} (\hat{C} + γ_{n} I)^{- 1} μ) \overset{d}{\to} N (0, v^{2}) .

$\sqrt{n} \big( \bar{\mathbf{x}}_n^\top (\hat{C} + \gamma_n I)^{-1} \bar{\mathbf{x}}_n - \boldsymbol{\mu}^\top (\hat{C} + \gamma_n I)^{-1} \boldsymbol{\mu} \big) \stackrel{d}{\to} \mathcal{N}(0, v^2).$

Ini sedikit berbeda dari yang saya inginkan. Perhatikan matriks kovarians dalam dua istilah. Saya merasa bahwa saya kehilangan sesuatu yang sangat sepele di sini. Atau, jika itu membuat hal-hal lebih sederhana, kita juga dapat mengabaikan yaitu, mengatur dan menganggap bahwa tidak dapat dibalik. Terima kasih. $\gamma_n$ $\gamma_n =0$ $\hat{C}$

normality-assumption central-limit-theorem asymptotics quadratic-form wij
sumber

Kita perlu tahu sesuatu tentang bagaimana pergi ke 0. Apakah itu urutan konstanta? Saya pikir Anda pertama-tama harus menunjukkan yang menurut saya merupakan hasil dari Slutsky. Kemudian saya akan menulis sebagai . memiliki distribusi terbatas yang dapat ditemukan dengan metode . Terakhir Anda dapat mencoba untuk menunjukkan bahwa 0 dalam probabilitas. Meskipun saya tidak yakin apakah itu berlaku ...

γ_{n}

$\gamma_n$

{\bar{x}}_{n}^{T} γ_{n} I {\bar{x}}_{n} \to_{p} 0

$\bar{x}_n^T \gamma_n I \bar{x}_n \rightarrow_p 0$

\hat{C}

$\hat{C}$

C + bias (\hat{C})

$C + \text{bias}(\hat{C})$

{\bar{x}}_{n}^{T} C {\bar{x}}_{n}

$\bar{x}_n^T C \bar{x}_n$

δ

$\delta$

{\bar{x}}_{n}^{T} bias (\hat{C}) {\bar{x}}_{n}

$\bar{x}_n^T \text{bias}(\hat{C}) \bar{x}_n$

AdamO

γ_{n}

$\gamma_n$ adalah urutan konstanta (bukan acak). Urutan dapat diatur ke apa pun yang membuat konvergensi berfungsi (jika urutan seperti itu ada). Saya pikir benar. Saya tidak mengikuti mengapa kita pertama-tama membutuhkan ini. Tetapi biarkan saya memikirkannya dan sisanya lebih. :)

{\bar{x}}_{n}^{⊤} I {\bar{x}}_{n} \overset{p}{\to} 0

$\bar{x}_n^\top I \bar{x}_n \stackrel{p}{\to} 0$

wij

Saya gagal menyebutkan: keragu-raguan Anda untuk langsung menerapkan metode dan menyebutnya selesai dijamin dengan baik. Saya pikir Anda bisa menulis ini dengan hati-hati. Teorema yang berguna untuk jenis bukti ini adalah Slutsky, Teorema Pemetaan Berkelanjutan Mann-Wald, dan teorema Cramer-Wold.

δ

$\delta$

AdamO

Saya setuju bahwa hasil yang Anda sebutkan mungkin bermanfaat. Saya masih tidak melihat bagaimana. Sebenarnya saya juga mulai berpikir bahwa distribusi asimptotik mungkin bukan distribusi normal.

wij

Sepertinya ini lebih rumit dari yang terlihat. Makalah arXiv di sini menjelaskan apa yang terjadi dalam dimensi tinggi. Saya tidak dapat menemukan analog dimensi tetap, tetapi mereka memiliki argumen dimensi-finitie di Bagian 3.

Greenparker

Jawaban:

Ada beberapa kesulitan saat menggunakan metode Delta. Lebih mudah untuk menurunkannya dengan tangan.

Secara hukum dari sejumlah besar, . Oleh karena itu . Terapkan teorema Slutsky, kita memiliki Dengan teorema pemetaan berkelanjutan, kita memiliki Karenanya Dengan teorema Slutsky, kita memiliki Menggabungkan dua hasil kesetaraan di atas $\hat{C}\xrightarrow{P} C$ $\hat{C} +\gamma_n I\xrightarrow{P} C$

\sqrt{n} (\hat{C} + γ_{n} I)^{- 1 / 2} (\bar{X} - μ) \overset{d}{\to} N (0, C^{- 1}) .

$\sqrt{n}(\hat{C} +\gamma_n I)^{-1/2}(\bar{X}-\mu)\xrightarrow{d}\mathcal{N} (0,C^{-1}).$

n (\bar{X} - μ)^{T} (\hat{C} + γ_{n} I)^{- 1} (\bar{X} - μ) \overset{d}{\to} \sum_{i = 1}^{p} λ_{i}^{- 1} (C) χ_{1}^{2} .

${n}(\bar{X}-\mu)^T (\hat{C} +\gamma_n I)^{-1}(\bar{X}-\mu)\xrightarrow{d}\sum_{i=1}^p \lambda_i^{-1}(C)\chi^2_1.$

\sqrt{n} (\bar{X} - μ)^{T} (\hat{C} + γ_{n} I)^{- 1} (\bar{X} - μ) \overset{P}{\to} 0.

$\sqrt{n}(\bar{X}-\mu)^T (\hat{C} +\gamma_n I)^{-1}(\bar{X}-\mu)\xrightarrow{P}0.$

\sqrt{n} μ^{T} (\hat{C} + γ_{n} I)^{- 1} (\bar{X} - μ) \overset{d}{\to} N (0, μ^{T} C^{- 2} μ) .

$\sqrt{n}\mu^T(\hat{C} +\gamma_n I)^{-1}(\bar{X}-\mu)\xrightarrow{d}\mathcal{N} (0,\mu^T C^{-2}\mu).$

\begin{aligned} \sqrt{n} ({\bar{X}}^{T} (\hat{C} + γ_{n} I)^{- 1} \bar{X} - μ^{T} (\hat{C} + γ_{n} I)^{- 1} μ) \\ = & \sqrt{n} ((\bar{X} - μ)^{T} (\hat{C} + γ_{n} I)^{- 1} (\bar{X} - μ) - 2 μ^{T} (\hat{C} + γ_{n} I)^{- 1} (\bar{X} - μ)) \\ = & - 2 \sqrt{n} μ^{T} (\hat{C} + γ_{n} I)^{- 1} (\bar{X} - μ) + o_{P} (1) \\ \overset{d}{\to} & N (0, 4 μ^{T} C^{- 2} μ) . \end{aligned}

$\begin{align} &\sqrt{n}\big(\bar{X}^T (\hat{C} +\gamma_n I)^{-1}\bar{X}-\mu^T (\hat{C} +\gamma_n I)^{-1}\mu\big) \\ = &\sqrt{n}\Big((\bar{X}-\mu)^T (\hat{C} +\gamma_n I)^{-1}(\bar{X}-\mu)-2\mu^T(\hat{C} +\gamma_n I)^{-1}(\bar{X}-\mu)\Big) \\ =&-2\sqrt{n}\mu^T(\hat{C} +\gamma_n I)^{-1}(\bar{X}-\mu)+o_P(1) \\ \xrightarrow{d}&\mathcal{N} (0,4\mu^T C^{-2}\mu). \end{align}$ Tugas yang tersisa adalah berurusan dengan Sayangnya, dosis istilah ini TIDAK konvergen ke . Perilaku menjadi rumit dan tergantung pada momen ketiga dan keempat.

\sqrt{n} (μ^{T} (\hat{C} + γ_{n} I)^{- 1} μ - μ^{T} (C)^{- 1} μ) .

$\sqrt{n} \Big( \mu^T (\hat{C} +\gamma_n I)^{-1}\mu-\mu^T (C)^{-1}\mu \Big).$

0

$0$

Sederhananya, di bawah ini kami menganggap terdistribusi normal dan . Ini adalah hasil standar yang mana adalah matriks acak simetris dengan elemen diagonal sebagai dan mematikan elemen diagonal sebagai . Dengan demikian, Dengan matriks taylor expantion , sudah $X_i$ $\gamma_n=o(n^{-1/2})$

\sqrt{n} (\hat{C} - C) \overset{d}{\to} C^{1 / 2} W C^{1 / 2},

$\sqrt{n}(\hat{C}-C)\xrightarrow{d}C^{1/2} W C^{1/2},$

W

$W$

N (0, 2)

$\mathcal{N}(0,2)$

N (0, 1)

$\mathcal{N}(0,1)$

\sqrt{n} (\hat{C} + γ_{n} I - C) \overset{d}{\to} C^{1 / 2} W C^{1 / 2},

$\sqrt{n}(\hat{C}+\gamma_n I-C)\xrightarrow{d}C^{1/2} W C^{1/2},$

(I + A)^{- 1} \sim I - A + A^{2}

$(I+A)^{-1}\sim I-A+A^2$

\begin{aligned} \sqrt{n} ((\hat{C} + γ_{n} I)^{- 1} - C^{- 1}) = \sqrt{n} C^{- 1 / 2} ((C^{- 1 / 2} (\hat{C} + γ_{n} I) C^{- 1 / 2})^{- 1} - I) C^{- 1 / 2} \\ = & \sqrt{n} C^{- 1} (\hat{C} + γ_{n} I - C) C^{- 1} + O_{P} (n^{- 1 / 2}) \overset{d}{\to} C^{- 1 / 2} W C^{- 1 / 2} . \end{aligned}

$\begin{align} &\sqrt{n}\Big((\hat{C} +\gamma_n I)^{-1}- C^{-1}\Big)= \sqrt{n}C^{-1/2}\Big(\big(C^{-1/2}(\hat{C} +\gamma_n I)C^{-1/2}\big)^{-1}-I\Big)C^{-1/2}\\ =&\sqrt{n}C^{-1}\Big(\hat{C} +\gamma_n I-C\Big)C^{-1}+O_P(n^{-1/2}) \xrightarrow{d}C^{-1/2} W C^{-1/2}. \end{align}$ Jadi,

\sqrt{n} (μ^{T} (\hat{C} + γ_{n} I)^{- 1} μ - μ^{T} (C)^{- 1} μ) \overset{d}{\to} μ^{T} C^{- 1 / 2} W C^{- 1 / 2} μ \sim N (0, (μ^{T} C^{- 1} μ)^{2}) .

$\sqrt{n} \Big( \mu^T (\hat{C} +\gamma_n I)^{-1}\mu-\mu^T (C)^{-1}\mu \Big)\xrightarrow{d}\mu^T C^{-1/2} W C^{-1/2}\mu \sim N(0,(\mu^T C^{-1}\mu)^2).$

Jadi,

\begin{aligned} \sqrt{n} ({\bar{X}}^{T} (\hat{C} + γ_{n} I)^{- 1} \bar{X} - μ^{T} C^{- 1} μ) \overset{d}{\to} N (0, 4 μ^{T} C^{- 2} μ + (μ^{T} C^{- 1} μ)^{2}) . \end{aligned}

$\begin{align} \sqrt{n}\big(\bar{X}^T (\hat{C} +\gamma_n I)^{-1}\bar{X}-\mu^T C^{-1}\mu\big) \xrightarrow{d}\mathcal{N} (0,4\mu^T C^{-2}\mu+(\mu^T C^{-1}\mu)^2). \end{align}$

kfeng123
sumber

Terima kasih atas jawaban anda. Persis seperti itu yang tidak konvergen ke 0 yang membuat semuanya menjadi sulit. Sayangnya saya tidak dapat berasumsi bahwa terdistribusi normal. Tapi saya tetap menghargai jawabannya. Jika Anda dapat berkomentar tentang bagaimana hal itu tergantung pada momen ketiga dan keempat (mungkin dengan referensi), itu akan sangat membantu. Saya juga tidak bisa menjelaskan saat ini. Tetapi saya merasa bahwa harus meluruh lebih lambat daripada . Saya harus memikirkan alasannya lebih hati-hati.

X_{i}

$X_i$

g a m m a_{n}

$gamma_n$

o (n^{- 1 / 2})

$o(n^{-1/2})$

wij

Saya lupa menambahkan bahwa dalam kasus saya dapat diasumsikan hidup dalam satu set kompak (jika perlu). Ini mungkin membantu dengan kondisi saat ini.

X_{i}

$X_i$

wij