Apa yang terjadi pada rasio kemungkinan karena semakin banyak data yang dikumpulkan?

Biarkan , dan menjadi densitas dan anggap Anda memiliki , . Apa yang terjadi dengan rasio kemungkinan sebagai ? (Apakah itu bertemu? Untuk apa?) $f$ $g$ $h$ $x_i \sim h$ $i \in \mathbb{N}$

\prod_{i = 1}^{n} \frac{f (x_{i})}{g (x_{i})}

$\prod_{i=1}^n \frac{f(x_i)}{g(x_i)}$

n \to \infty

$n \rightarrow \infty$

Sebagai contoh, kita dapat mengasumsikan . Kasus umum juga menarik. $h = g$

convergence asymptotics likelihood-ratio Olivier
sumber

Kemungkinan duplikat divergensi Kullback-Leibler TANPA teori informasi

Xi'an

@ Xi'an. Saya pikir menambahkan pertanyaan ini ke SE memungkinkan koneksi untuk ditarik ke pertanyaan dalam jawaban. Meskipun mungkin ada kesamaan jawaban, pertanyaannya tidak sama.

John

Terima kasih untuk tautannya. Pertanyaannya bukan duplikat, meskipun jawaban atas pertanyaan saya mungkin melibatkan perbedaan Kullback-Leibler.

Olivier

Jawaban:

Jika seseorang menggunakan logaritma produk ini, dan mengubahnya menjadi rata-rata hukum bilangan besar berlaku, maka seseorang mendapat konvergensi yang hampir pasti mengasumsikan integral ini didefinisikan dengan baik [contoh counter mudah didapat].

r = \log \prod_{i = 1}^{n} \frac{f (x_{i})}{g (x_{i})} = \sum_{i = 1}^{n} \log \frac{f (x_{i})}{g (x_{i})}

${\mathfrak{r}}=\log \prod_{i=1}^n \frac{f(x_i)}{g(x_i)} = \sum_{i=1}^n \log\frac{f(x_i)}{g(x_i)}$

{\bar{r}}_{n} = \frac{1}{n} \sum_{i = 1}^{n} \log \frac{f (x_{i})}{g (x_{i})}

$\bar{\mathfrak{r}}_n=\frac{1}{n}\sum_{i=1}^n \log\frac{f(x_i)}{g(x_i)}$

{\bar{r}}_{n} \overset{a.s.}{⟶} E_{h} [\log \frac{f (X)}{g (X)}] = \int_{X} \log \frac{f (x)}{g (x)} h (x) d x

$\bar{\mathfrak{r}}_n\stackrel{\text{a.s.}}{\longrightarrow}\mathbb{E}_h\left[\log \frac{f(X)}{g(X)}\right]=\int_\mathfrak{X} \log\frac{f(x)}{g(x)}\,h(x)\,\text{d}x$

Sebagai contoh, jika , , dan adalah kepadatan untuk distribusi Normal dengan rata-rata , , dan nol, masing-masing, semua dengan varian satu, nilai adalah $f$ $g$ $h$ $\mu_1$ $\mu_2$

\int_{X} \log \frac{f (x)}{g (x)} h (x) d x

$\int_\mathfrak{X} \log\frac{f(x)}{g(x)}\,h(x)\,\text{d}x$

\int_{X} {(x - μ_{1})^{2} - (x - μ_{2}^{2})} φ (x) d x = μ_{1}^{2} - μ_{2}^{2} .

$\int_\mathfrak{X} \{(x-\mu_1)^2-(x-\mu^2_2)\}\,\varphi(x)\,\text{d}x= \mu_1^2-\mu^2_2\,.$

Perhatikan juga bahwa, tanpa rata-rata, produk hampir pasti menyatu menjadi nol (ketika ) . Sementara produk hampir pasti konvergen ke nol atau tak terhingga tergantung pada apakah atau lebih dekat ke dalam arti divergensi Kullback-Leibler (ketika ).

\prod_{i = 1}^{n} \frac{f (x_{i})}{h (x_{i})}

$\prod_{i=1}^n \frac{f(x_i)}{h(x_i)}$

x_{i} \sim h (x)

$x_i\sim h(x)\,$

\prod_{i = 1}^{n} \frac{f (x_{i})}{g (x_{i})}

$\prod_{i=1}^n \frac{f(x_i)}{g(x_i)}$

g

$g$

f

$f$

h

$h$

x_{i} \sim h (x)

$x_i\sim h(x)\,$

Xi'an
sumber

Bisakah Anda menyimpulkan jawaban? Apakah integral terakhir bukan nol (misalnya kapan )?

g = h

$g=h$

Olivier

Kenapa harus nol? Jika itu nol; jika dan itu positif. Dan jika dan itu negatif. Bisa juga nol untuk , , dan jika dan berada pada jarak yang sama dari .

f = g

$f=g$

f = h

$f=h$

g \neq h

$g\ne h$

g = h

$g=h$

f \neq h

$f\ne h$

f \neq h

$f\ne h$

f \neq g

$f\ne g$

g \neq h

$g \ne h$

f

$f$

g

$g$

h

$h$

Xi'an

Apa maksudmu pada jarak yang sama dari ? Bisakah Anda menguraikan? Jawaban Anda menarik tetapi tidak (belum) langsung menjawab pertanyaan.

h

$h$

Olivier

Pertanyaan utama. Karena , itu adalah tanda integral terakhir yang menentukan perilaku asimptotik dari rasio.

r = n r_{n}

$\mathfrak{r}= n \mathfrak{r}_n$

Olivier

Biarkan . Pertimbangkan kuantitas Dengan Hukum Kuat Bilangan Besar, $Z_n = \prod^n_i \frac{p(x)}{q(x)}$

W_{n} = \frac{1}{n} l o g (Z_{n}) = \frac{1}{n} \sum_{i}^{n} l o g (\frac{p (x)}{q (x)})

$W_n = \frac{1}{n}log(Z_n) = \frac{1}{n}\sum_i^n log(\frac{p(x)}{q(x)})$

lim_{n \to \infty} W_{n} = E_{q (x)} [l o g (\frac{p (x)}{q (x)})] = \int_{X} l o g (\frac{p (x)}{q (x)}) q (x) d x

$\lim_{n \rightarrow \infty} W_n = E_{q(x)}[log(\frac{p(x)}{q(x)})] = \int_\mathcal{X} log(\frac{p(x)}{q(x)})q(x)dx$

Karena dan itu , $log(a) < a-1 \ \forall a > 0$ $a \neq 1$ $\frac{p(x)}{q(x)} > 0$ $p(x) \neq q(x)$

W_{n} \to \int_{X} l o g (\frac{p (x)}{q (x)}) q (x) d x < \int_{X} (\frac{p (x)}{q (x)} - 1) q (x) d x = \int_{X} p (x) d x - \int_{X} q (x) d x = 1 - 1 = 0

$W_n \rightarrow \int_\mathcal{X} log(\frac{p(x)}{q(x)})q(x)dx < \int_\mathcal{X} (\frac{p(x)}{q(x)} - 1)q(x)dx = \int_\mathcal{X} p(x)dx - \int_\mathcal{X} q(x)dx = 1 - 1 = 0$ Ini memberi kita

lim_{n \to \infty} W_{n} < 0 ⟹ lim_{n \to \infty} \frac{1}{n} l o g (Z_{n}) < 0 ⟹ lim_{n \to \infty} n \cdot \frac{1}{n} l o g (Z_{n}) = - \infty ⟹ lim_{n \to \infty} l o g (Z_{n}) = - \infty ⟹ lim_{n \to \infty} Z_{n} = 0 ◼

$\lim_{n \rightarrow \infty} W_n < 0 \implies \lim_{n \rightarrow \infty} \frac{1}{n}log(Z_n) < 0 \implies \lim_{n \rightarrow \infty} n \cdot \frac{1}{n}log(Z_n) = -\infty \\ \implies \lim_{n \rightarrow \infty} log(Z_n) = -\infty \\ \implies \lim_{n \rightarrow \infty} Z_n = 0 \ \blacksquare$

bgao
sumber