Identitas integral dari lemma yang terkandung dalam kertas infoGAN

8

Saya telah menemukan lemma di koran infoGAN . Saya tidak mengerti derivasi Lemma 5.1 dalam lampiran makalah ini. Bunyinya sebagai berikut (termasuk sebagai png):

Saya tidak mengerti langkah terakhir. Mengapa seseorang dapat menarik ke dalam yang paling integral, mengubahnya menjadi ? Apa kondisi keteraturan yang sesuai untuk ? $f(x,y)$ $f(x',y)$ $f$

probability pdf conditional-expectation integral spurra
sumber

Saya melihat kertas dan saya tidak berpikir bukti yang Anda tulis di atas persis sama dengan yang ada di koran. Tampak bagi saya bahwa f (x, y) ditarik keluar dari integral terdalam karena tidak bergantung pada x '.

Michael R. Chernick

Png adalah tangkapan layar dari kertas :)

spurra

5

Pertimbangkan perbedaannya diperoleh dengan memindahkan ke integral , dan mengambil perbedaan dengan digantikan oleh . Mengkondisikan pada , Objek interior ini bersifat antisimetrik setelah menukar variabel dummy dan

D = \int_{x} \int_{y} P (x, y) \int_{x^{'}} P (x^{'} | y) [f (x, y) - f (x^{'}, y)] d x^{'} d x d y

$D = \int_x \int_y P(x,y) \int_{x'} P(x'|y) \left[ f(x,y) - f(x',y) \right] \, dx' dx dy$

f (x, y)

$f(x,y)$

x^{'}

$x'$

x

$x$

x^{'}

$x'$

x

$x$

y

$y$

D = \int_{y} P (y) \int_{x} \int_{x^{'}} P (x | y) P (x^{'} | y) [f (x, y) - f (x^{'}, y)] d x^{'} d x d y .

$D = \int_y P(y) \int_x \int_{x'} P(x|y) P(x'|y) \left[ f(x,y) - f(x',y) \right] \, dx' dx dy.$

δ = \int_{x} \int_{x^{'}} P (x | y) P (x^{'} | y) [f (x, y) - f (x^{'}, y)] d x^{'} d x

$\delta = \int_x \int_{x'} P(x|y) P(x'|y) \left[ f(x,y) - f(x',y) \right] \, dx' dx$

x

$x$

x^{'}

$x'$ , menjadi negatif sendiri, dan itu sama dengan nol. Saya menduga bahwa kondisi keteraturan hanyalah yang mencegah integral ini menyimpang.

jwimberley
sumber

Saya belum punya waktu untuk membahas jawaban Anda. Saya telah memberikan hadiah kepada Anda dengan itikad baik karena akan berakhir dalam 10 menit, dan saya akan menghubungi Anda dengan segala pertanyaan klarifikasi yang mungkin saya miliki.

spurra

1

Apakah ini trik terkenal? Tanpa penjelasan Anda, saya pikir cukup sulit untuk mengikuti bukti di koran.

Attila Kun

1

@ Mekoon, jawaban William di bawah ini hampir sama dengan milik saya tetapi jauh lebih mudah. Sebenarnya, saya khawatir tentang kondisi keteraturan, tetapi saya pikir jawaban lain menunjukkan bahwa ini tidak penting. Menurut saya kedua trik itu sudah dikenal luas, tetapi pertunjukkan sederhana pertukaran-dan-pulang-pergi yang dilakukan William mungkin adalah cara yang dimaksudkan pembaca untuk mengikuti; Saya pikir itu akan menjadi lebih jelas jika mereka menambahkan garis ekstra yang ditunjukkan William.

jwimberley

@jwimberley Terima kasih! Bagian "tukar x dan x '" dari jawaban William membingungkan saya sejenak, tapi saya kira itu sah untuk dilakukan karena kita hanya men-relabelling variabel dummy kan?

Attila Kun

@kahoon Persis

jwimberley

3

Atau, setelah baris ketiga

\begin{aligned} = \int_{x} \int_{y} hal (x | y) hal (y) f (x, y) \int_{x^{'}} hal (x^{'} | y) d x^{'} d y d x \\ = \int_{x} \int_{y} hal (x | y) f (x, y) \int_{x^{'}} hal (x^{'}, y) d x^{'} d y d x . \end{aligned}

$\begin{align} &=\int_x\int_yp(x|y)p(y)f(x,y)\int_{x'}p(x'|y)dx'dydx\\ &=\int_x\int_yp(x|y)f(x,y)\int_{x'}p(x',y)dx'dydx. \end{align}$

Tukar dan lalu tukar urutan variabel. Selesai $x$ $x'$

William
sumber

0

Yah, saya pikir itu akan lebih intuitif jika kita menurunkan persamaan sebagai

\begin{aligned} E_{x \sim X, y \sim Y | x, x^{'} \sim X | y} [f (x^{'}, y)] & = \int_{x} hal (x) \int_{y} hal (y | x) \int_{x^{'}} hal (x^{'} | y) f (x^{'}, y) d x^{'} d y d x \\ = \int_{y} hal (y) \int_{x} hal (x | y) \int_{x^{'}} hal (x^{'} | y) f (x^{'}, y) d x^{'} d x d y \\ = \int_{y} hal (y) \int_{x^{'}} hal (x^{'} | y) f (x^{'}, y) \underset{= 1}{\underset{⏟}{\int_{x} hal (x | y) d x}} d x^{'} d y \\ = \int_{y} hal (y) \int_{x} hal (x | y) f (x, y) d x d y \\ = \int_{x} hal (x) \int_{y} hal (y | x) f (x, y) d y d x \\ = E_{x \sim X, y \sim Y | x} [f (x, y)] \end{aligned}

$\begin{align*} E_{x \sim X, y \sim Y|x, x' \sim X|y} \left[ f(x', y) \right] & = \int_x p(x) \int_y p(y|x) \int_{x'} p(x'|y) f(x', y) dx'dydx \\ & = \int_y p(y) \int_x p(x|y) \int_{x'} p(x'|y) f(x', y) dx'dxdy \\ & = \int_y p(y) \int_{x'} p(x'|y) f(x', y) \underbrace{\int_x p(x|y) dx}_{=1}dx'dy \\ & = \int_y p(y) \int_{x} p(x|y) f(x, y) dxdy \\ & = \int_x p(x) \int_{y} p(y|x) f(x, y) dydx \\ & = E_{x \sim X, y \sim Y|x} \left[ f(x, y) \right] \end{align*}$

Menghindari
sumber

0

Pernyataan benar-benar mengatakan:

\begin{matrix} (1) & E_{x \sim X, y \sim Y | x} [f (x, y)] = E_{x \sim X, y \sim Y | x, x^{'} \sim X | y} [f (x^{'}, y)] \end{matrix}

$E_{x \sim X, y \sim Y|x} \left[ f(x, y) \right] = E_{x \sim X, y \sim Y|x, x' \sim X|y} \left[ f(x', y) \right]\tag1$

Jika vektor acak memiliki distribusi gabungan lalu . $(X,Y,X')$
$\begin{matrix} (2) & P_{X, Y, X^{'}} (x, y, z) = P_{X} (x) P_{Y | X} (y | x) P_{X | Y} (z | y), \end{matrix}$ $P_{X,Y,X'}(x,y,z)=P_X(x)P_{Y|X}(y|x)P_{X|Y}(z|y),\tag2$ $E[f(X,Y)] = E[f(X',Y)]$

Hasilnya mengikuti dari fakta bahwa memiliki distribusi yang sama dengan , yang dilihat dari: Tidak banyak keteraturan yang diperlukan di sini selain adanya harapan . $(X,Y)$ $(X',Y)$

P_{X^{'} | Y} (z | y) = \int_{x} \frac{P_{X, Y, X^{'}} (x, y, z)}{P_{Y} (y)} d x \overset{(2)}{=} \int_{x} P_{X | Y} (x | y) P_{X | Y} (z | y) d x = P_{X | Y} (z | y) .

$P_{X'|Y}(z|y)=\int_x\frac{ P_{X,Y,X'}(x,y,z)}{P_Y(y)}\,dx\stackrel{(2)}= \int_x P_{X|Y}(x|y)P_{X|Y}(z|y)\,dx=P_{X|Y}(z|y).$

E f (X, Y)

$Ef(X,Y)$

grand_chat
sumber

Identitas integral dari lemma yang terkandung dalam kertas infoGAN

Jawaban: