Buktikan bahwa distribusi entropi maksimum dengan matriks kovarians tetap adalah Gaussian

13

Saya mencoba untuk mendapatkan kepala saya di sekitar bukti berikut bahwa Gaussian memiliki entropi maksimum.

Bagaimana langkah berbintang itu masuk akal? Sebuah kovarians khusus hanya memperbaiki momen kedua. Apa yang terjadi pada momen ketiga, keempat, kelima dll?

masukkan deskripsi gambar di sini

Tarrare
sumber

Jawaban:

13

Langkah yang berkilau bintangnya valid karena (a) dan q memiliki zeroth dan momen kedua yang sama dan (b) log ( p ) adalah fungsi polinomial dari komponen x yang istilahnya memiliki derajat total 0 atau 2 .pqlog(p)x02


Anda hanya perlu tahu dua hal tentang distribusi normal multivarian dengan mean nol:

  1. log(p)x=(x1,x2,,xn) Cpij

    log(p(x))=C+i,j=1npijxixj.

    CpijΣ

  2. Σ

    Σij=Ep(xixj)=p(x)xixjdx.

Kami dapat menggunakan informasi ini untuk menyusun integral:

(q(x)p(x))log(p(x))dx=(q(x)p(x))(C+i,j=1npijxixj)dx.

Itu pecah menjadi jumlah dari dua bagian:

  • (q(x)p(x))Cdx=C(q(x)dxp(x)dx)=C(11)=0qp

  • (q(x)p(x))i,j=1npijxixjdx=i,j=1npij(q(x)p(x))xixjdx=0q(x)xixjdxp(x)xixjdxΣij

(q(x)p(x))log(p(x))dx=0q(x)log(p(x))dx=p(x)log(p(x))dx.

whuber
sumber
1

q(x)p(x)σijxixjp(x)p(x)q(x)

F. Tusell
sumber