Distribusi apa yang memiliki entropi maksimum untuk deviasi absolut rata-rata yang diketahui?

10

Saya membaca diskusi di Hacker News tentang penggunaan standar deviasi yang bertentangan dengan metrik lain seperti rata-rata deviasi absolut. Jadi, jika kita mengikuti prinsip entropi maksimum, distribusi seperti apa yang akan kita gunakan jika kita hanya tahu mean distribusi dan mean penyimpangan absolut?

Atau apakah lebih masuk akal untuk menggunakan median dan mean penyimpangan absolut dari median?

Saya menemukan sebuah makalah Prinsip Entropi Maksimum dengan Ukuran Penyimpangan Umum oleh Grechuk, Molyboha dan Zabarankin yang tampaknya memiliki informasi yang saya ingin tahu, tetapi perlu waktu untuk menguraikannya.

Dietrich Epp
sumber
Pertanyaan menarik; selamat datang di Cross Divalidasi!
Nick Stauner

Jawaban:

13

Tuan-tuan yang bijaksana ini, Kotz, S., Kozubowski, TJ, & Podgorski, K. (2001). Distribusi dan Generalisasi Laplace: Kunjungan Kembali ke Aplikasi untuk Komunikasi, Ekonomi, Teknik, dan Keuangan (No. 183). Peloncat.

tantang kami dengan latihan:

masukkan deskripsi gambar di sini

f(x)g(x)

Eg(|Xc1|)=g(x)|xc1|dx=c2=f(x)|xc1|dx=Ef(|Xc1|)[1]

0DKL(g||f)=g(x)ln(g(x)f(x))dx=g(x)lng(x)dxg(x)lnf(x)dx[2]

gh(g)

g(x)ln[f(x)]dx=g(x)ln[12c2exp{1c2|xc1|}]dx
=ln[12c2]g(x)dx1c2g(x)|xc1|dx
[1]

g(x)ln[f(x)]dx=ln[2c2]1c2f(x)|xc1|dx=(ln[2c2]+1)
h(f)

[2]

0D(g||f)=h(g)(h(f))h(g)h(f)
g
Alecos Papadopoulos
sumber
Distribusi yang sederhana, dan penulisan yang bagus juga! Saya menduga distribusinya akan lancar kecuali pada 0.
Dietrich Epp
Terima kasih. Kadang-kadang "sama berjalan dengan sama" -jadi karena distribusi Laplace melibatkan nilai absolut, itu adalah tersangka utama.
Alecos Papadopoulos