Pertanyaan yang diberi tag shannon-entropy

Lemma: Dengan asumsi kesetaraan eta kita memilikinya (\x -> ⊥) = ⊥ :: A -> B. Bukti: ⊥ = (\x -> ⊥ x)dengan kesetaraan eta, dan (\x -> ⊥ x) = (\x -> ⊥)dengan pengurangan di bawah lambda. Laporan Haskell 2010, bagian 6.2 menentukan seqfungsi dengan dua persamaan: seq :: a -> b...

Biasanya entropi Shannon digunakan untuk membuktikan hasil pengkodean saluran. Bahkan untuk hasil pemisahan sumber-saluran digunakan shannon entropy. Mengingat kesetaraan antara pengertian Shannon (global) vs Kolmogorov (lokal) tentang informasi, apakah telah ada penelitian untuk memanfaatkan...

Saya mencari terikat pada entropi dari jumlah dari dua variabel acak diskrit independen X dan Y . Tentu, H ( X + Y ) ≤ H ( X ) + H ( Y ) ( * ) Namun, diterapkan dengan jumlah dari n independen Bernoulli variabel acak Z 1 , ... , Z n , ini memberikan H ( Z 1 +H( X+ Y)H(X+Y)H(X+Y)XXXYYYH( X+ Y) ≤...

Saya tahu pekerjaan Shannon dengan entropi, tetapi belakangan ini saya telah bekerja pada struktur data yang ringkas di mana entropi empiris sering digunakan sebagai bagian dari analisis penyimpanan. Shannon mendefinisikan entropi dari informasi yang dihasilkan oleh sumber informasi diskrit...

Katakanlah saya memiliki variabel acak satu bit , dan biarkan menjadi bilangan alami. Saya ingin urutan variabel acak stn 0 = X 0 , X 1 , … , X n = XX∈ { 0 , 1 }X∈{0,1}X \in \{0,1\}nnn0 = X0, X1, ... , Xn= X0=X0,X1,…,Xn=X0 = X_0, X_1, \ldots, X_n = X H( X | { X 0, ... ,...