Informasi Fisher dalam model hirarkis

Diberikan model hirarkis berikut, dan, mana adalah distribusi normal. Apakah ada cara untuk mendapatkan ekspresi yang tepat untuk informasi Fisher dari distribusi marginal diberikan . Yaitu, apa informasi Fisher dari:

X \sim N (μ, 1),

$X \sim {\mathcal N}(\mu,1),$

μ \sim L. Sebuah hal l Sebuah c e (0, c)

$\mu \sim {\rm Laplace}(0, c)$

N (\cdot, \cdot)

$\mathcal{N}(\cdot,\cdot)$

X

$X$

c

$c$

Saya bisa mendapatkan ekspresi untuk distribusi marginal dari

diberikan

, tetapi membedakan wrt

dan kemudian mengambil harapan tampaknya sangat sulit. Apakah saya kehilangan sesuatu yang jelas? Bantuan apa pun akan dihargai.

hal (x | c) = \int hal (x | μ) hal (μ | c) d μ

$p(x | c) = \int p(x|\mu) p(\mu|c) d\mu$

X

$X$

c

$c$

c

$c$

multilevel-analysis information fisher-information emakalic
sumber

Saya sudah mencobanya sendiri, tetapi itu di luar kemampuan saya. Fungsi nilai absolut merusak segalanya! Anda pada dasarnya terjebak dengan metode numerik.

probabilityislogic

μ \geq 0

$\mu \ge 0$

μ < 0

$\mu \lt 0$

x

$x$

e x p (- x^{2})

$exp(-x^2)$

X

$X$

1 / (1 + 2 c^{2})

$1/(1+2c^2)$

1 + 1 / c^{2}

$1 + 1/c^2$

Sementara solusi analitik akan menjadi tantangan dalam hal traktabilitas manusia (di luar disiplin matematika), apakah ada penerimaan terhadap solusi komputasi perkiraan? Orang bisa membuat simulasi stokastik dan kemudian melihat perkiraan untuk cocok.

EngrStudent

Jawaban:

Tidak ada ekspresi analitik bentuk tertutup untuk informasi Fisher untuk model hierarkis yang Anda berikan. Dalam praktiknya, informasi Fisher hanya dapat dihitung secara analitis untuk distribusi keluarga eksponensial. Untuk keluarga eksponensial, log-likelihood linear dalam statistik yang cukup, dan statistik yang cukup telah mengetahui harapan. Untuk distribusi lain, kemungkinan log tidak menyederhanakan dengan cara ini. Baik distribusi Laplace maupun model hierarkis bukanlah distribusi keluarga eksponensial, sehingga solusi analitik tidak mungkin dilakukan.

Gordon Smyth
sumber

Keduanya dari Normal dan Laplace berasal dari keluarga eksponensial. Jika Anda dapat menulis distribusi dalam bentuk eksponensial maka matriks informasi fisher adalah gradien kedua log-normalizer dari keluarga eksponensial.

A.Yazdiha
sumber

\frac{1}{2} \exp (- | x - μ |)

$\frac12 \exp(-|x-\mu|)$