Mengamati informasi Fisher di bawah transformasi

Dari "Dalam Semua Kemungkinan: Pemodelan Statistik dan Inferensi Menggunakan Kemungkinan" oleh Y. Pawitan, kemungkinan parameterisasi ulang $\theta\mapsto g(\theta)=\psi$ didefinisikan sebagai

L^{*} (ψ) = max_{{θ : g (θ) = ψ}} L (θ)

$L^*(\psi)=\max_{\{\theta:g(\theta)=\psi\}} L(\theta)$ sehingga jika

g

$g$ adalah satu- ke-satu, lalu

L^{*} (ψ) = L (g^{- 1} (ψ))

$L^*(\psi)=L(g^{-1}(\psi))$ (hlm. 45). Saya mencoba untuk menunjukkan Latihan 2.20 yang menyatakan bahwa jika

θ

$\theta$ adalah skalar (dan saya menganggap bahwa

g

$g$ seharusnya juga merupakan fungsi skalar), maka

I^{*} (g (\hat{θ})) = I (\hat{θ}) {| \frac{\partial g (\hat{θ})}{\partial \hat{θ}} |}^{- 2},

$I^*(g(\hat{\theta}))=I(\hat{\theta})\left|\frac{\partial g(\hat{\theta})}{\partial \hat{\theta}}\right|^{-2},$ di mana

I (θ) = - \frac{\partial^{2}}{\partial θ^{2}} l (θ)

$I(\theta)=-\frac{\partial^2}{\partial\theta^2} l(\theta)$ adalah informasi Fisher yang diamati dan

l (θ) = \log L (θ)

$l(\theta)=\log L(\theta)$ .

Jika $g$ adalah satu-ke-satu maka ini langsung menggunakan aturan rantai dan prinsip invarian. Saya hanya ingin tahu tentang beberapa hal:

Mengapa dia bersikeras untuk menulis nilai absolut? Ini bisa ditinggalkan, kan?
By $\frac{\partial g(\hat{\theta})}{\partial \hat{\theta}}$ ia maksud adalah fungsi $\frac{\partial g(\theta)}{\partial \theta}$ dievaluasi pada $\theta=\hat{\theta}$ , kan? Jika ini masalahnya, bukankah itu pilihan notasi yang buruk? Saya percaya bahwa notasi steno yang biasa untuk kata ini adalah $\frac{\partial g(\hat{\theta})}{\partial \theta}$ .
Bagaimana ini ditunjukkan ketika $g$ belum tentu satu-ke-satu?

mathematical-statistics inference likelihood fisher-information Stefan Hansen
sumber

Nilai absolut tidak perlu. Mungkin hanya salah ketik.
Kamu benar. Notasi yang lebih baik lagi adalah . $\frac{dg(\theta)}{d\theta}\Bigg|_{\theta=\hat{\theta}}$
Itu tidak berlaku secara umum. Perbaiki beberapa dan tentukan oleh . Rhs tidak akan ditentukan karena turunannya nol untuk setiap . $\psi_0$ $g:\mathbb{R}\to\mathbb{R}$ $g(\theta)=\psi_0$ $\theta$

Sebuah sketsa kasus biasa:

Untuk memuluskan satu-ke-satu dengan . Karena, , kita memiliki Oleh karena itu, $g$ $\psi=g(\theta)$ $d/d\psi = d\theta/d\psi\cdot d/d\theta$

\begin{aligned} I^{*} (ψ) & = - \frac{d^{2} L^{*} (ψ)}{d ψ^{2}} = - \frac{d}{d ψ} (\frac{d L^{*} (ψ)}{d ψ}) = - \frac{d}{d ψ} (\frac{d L^{*} (ψ)}{d θ} \frac{d θ}{d ψ}) \\ = - \frac{d^{2} L^{*} (ψ)}{d θ^{2}} {(\frac{d θ}{d ψ})}^{2} - \frac{d L^{*} (ψ)}{d θ} \frac{d^{2} θ}{d ψ^{2}} \frac{d θ}{d ψ} . \end{aligned}

$\begin{align} I^*(\psi) &= -\frac{d^2L^*(\psi)}{d\psi^2} = -\frac{d}{d\psi}\left(\frac{dL^*(\psi)}{d\psi} \right) = -\frac{d}{d\psi}\left(\frac{dL^*(\psi)}{d\theta} \frac{d\theta}{d\psi}\right) \\ &= - \frac{d^2L^*(\psi)}{d\theta^2}\left(\frac{d\theta}{d\psi}\right)^2 - \frac{dL^*(\psi)}{d\theta}\frac{d^2\theta}{d\psi^2} \frac{d\theta}{d\psi}\, . \end{align}$

\begin{aligned} I^{*} (g (\hat{θ})) & = - \frac{d^{2} L^{*} (g (\hat{θ}))}{d θ^{2}} {(\frac{d θ}{d ψ})}^{2} - \frac{d L^{*} (g (\hat{θ}))}{d θ} \frac{d^{2} θ}{d ψ^{2}} \frac{d θ}{d ψ} \\ = - \frac{d^{2} L (g^{- 1} (g (\hat{θ})))}{d θ^{2}} {(\frac{d g (θ)}{d θ} |_{θ = g^{- 1} (g (\hat{θ}))})}^{- 2} - \frac{d L (g^{- 1} (g (\hat{θ})))}{d θ} \frac{d^{2} θ}{d ψ^{2}} \frac{d θ}{d ψ} \\ = I (\hat{θ}) {(\frac{d g (θ)}{d θ} |_{θ = \hat{θ}})}^{- 2}, \end{aligned}

$\begin{align} I^*(g(\hat{\theta})) &= -\frac{d^2L^*(g(\hat{\theta}))}{d\theta^2}\left(\frac{d\theta}{d\psi}\right)^2 - \frac{dL^*(g(\hat{\theta}))}{d\theta}\frac{d^2\theta}{d\psi^2} \frac{d\theta}{d\psi} \\ &= -\frac{d^2L(g^{-1}(g(\hat{\theta})))}{d\theta^2} \left(\frac{dg(\theta)}{d\theta}\Bigg|_{\theta=g^{-1}(g(\hat{\theta}))}\right)^{-2} - \frac{dL(g^{-1}(g(\hat{\theta})))}{d\theta}\frac{d^2\theta}{d\psi^2} \frac{d\theta}{d\psi} \\ &= I(\hat{\theta}) \left(\frac{dg(\theta)}{d\theta}\Bigg|_{\theta=\hat{\theta}}\right)^{-2} \, , \end{align}$ di mana kami menggunakan .

d L (g^{- 1} (g (\hat{θ}))) / d θ = d L (\hat{θ}) / d θ = 0

$dL(g^{-1}(g(\hat{\theta})))/d\theta=dL(\hat{\theta})/d\theta=0$

Zen
sumber

Terima kasih telah mengatasi semua keraguan saya dan untuk contoh-contoh sederhana dengan konstanta . Sketsa kasus biasa Anda mirip dengan apa yang telah saya lakukan, jadi semuanya baik-baik saja. Terima kasih.

g

$g$

Stefan Hansen

Mengamati informasi Fisher di bawah transformasi

Jawaban: