Jeffrey sebelum kemungkinan binomial

Jika saya menggunakan Jeffreys sebelum untuk parameter probabilitas binomial maka ini berarti menggunakan distribusi . $\theta$ $\theta \sim beta(1/2,1/2)$

Jika saya bertransformasi ke kerangka referensi baru maka jelas juga tidak didistribusikan sebagai distribusi . $\phi = \theta^2$ $\phi$ $beta(1/2,1/2)$

Pertanyaan saya adalah dalam arti apakah Jeffreys sebelumnya tidak mengikuti reparameterisasi? Saya pikir saya salah paham topiknya jujur ...

Terbaik,

Ben

bayesian jeffreys-prior ben18785
sumber

Jeffreys 'prior adalah invarian dalam arti bahwa memulai dengan Jeffrey sebelum untuk satu parameterisasi dan menjalankan perubahan variabel yang sesuai identik dengan menurunkan Jeffrey langsung secara langsung untuk parameterisasi baru ini. Sebenarnya, equivariant akan lebih tepat istilah daripada invarian .

Xi'an

@ ben18785: lihat stats.stackexchange.com/questions/38962/…

Zen

Lihat juga math.stackexchange.com/questions/210607/… (kurang lebih pertanyaan yang sama saya pikir, tetapi di situs yang berbeda).

Nathaniel

Lihat juga stats.stackexchange.com/questions/139001/…

Christoph Hanck

Mari kita memiliki , di mana adalah fungsi monoton dari dan biarkan menjadi kebalikan dari , sehingga . Kami dapat memperoleh distribusi sebelumnya dengan dua cara: $\phi = g(\theta)$ $g$ $\theta$ $h$ $g$ $\theta = h(\phi)$ $p_{J}(\phi)$

Mulai dengan model Binomial (1) reparameterize model dengan untuk mendapatkan dan dapatkan distribusi sebelumnya Jeffrey untuk model ini. $p (y | θ) = (\binom{n}{y}) θ^{y} (1 - θ)^{n - y}$ $\begin{equation} \label{original} p(y | \theta) = \binom{n}{y} \theta^{y} (1-\theta)^{n-y} \end{equation}$ $\phi = g(\theta)$ $p (y | ϕ) = (\binom{n}{y}) h (ϕ)^{y} (1 - h (ϕ))^{n - y}$ $p(y | \phi) = \binom{n}{y} h(\phi)^{y} (1-h(\phi))^{n-y}$ $p_{J}(\phi)$
Dapatkan distribusi Jeffrey sebelumnya dari model Binomial asli 1 dan terapkan rumus perubahan variabel untuk mendapatkan kepadatan sebelum diinduksi pada $p_{J}(\theta)$ $\phi$ $p_{J} (ϕ) = p_{J} (h (ϕ)) | \frac{d h}{d ϕ} | .$ $p_{J}(\phi) = p_{J}(h(\phi)) |\frac{dh}{d\phi}|.$

Agar tidak berbeda dengan reparameterisasi berarti densitas diturunkan dalam kedua cara harus sama. Sebelum Jeffrey memiliki karakteristik ini [Referensi: Kursus Pertama dalam Metode Statistik Bayesian oleh P. Hoff .] $p_{J}(\phi)$

Untuk menjawab komentar Anda. Untuk mendapatkan distribusi Jeffrey sebelumnya dari kemungkinan untuk model Binomial kita harus menghitung informasi Fisher dengan mengambil logaritma kemungkinan dan menghitung turunan kedua dan informasi Fisher adalah $p_{J}(\theta)$

p (y | θ) = (\binom{n}{y}) θ^{y} (1 - θ)^{n - y}

$p(y | \theta) = \binom{n}{y} \theta^{y} (1-\theta)^{n-y}$

l

$l$

l

$l$

\begin{aligned} l : = catatan (hal (y | θ)) & \propto y catatan (θ) + (n - y) catatan (1 - θ) \\ \frac{\partial l}{\partial θ} & = \frac{y}{θ} - \frac{n - y}{1 - θ} \\ \frac{\partial^{2} l}{\partial θ^{2}} & = - \frac{y}{θ^{2}} - \frac{n - y}{(1 - θ)^{2}} \end{aligned}

$\begin{align*} l := \log(p(y | \theta)) &\propto y \log(\theta) + (n-y) \log(1-\theta) \\ \frac{\partial l }{\partial \theta} &= \frac{y}{\theta} - \frac{n-y}{1-\theta} \\ \frac{\partial^{2} l }{\partial \theta^{2}} &= -\frac{y}{\theta^{2}} - \frac{n-y}{ (1-\theta)^{2} } \end{align*}$

\begin{aligned} saya (θ) & = - E (\frac{\partial^{2} l}{\partial θ^{2}} | θ) \\ = \frac{n θ}{θ^{2}} + \frac{n - n θ}{(1 - θ)^{2}} \\ = \frac{n}{θ (1 - θ)} \\ \propto θ^{- 1} (1 - θ)^{- 1} . \end{aligned}

$\begin{align*} I(\theta) &= -E(\frac{\partial^{2} l }{\partial \theta^{2}} | \theta) \\ &= \frac{n\theta}{\theta^{2}} + \frac{n - n \theta}{(1-\theta)^{2}} \\ &= \frac{n}{\theta ( 1- \theta)} \\ &\propto \theta^{-1} (1-\theta)^{-1}. \end{align*}$ Sebelum Jeffrey untuk model ini adalah yang merupakan .

\begin{aligned} {hal}_{J} (θ) & = \sqrt{saya (θ)} \\ \propto θ^{- 1 / 2} (1 - θ)^{- 1 / 2} \end{aligned}

$\begin{align*} p_{J}(\theta) &= \sqrt{I(\theta)} \\ &\propto \theta^{-1/2} (1-\theta)^{-1/2} \end{align*}$

beta (1 / 2, 1 / 2)

$\texttt{beta}(1/2, 1/2)$

Marko Lalović
sumber

Terima kasih atas jawaban anda. Sayangnya saya agak lambat. Dalam hal apa kita dapat memperoleh prior dari suatu kemungkinan? Mereka adalah dua hal yang terpisah, dan yang terakhir tidak menyiratkan yang pertama ...

ben18785

Saya menjawab di atas dengan memperoleh Jeffrey sebelumnya dari kemungkinan model Binomial.

p_{J} (θ)

$p_{J}(\theta)$

Marko Lalović

Jeffrey sebelum kemungkinan binomial

Jawaban: