Interpretasi interval prediksi Bayesian 95%

Asumsikan model regresi bivariat berikut: mana adalah iid untuk .

y_{i} = β x_{i} + u_{i},

$y_i = \beta x_i + u_i,$

u_{i}

$u_i$

N (0, σ^{2} = 9)

$N(0, \sigma^2 = 9)$

i = 1, \dots, n

$i = 1,\ldots, n$

Asumsikan sebelumnya noninformatif , maka dapat ditunjukkan bahwa pdf posterior untuk adalah mana $p(\beta) \propto \text{constant}$ $\beta$

p (β | y) = (18 π)^{- \frac{1}{2}} {(\sum_{i = 1}^{n} x_{i}^{2})}^{\frac{1}{2}} \exp [- \frac{1}{18} \sum_{i = 1}^{n} x_{i}^{2} (β - \hat{β})^{2}],

$p(\beta|\mathbf{y}) = (18\pi)^{-\frac{1}{2}}\left(\sum_{i=1}^n x_i^2\right)^{\frac{1}{2}} \exp\left[-\frac{1}{18}\sum_{i=1}^n x_i^2 (\beta - \hat{\beta})^2\right],$

\hat{β} = (\sum_{i = 1}^{n} y_{i} x_{i}) / (\sum_{i = 1}^{n} x_{i}^{2}) .

$\hat{\beta} = (\sum_{i=1}^n y_ix_i)/(\sum_{i=1}^n x_i^2).$

Sekarang pertimbangkan nilai dengan nilai , : mana iid , maka kita dapat menunjukkan bahwa adalah kepadatan normal dengan ekspektasi dan varian Dengan demikian fungsi kepadatan probabilitas posterior untuk , tergantung pada , adalah $y$ $x$ $x_{n+1}$

y_{n + 1} = β x_{n + 1} + u_{n + 1},

$y_{n+1} = \beta x_{n+1} + u_{n+1},$

u_{n + 1}

$u_{n+1}$

N (0, σ^{2} = 9)

$N(0, \sigma^2 = 9)$

p (y_{n + 1} | x_{n + 1}, y) = \int_{β} p (y_{n + 1} | x_{n + 1}, β, y) p (β | y) d β

$p(y_{n+1}|x_{n+1},\mathbf{y}) = \int_{\beta} p(y_{n+1}|x_{n+1}, \beta, \mathbf{y}) p(\beta|\mathbf{y})d\beta$

E [y_{n + 1} | x_{n + 1}, y] = \hat{β} x_{n + 1}, v a r [y_{n + 1} | x_{n + 1}, y] = \frac{9 [x_{n + 1}^{2} + \sum_{i = 1}^{n} x_{i}^{2}]}{\sum_{i = 1}^{n} x_{i}^{2}} .

$E[y_{n+1}|x_{n+1},\mathbf{y}] = \hat{\beta}x_{n+1},\quad {\rm var}[y_{n+1}|x_{n+1},\mathbf{y}] = \frac{9[x_{n+1}^2 + \sum_{i=1}^n x_i^2]}{\sum_{i=1}^n x_i^2}.$

y_{n + 1}

$y_{n+1}$

x_{n + 1}

$x_{n+1}$

\begin{aligned} p (y_{n + 1} | x_{n + 1}, y) = & {(\frac{18 π [x_{n + 1}^{2} + \sum_{i = 1}^{n} x_{i}^{2}]}{\sum_{i = 1}^{n} x_{i}^{2}})}^{- \frac{1}{2}} \\ \times \exp {- \frac{\sum_{i = 1}^{n} x_{i}^{2}}{18 (x_{n + 1}^{2} + \sum_{i = 1}^{n} x_{i}^{2})} {(y_{n + 1} - \hat{β} x_{n + 1})}^{2}} \end{aligned}

$\begin{align} p(y_{n+1}|x_{n+1},\mathbf{y}) = &\left(\frac{18\pi\left[x_{n+1}^2 + \displaystyle{\sum_{i=1}^n x_i^2}\right]}{ \displaystyle{\sum_{i=1}^n x_i^2}}\right)^{-\frac{1}{2}} \\ & \times \exp\left\{-\frac{\displaystyle{\sum_{i=1}^n x_i^2}}{18\left(x_{n+1}^2 + \displaystyle{\sum_{i=1}^n x_i^2}\right)}\left(y_{n+1}-\hat{\beta}x_{n+1}\right)^2\right\} \end{align}$

Sekarang pertanyaannya adalah: Tentukan interval prediksi 95% untuk $y_{n+1}$ dan tafsirkan dengan cermat. Aspek apa dari proses pembuatan data yang gagal diakomodasikan oleh interval kita?

Saya tidak terlalu yakin tentang bagaimana menjawab pertanyaan tetapi inilah upaya saya:

Jadi pada dasarnya kita perlu menemukan beberapa dan sehingga $a$ $b$ $P(a < y_{n+1} < b) = \int_{a}^b p(y_{n+1}|x_{n+1}, \mathbf{y}) dy_{n+1} = 95\%$

Sekarang kita tahu bahwa mana dan , Oleh karena itu: $y_{n+1}|x_{n+1}, \mathbf{y} \sim N(m, v^2)$ $m = E[y_{n+1}|x_{n+1},\mathbf{y}]$ $v^2 = var[y_{n+1}|x_{n+1},\mathbf{y}]$

\frac{y_{n + 1} - m}{v} \sim N (0, 1)

$\frac{y_{n+1}-m}{v} \sim N(0,1)$

P (- 1.96 < \frac{y_{n + 1} - m}{v} < 1.96) = 95 %

$P(-1.96 < \frac{y_{n+1}-m}{v} < 1.96) = 95\%$

P (- 1.96 v + m < y_{n + 1} < 1.96 v + m) = 95 %

$P(-1.96v+m < y_{n+1} < 1.96v+m) = 95\%$

Sekarang karena kita mengkondisikan pada dan melihat ekspresi untuk dan , kita melihat bahwa dan adalah nilai yang diketahui. Jadi kita dapat mengambil dan . yaitu, kita dapat memilih banyak kemungkinan lain dari dan yang menghasilkan probabilitas ... tetapi bagaimana hal ini terkait dengan menjawab bagian dari pertanyaan yang menanyakan aspek proses pembuatan data apa yang gagal diakomodasi oleh interval ini? $x_{n+1}$ $v$ $m$ $v$ $m$ $a = -1.96v+m$ $b = 1.96v+m$ $a$ $b$ $95\%$

probability self-study bayesian confidence-interval credible-interval TeTs
sumber

Silakan tambahkan tag belajar sendiri jika ini adalah pekerjaan rumah atau upaya untuk masalah buku teks.

Nick Cox

@Nick Cox Terima kasih telah memberi tahu saya, saya menambahkan tag belajar mandiri.

TeTs

Mungkinkah interval secara khusus tidak memberi kita pemahaman tentang bentuk proses pembuatan data? Artinya, kita tidak tahu kombinasi mean / varian hanya dari interval?

Pertanyaan aneh. Apakah ada konteks sebelum latihan? Mengapa Anda mengatakan model regresi bivariat ?

Stéphane Laurent

Interpretasi interval prediksi Bayesian 95%

Jawaban: