Proses AR (1) dengan kesalahan pengukuran heteroskedastik

1. Masalahnya

Saya memiliki beberapa pengukuran variabel , di mana , di mana saya memiliki distribusi diperoleh melalui MCMC, yang untuk kesederhanaan saya akan menganggapnya sebagai gaussian rata-rata dan varians \ sigma_t ^ 2 .$y_t$$t=1,2,..,n$$f_{y_t}(y_t)$$\mu_t$$\sigma_t^2$

Saya punya model fisik untuk pengamatan itu, katakanlah $g(t)$ , tetapi residual $r_t = \mu_t-g(t)$ tampaknya berkorelasi; khususnya, saya memiliki alasan fisik untuk berpikir bahwa proses $AR(1)$ akan cukup untuk memperhitungkan korelasinya, dan saya berencana untuk mendapatkan koefisien kecocokan melalui MCMC, yang saya perlukan kemungkinannya . Saya pikir solusinya agak sederhana, tetapi saya tidak begitu yakin (sepertinya sangat sederhana, bahwa saya pikir saya kehilangan sesuatu).

2. Menurunkan kemungkinan

Proses AR (1) nol-rata $AR(1)$dapat ditulis sebagai:

$$X_t = \phi X_{t-1}+\varepsilon_t,\ \ \ (1)$$ mana saya akan mengasumsikan $\varepsilon_t\sim N(0,\sigma_w^2)$ . Parameter yang diestimasi adalah, oleh karena itu, $\theta = \{\phi,\sigma_w^2\}$ (dalam kasus saya, saya juga harus menambahkan parameter model $g(t)$ , tetapi bukan itu masalahnya). Apa yang saya amati, bagaimanapun, adalah variabel $$R_t = X_t+\eta_t,\ \ \ (2)$$ mana saya mengasumsikan $\eta_t\sim N(0,\sigma_t^2)$ , dan $\sigma_t^2$ diketahui (the kesalahan pengukuran). Karena $X_t$ adalah proses gaussian, $R_t$ juga. Secara khusus, saya tahu itu $$X_1 \sim N(0,\sigma_w^2/[1-\phi^2]),$$ oleh karena itu, $$R_1 \sim N(0,\sigma_w^2/[1-\phi^2]+\sigma_t^2).$$ Tantangan berikutnya adalah mendapatkan $R_t|R_{t-1}$ untuk $t\neq 1$ . Untuk mendapatkan distribusi variabel acak ini, perhatikan bahwa, menggunakan persamaan. $(2)$ Saya dapat menulis $$X_{t-1} = R_{t-1}-\eta_{t-1}.\ \ \ (3)$$ Menggunakan persamaan. $(2)$ , dan menggunakan definisi persamaan. $(1)$ , saya bisa menulis, $$R_{t} = X_t+\eta_t = \phi X_{t-1}+\varepsilon_{t}+\eta_t.$$ Menggunakan persamaan $(3)$ dalam ungkapan terakhir ini, maka, saya memperoleh, $$R_{t} = \phi (R_{t-1}-\eta_{t-1})+\varepsilon_{t}+\eta_t,$$ dengan demikian, $$R_t|R_{t-1} = \phi (r_{t-1}-\eta_{t-1})+\varepsilon_{t}+\eta_t,$$ dan, karenanya, $$R_t|R_{t-1} \sim N(\phi r_{t-1},\sigma_w^2+\sigma_t^2-\phi^2\sigma^2_{t-1}).$$ Akhirnya, saya dapat menulis fungsi kemungkinan sebagai $$L(\theta) = f_{R_1}(R_1=r_1) \prod_{t=2}^{n} f_{R_{t}|R_{t-1}}(R_t=r_t|R_{t-1}=r_{t-1}),$$ mana $f(\cdot)$ adalah distribusi dari variabel yang baru saja saya definisikan, .ie, mendefinisikan $\sigma'^2 = \sigma_w^2/[1-\phi^2]+\sigma_t^2,$ $$f_{R_1}(R_1=r_1) = \frac{1}{\sqrt{2\pi \sigma'^2}}\text{exp}\left(-\frac{r_1^2}{2\sigma'^2}\right),$$ dan mendefinisikan $\sigma^2(t) = \sigma_w^2+\sigma_t^2-\phi^2\sigma^2_{t-1}$ , $$f_{R_{t}|R_{t-1}}(R_t=r_t|R_{t-1}=r_{t-1})=\frac{1}{\sqrt{2\pi \sigma^2(t)}}\text{exp}\left(-\frac{(r_t-\phi r_{t-1})^2}{2\sigma^2(t)}\right)$$

3. Pertanyaan

1. Apakah derivasi saya baik-baik saja? Saya tidak punya sumber daya untuk membandingkan selain simulasi (yang tampaknya setuju), dan saya bukan ahli statistik!
2. Apakah ada derivasi hal-hal semacam ini dalam literatur untuk proses atau proses ? $MA(1)$$ARMA(1,1)$Sebuah studi untuk proses secara umum yang dapat dikhususkan untuk kasus ini akan menyenangkan.$ARMA(p,q)$

1. Anda berada di jalur yang benar, tetapi Anda telah membuat kesalahan dalam menurunkan distribusi diberikan : mean kondisional bukan . Ini , di mana adalah estimasi terbaik Anda dari dari periode sebelumnya. Nilai termasuk informasi dari pengamatan sebelumnya serta . (Untuk melihat ini, pertimbangkan situasi di mana dan dapat diabaikan, sehingga Anda secara efektif memperkirakan mean tetap. Setelah banyak pengamatan, ketidakpastian Anda tentang akan jauh lebih kecil daripada$R_t$$R_{t-1}$$\phi r_{t-1}$$\phi \widehat{x}_{t-1}$$\widehat{x}_{t-1}$$X$$\widehat{x}_{t-1}$$r_{t-1}$$\sigma_w$$\phi$$X$$\sigma_{\eta}$ .) ini dapat membingungkan pada awalnya, karena Anda mengamati dan tidak . Itu hanya berarti bahwa Anda berurusan dengan model ruang-negara .$R$$X$

2. Ya, ada kerangka kerja yang sangat umum untuk menggunakan model linear-Gaussian dengan pengamatan bising, disebut filter Kalman . Ini berlaku untuk apa pun dengan struktur ARIMA dan banyak lagi model juga. bervariasi waktu adalah OK untuk filter Kalman, asalkan itu tidak stokastik. Model dengan, misalnya, volatilitas stokastik memerlukan metode yang lebih umum. Untuk melihat bagaimana filter Kalman diturunkan, coba Durbin-Koopman atau bab 3 Harvey . Dalam notasi Harvey, model Anda memiliki , , , , dan .$\sigma_{\eta}$$Z=1$$d=c=0$$H_t = \sigma_{\eta,t}^2$$T=\phi$$R=1$$Q=\sigma^2_w$

Jujur, Anda harus kode ini dalam BUG atau STAN dan tidak khawatir tentang hal itu dari sana. Kecuali jika ini adalah pertanyaan teoretis.