Mengapa kriteria informasi (tidak disesuaikan

9

Dalam model deret waktu, seperti ARMA-GARCH, untuk memilih jeda atau urutan model kriteria informasi yang berbeda, seperti AIC, BIC, SIC, dll.

Pertanyaan saya sangat sederhana, mengapa kami tidak menggunakan disesuaikan $R^2$ untuk memilih model yang sesuai? Kita bisa pilih model yang menyebabkan nilai yang lebih tinggi dari adjusted $R^2$ . Karena baik disesuaikan $R^2$ dan kriteria informasi menghukum untuk sejumlah regressor tambahan dalam model, di mana mantan menghukum $R^2$ dan kemudian menghukum nilai kemungkinan.

regression time-series model-selection aic bic Neeraj
sumber

Saya mungkin kehilangan sesuatu dalam jawaban (di bawah) tetapi R-kuadrat serta Adjusted R-kuadrat sesuai untuk kelas yang relatif terbatas dari model estimasi OLS sedangkan AIC, BIC, dll., Sesuai untuk kelas yang lebih luas dari generalisasi linier model diperkirakan, mungkin, dengan ML atau varian.

Mike Hunter

12

Saya berpendapat bahwa setidaknya ketika membahas model linier (seperti model AR), dan AIC yang disesuaikan tidak jauh berbeda. $R^2$

Pertimbangkan pertanyaan apakah harus dimasukkan dalam Ini sama dengan membandingkan model $X_2$

y = \underset{(n \times K_{1})}{X_{1}} β_{1} + \underset{(n \times K_{2})}{X_{2}} β_{2} + ϵ

$y=\underset{(n\times K_1)}{X_1}\beta_1+\underset{(n\times K_2)}{X_2}\beta_2+\epsilon$

di mana

. Kami mengatakan bahwa

adalahmodel sebenarnyajika

. Perhatikan bahwa

. Model demikianbersarang. Sebuah pemilihan model prosedur

\begin{array}{rcl} M_{1} & : & y = X_{1} β_{1} + u \\ M_{2} & : & y = X_{1} β_{1} + X_{2} β_{2} + u, \end{array}

$\begin{eqnarray*} \mathcal{M}_1&:&y=X_1\beta_1+u\\ \mathcal{M}_2&:&y=X_1\beta_1+X_2\beta_2+u, \end{eqnarray*}$

E (u | X_{1}, X_{2}) = 0

$E(u|X_1,X_2)=0$

M_{2}

$\mathcal{M}_2$

β_{2} \neq 0

$\beta_2\neq0$

M_{1} \subset M_{2}

$\mathcal{M}_1\subset\mathcal{M}_2$

\hat{M}

$\widehat{\mathcal{M}}$ adalah aturan yang bergantung pada data yang memilih yang paling masuk akal dari beberapa model.

$\widehat{\mathcal{M}}$

\begin{array}{rcl} lim_{n \to \infty} P (\hat{M} = M_{1} | M_{1}) & = & 1 \\ lim_{n \to \infty} P (\hat{M} = M_{2} | M_{2}) & = & 1 \end{array}

$\begin{eqnarray*} \lim_{n\rightarrow\infty}P\bigl(\widehat{\mathcal{M}}=\mathcal{M}_1|\mathcal{M}_1\bigr)&=&1\\ \lim_{n\rightarrow\infty}P\bigl(\widehat{\mathcal{M}}=\mathcal{M}_2|\mathcal{M}_2\bigr)&=&1 \end{eqnarray*}$

Pertimbangkan penyesuaian . Yaitu, pilih jika . Karena secara monoton menurun dalam , prosedur ini setara dengan meminimalkan . Pada gilirannya, ini sama dengan meminimalkan . Untuk cukup besar , yang terakhir dapat ditulis sebagai mana $R^2$ $\mathcal{M}_1$ $\bar{R}^2_1>\bar{R}^2_2$ $\bar{R}^2$ $s^2$ $s^2$ $\log(s^2)$ $n$

\begin{array}{rcl} \log (s^{2}) & = & \log ({\hat{σ}}^{2} \frac{n}{n - K}) \\ = & \log ({\hat{σ}}^{2}) + \log (1 + \frac{K}{n - K}) \\ \approx & \log ({\hat{σ}}^{2}) + \frac{K}{n - K} \\ \approx & \log ({\hat{σ}}^{2}) + \frac{K}{n}, \end{array}

$\begin{eqnarray*} \log(s^2)&=&\log\left(\widehat{\sigma}^2\frac{n}{n-K}\right) \\ &=&\log(\widehat{\sigma}^2)+\log\left(1+\frac{K}{n-K}\right) \\ &\approx&\log(\widehat{\sigma}^2)+\frac{K}{n-K} \\ &\approx&\log(\widehat{\sigma}^2)+\frac{K}{n}, \end{eqnarray*}$

{\hat{σ}}^{2}

$\widehat{\sigma}^2$ adalah estimator ML dari varian kesalahan. Pemilihan model berdasarkan oleh karena itu asimptotik setara dengan memilih model dengan terkecil . Prosedur ini tidak konsisten.

{\bar{R}}^{2}

$\bar{R}^2$

\log ({\hat{σ}}^{2}) + K / n

$\log(\widehat{\sigma}^2)+K/n$

Proposisi :

lim_{n \to \infty} P ({\bar{R}}_{1}^{2} > {\bar{R}}_{2}^{2} | M_{1}) < 1

$\lim_{n\rightarrow\infty}P\bigl(\bar{R}^2_1>\bar{R}^2_2|\mathcal{M}_1\bigr)<1$

Bukti : mana baris ke-2 mengikuti karena statistik adalah statistik LR dalam kasus regresi linier yang mengikuti asimtotik distribusi nol. QED

\begin{array}{rcl} P ({\bar{R}}_{1}^{2} > {\bar{R}}_{2}^{2} | M_{1}) & \approx & P (\log (s_{1}^{2}) < \log (s_{2}^{2}) | M_{1}) \\ = & P (n \log (s_{1}^{2}) < n \log (s_{2}^{2}) | M_{1}) \\ \approx & P (n \log ({\hat{σ}}_{1}^{2}) + K_{1} < n \log ({\hat{σ}}_{2}^{2}) + K_{1} + K_{2} | M_{1}) \\ = & P (n [\log ({\hat{σ}}_{1}^{2}) - \log ({\hat{σ}}_{2}^{2})] < K_{2} | M_{1}) \\ \to & P (χ_{K_{2}}^{2} < K_{2}) \\ < & 1, \end{array}

$\begin{eqnarray*} P\bigl(\bar{R}^2_1>\bar{R}^2_2|\mathcal{M}_1\bigr)&\approx&P\bigl(\log(s^2_1)<\log(s^2_2)|\mathcal{M}_1\bigr) \\ &=&P\bigl(n\log(s^2_1)<n\log(s^2_2)|\mathcal{M}_1\bigr) \\ &\approx&P(n\log(\widehat{\sigma}^2_1)+K_1<n\log(\widehat{\sigma}^2_2)+K_1+K_2|\mathcal{M}_1) \\ &=&P(n[\log(\widehat{\sigma}^2_1)-\log(\widehat{\sigma}^2_2)]<K_2|\mathcal{M}_1) \\ &\rightarrow&P(\chi^2_{K_2}<K_2) \\ &<&1, \end{eqnarray*}$

χ_{K_{2}}^{2}

$\chi^2_{K_2}$

Sekarang pertimbangkan kriteria Akaike, Dengan demikian, AIC juga memperdagangkan pengurangan SSR yang tersirat oleh regressor tambahan terhadap "hukuman jangka" , "yang menunjuk ke arah yang berlawanan. Jadi, pilih jika , kalau tidak pilih .

A I C = \log ({\hat{σ}}^{2}) + 2 \frac{K}{n}

$AIC=\log(\widehat{\sigma}^2)+2\frac{K}{n}$

M_{1}

$\mathcal{M}_1$

A I C_{1} < A I C_{2}

$AIC_1<AIC_2$

M_{2}

$\mathcal{M}_2$

Dapat dilihat bahwa juga tidak konsisten dengan melanjutkan bukti di atas pada baris tiga dengan . disesuaikan dan dengan demikian memilih model "besar" dengan probabilitas positif, bahkan jika adalah model yang sebenarnya. $AIC$ $P(n\log(\widehat{\sigma}^2_1)+2K_1<n\log(\widehat{\sigma}^2_2)+2(K_1+K_2)|\mathcal{M}_1)$ $R^2$ $AIC$ $\mathcal{M}_2$ $\mathcal{M}_1$

Karena penalti untuk kompleksitas dalam AIC sedikit lebih besar daripada untuk disesuaikan , mungkin akan lebih rentan untuk melakukan overselect. Dan itu memiliki properti bagus lainnya (meminimalkan perbedaan KL ke model yang benar jika itu tidak dalam set model yang dipertimbangkan) yang tidak dibahas dalam posting saya. $R^2$

Christoph Hanck
sumber

1

Jawaban bagus: tidak terlalu berat tetapi masih tepat! Jika sudah ada kemarin, saya tidak akan memposting milik saya.

Richard Hardy

Bagaimana dengan kasus ARMA-GARCH? Bagaimana lakukan saat memilih istilah amung MA dan GARCH?

R_{a d j}^{2}

$R^2_{adj}$

Zachary Blumenfeld

Saya tidak akan berani mengatakannya. Ketika Anda menjelaskan itu bahkan tidak jelas apa artinya R2 untuk kesesuaian model seperti itu.

Christoph Hanck

5

Hukuman dalam tidak menghasilkan properti bagus dalam hal pemilihan model seperti yang dimiliki oleh AIC atau BIC. Hukuman dalam sudah cukup untuk membuat sebagai penaksir yang tidak bias dari populasi ketika tak satu pun dari para regressor yang benar-benar termasuk dalam model (sesuai posting blog Dave Giles ' "In What Sense Apakah "Disesuaikan" R-Squared Tidak Cocok? " dan " Lebih lanjut tentang Properti dari "Disesuaikan" Koefisien Determinasi " ); Namun, bukan pemilih model yang optimal. $R^2_{adj}$ $R^2_{adj}$ $R^2_{adj}$ $R^2$ $R^2_{adj}$

(Mungkin ada bukti berdasarkan kontradiksi: jika AIC optimal dalam satu hal dan BIC optimal dalam hal lain, dan tidak setara dengan keduanya, maka tidak optimal di kedua dari dua indera ini.) $R^2_{adj}$ $R^2_{adj}$

Richard Hardy
sumber

Berapa banyak parameter GARCH yang harus saya tambahkan sebelum meningkat? :) .... Saya percaya argumen serupa dapat dibuat untuk asumsi kesalahan berkorelasi (seperti dalam model MA), model GLS tidak mengurangi jumlah residu kuadrat atas kuadrat terkecil biasa. Dalam MA dan GARCH, parameter (bukan variabel penjelas, yang disesuaikan dengan ) ditambahkan ke model. Parameter MA dan GARCH tidak ditambahkan untuk mengurangi , melainkan ditambahkan kembali untuk meningkatkan kemungkinan dan / atau mengurangi jumlah residu kuadrat tertimbang untuk mencerminkan kurangnya istilah kesalahan awal.

R^{2}

$R^2$

R^{2} a d j

$R^2{adj}$

S S R

$SSR$

Zachary Blumenfeld

Apakah ini benar-benar membahas posting asli atau jawaban saya? Bagaimanapun, saya setuju dengan poin Anda.

Richard Hardy

Apa yang saya coba tunjukkan adalah bahwa tidak dapat benar-benar digunakan untuk memilih komponen GARCH (dan mungkin juga komponen MA) karena didasarkan pada fraksi dibandingkan yang merupakan penduga yang bias. varians ketika istilah kesalahan tidak iid. (Ini hanya kasus tertentu dari bias yang Anda bicarakan). Dalam kasus ARMA-GARCH, Anda tidak akan pernah memilih model dengan komponen GARCH, bahkan jika ada volatilitas stokastik dalam data, karena tidak meningkatkan . Pada dasarnya, saya setuju dengan Anda dengan mencoba memberikan contoh spesifik.

R_{a d j}^{2}

$R^2_{adj}$

S S T - S S R

$SST-SSR$

S S T

$SST$

R^{2}

$R^2$

Zachary Blumenfeld

Mengapa kriteria informasi (tidak disesuaikan

Jawaban: