Interpretasi nomor AIC & BIC

23

Saya mencari contoh bagaimana menafsirkan estimasi AIC (kriteria informasi Akaike) dan BIC (kriteria informasi Bayesian).

Bisakah perbedaan negatif antara BIC ditafsirkan sebagai peluang posterior dari satu model di atas yang lain? Bagaimana saya bisa mengatakannya dengan kata-kata? Misalnya BIC = -2 dapat menyiratkan bahwa peluang model yang lebih baik daripada model lainnya sekitar $e^2= 7.4$ ?

Setiap saran dasar dihargai oleh orang baru ini.

interpretation aic bic Juan
sumber

Lihatlah bab 2. Bagian 2.6 - yang sebagian tersedia di buku-buku google - mungkin secara khusus membantu Anda. books.google.se/… (Ref: Pemilihan Model dan Inferensi Multi-Model oleh Kenneth P. Burnham dan David R. Anderson. Springer Verlag)

boscovich

6

untuk model dariset modelaprioridapat dikurangkan ke mana model terbaik dari set model akan memiliki . Kita dapat menggunakan nilai untuk memperkirakan kekuatan bukti ( ) untuk semua model dalam set model di mana: $AIC$ $i$ $\mathsf{\Delta}_i=AIC_i-minAIC$ $\mathsf{\Delta}=0$ $\mathsf{\Delta}_i$ $w_i$ Ini sering disebut sebagai "bobot bukti" untuk modeldiberikanset modelapriori. Seiringmeningkat,berkurang yang menyarankan modelkurang masuk akal. Nilai-nilaiini dapat diartikan sebagai probabilitas bahwa modeladalah model terbaik yang diberikanset modelapriori. Kami juga bisa menghitung kemungkinan relatif modelvs Model

w_{i} = \frac{e^{(- 0.5 Δ_{i})}}{\sum_{r = 1}^{R} e^{(- 0.5 Δ_{i})}} .

$w_i = \frac{e^{(-0.5\mathsf{\Delta}_i)}}{\sum_{r=1}^Re^{(-0.5\mathsf{\Delta}_i)}}.$

i

$i$

Δ_{i}

$\mathsf{\Delta}_i$

w_{i}

$w_i$

i

$i$

w_{i}

$w_i$

i

$i$

i

$i$

j

$j$ sebagai

. Sebagai contoh, jika

dan

maka kita dapat mengatakan model

adalah 8 kali lebih mungkin daripada model

w_{i} / w_{j}

$w_i/w_j$

w_{i} = 0.8

$w_i = 0.8$

w_{j} = 0.1

$w_j = 0.1$

i

$i$

j

$j$ .

Perhatikan, ketika model 1 adalah model terbaik ( terkecil ). Burnham dan Anderson (2002) menyebut ini sebagai rasio bukti. Tabel ini menunjukkan bagaimana rasio bukti berubah sehubungan dengan model terbaik. $w_1/w_2 = e^{0.5\Delta_2}$ $AIC$

Information Loss (Delta)    Evidence Ratio
0                           1.0
2                           2.7
4                           7.4
8                           54.6
10                          148.4
12                          403.4
15                          1808.0

Referensi

Burnham, KP, dan DR Anderson. 2002. Pemilihan model dan inferensi multimodel: pendekatan informasi-teori praktis. Edisi kedua. Springer, New York, AS.

Anderson, DR 2008. Model berdasarkan inferensi dalam ilmu kehidupan: primer pada bukti. Springer, New York, AS.

RioRaider
sumber

maukah Anda mengklarifikasi apa yang dirujuk oleh

, khususnya karena indeks penjumlahan tidak muncul di dalam penjumlahan. Apakah

span ruang model?

r

$r$

R

$R$

dopexxx

Ada model R dalam set model.

RioRaider

3

Saya tidak berpikir ada interpretasi sederhana AIC atau BIC seperti itu. Keduanya adalah jumlah yang mengambil kemungkinan log dan menerapkan penalti untuk jumlah parameter yang diperkirakan. Hukuman spesifik dijelaskan untuk AIC oleh Akaike dalam makalahnya mulai tahun 1974. BIC dipilih oleh Gideon Schwarz dalam makalahnya tahun 1978 dan dimotivasi oleh argumen Bayesian.

Michael R. Chernick
sumber

2

Hukuman dapat diartikan sebagai model yang disukai sebelumnya dengan ukuran tertentu. Jika Anda mengadopsi sebelumnya (yang memiliki beberapa justifikasi teoritik-informasi), maka Anda dapat menghitung rasio odds posterior langsung dari nilai IC. Juga, @RioRaider menyebutkan bobot Akaike, yang memberi Anda probabilitas bahwa model yang diberikan adalah model terbaik dari set dalam hal divergensi KL. ( ref - lihat hlm. 800).

David J. Harris

1

Anda mungkin menggunakan BIC sebagai hasil dari perkiraan faktor Bayes. Karenanya Anda tidak mempertimbangkan (kurang lebih) distribusi sebelumnya. BIC dalam tahap pemilihan model berguna ketika Anda membandingkan model. Untuk sepenuhnya memahami BIC, faktor Bayes Saya sangat merekomendasikan membaca artikel (bagian 4): http://www.stat.washington.edu/raftery/Research/PDF/socmeth1995.pdf untuk menambah pengetahuan dengan: http: // www .stat.washington.edu / raftery / Research / PDF / kass1995.pdf

Robert
sumber

Interpretasi nomor AIC & BIC

Jawaban: