Dapatkah buku Burnham-Anderson tentang multimodel inferensi direkomendasikan?

14

Seperti termotivasi oleh perubahan terbaru dari statistik pemilihan model default dalam paket perkiraan R dari AIC ke AICc, saya ingin tahu apakah yang terakhir ini memang berlaku di mana pun yang sebelumnya. Saya memiliki serangkaian pertanyaan dengan rasa hormat ini dan ini adalah yang pertama.

Saya tahu bahwa untuk mengganti AIC dengan AICc di mana-mana adalah apa yang direkomendasikan oleh buku terkenal di (1) oleh Burnham dan Anderson (non-ahli statistik), sebagaimana dirangkum di sini , direkomendasikan. Buku ini kadang-kadang dirujuk secara tidak kritis oleh ahli statistik yang lebih muda, lihat misalnya komentar untuk posting blog ini oleh Rob Hyndman , tetapi ahli statistik Brian Ripley menyarankan dengan cara yang sangat berbeda:

“Burnham and Anderson (2002) is a book I would recommend people NOT read until 
they have read the primary literature. I see no evidence that the authors have 
actually read Akaike’s papers." [quoted from [AIC MYTHS AND MISUNDERSTANDINGS][4] by
Burnham-Anderson]

Itu mengikuti dari apa yang Ripley tulis tentang AIC dan teori terkait bahwa peringatan itu harus ditanggapi dengan serius. Saya memiliki koleksi baik dari makalah Akaike sendiri dan buku Burnham-Anderson. Saya akhirnya akan memiliki pendapat saya sendiri tentang kualitas buku itu, tetapi juga akan membantu untuk mengetahui apa yang dipikirkan oleh komunitas ahli statistik, baik muda maupun tua. Secara khusus, apakah ada profesor statistik (atau mahasiswa statistik baik lainnya) yang secara eksplisit merekomendasikan buku ini sebagai ringkasan pengetahuan yang bermanfaat tentang penggunaan AIC untuk pemilihan model?

Referensi:

(1) Burnham, KP & Anderson, DR Pemilihan model dan inferensi multimodel: pendekatan informasi-teori praktis Springer, 2002

PS. Sebagai balasan untuk "jawaban" baru-baru ini yang menyatakan bahwa "Dr.Burnham adalah ahli statistik Ph.D" Saya ingin menambahkan klarifikasi ini. Ya, dengan dirinya sendiri, ia adalah ahli statistik, Rekan dari ASA dan penerima berbagai penghargaan profesional, termasuk Medali Penghargaan Berprestasi dari ASA. Tapi siapa bilang dia bukan? Yang saya katakan di atas adalah bahwa sebagai pasangan penulis mereka bukan ahli statistik dan buku ini mencerminkan fakta ini.

Hibernasi
sumber
2
Makalah "Mitos dan Kesalahpahaman AIC" dapat ditemukan di sini . Saya belum melihatnya (meskipun saya sudah melihat komentar Ripley sebelumnya).
Glen_b -Reinstate Monica
3
Pertanyaannya menyediakan tautan, tetapi saya pikir akan sangat membantu bagi pembaca jika pertanyaan itu sendiri memberi petunjuk tentang apa yang mungkin buruk tentang isi buku Burnham dan Anderson. (Jika apa yang mereka katakan akurat, jelas, membantu, dll., Maka tidak masalah apakah mereka benar-benar membaca makalah Akaike.) Juga, menurut saya AIC dan metode terkait masih kontroversial; jika demikian, maka buku apa pun yang menyajikannya akan memiliki pencela. Dan saran bahwa setiap orang harus membaca makalah asli sebelum membaca buku yang bercita-cita untuk memberikan pengantar topik tampaknya dipertanyakan.
Mars
7
Saya sudah membaca dua makalah utama Akaike, dan satu di Schwarz di BIC, dan buku Burnham dan Anderson (ada di rak saya sekarang), dan juga (seperti yang Anda lihat), kritik singkat Ripley. Saya ingin sekali melihat Ripley menjelaskan kritik secara mendetail (tanpa aspirasi tentang siapa yang mungkin telah membaca apa) - sebagaimana yang terjadi, benar-benar tidak ada yang substantif untuk dibalas oleh Burnham dan Anderson. Jika ada sesuatu untuk itu (dan mungkin ada yang saya tahu), itu layak lebih dari beberapa baris pada milis R-help.
Glen_b -Reinstate Monica
2
@Gleb_b Pandangan Ripley dapat disimpulkan dari bukunya tahun 1996 tentang pengenalan pola, yang ia sebut dalam posting daftar R, lihat misalnya bab 2. Rincian matematis dan komentar tentang aspek lain dari pekerjaan Akaike (misalnya apa yang A dalam AIC berdiri untuk) membuat saya berpikir dia memahami bidang ini dengan baik dan telah membaca lebih dari beberapa makalah Akaike.
Hibernasi
3
Menempatkan dalam dua sen yang berbeda: Seberapa sering AIC dan AICc memberikan saran yang berbeda? Dalam pengalaman saya, mereka menyarankan model yang sama.
Peter Flom - Reinstate Monica

Jawaban:

3

OP tampaknya mencari survei berkualitas tinggi dari ahli statistik berkualitas tinggi untuk membantu menilai apakah satu buku berkualitas tinggi terutama yang berkaitan dengan debat AIC versus AICc. Situs ini tidak secara khusus diarahkan untuk survei sistematis. Sebagai gantinya saya akan mencoba menjawab pertanyaan yang mendasarinya secara langsung.

AIC dan AICc keduanya mencetak model sesuai dengan tradeoff heuristik antara model fit (dalam hal kemungkinan) dan overfit (dalam hal jumlah parameter). Dalam tradeoff ini, AICc memberikan penalti yang sedikit lebih besar pada jumlah parameter. Dengan demikian, AICc selalu merekomendasikan model yang memiliki kompleksitas kurang dari atau sama dengan kompleksitas model AIC terbaik. Dalam hal ini hubungan antara keduanya sangat sederhana, meskipun ada argumen rumit yang mendasari derivasi mereka.

AIC dan AICc hanya dua dari bidang besar kriteria informasi kandidat, dengan BIC dan DIC mungkin menjadi alternatif utama. BIC jauh lebih konservatif (menghukum sejumlah besar parameter model) daripada AIC atau AICc dalam banyak kasus. Pertanyaan tentang kriteria mana yang terbaik adalah yang benar-benar spesifik masalah. Seseorang dapat secara sah lebih suka kriteria yang sangat konservatif dalam kasus-kasus di mana prediksi out-of-sample diperlukan.

FWIW, saya menemukan tingkat konservatisme AICc biasanya lebih disukai daripada AIC dalam studi simulasi yang luas tentang kesalahan prediksi dalam model penangkapan-tangkap kembali.

zkurtz
sumber