Pemilihan model dengan regresi logistik Firth

21

Dalam set data kecil ( ) yang saya kerjakan, beberapa variabel memberi saya prediksi / pemisahan yang sempurna . Jadi saya menggunakan regresi logistik Firth untuk menangani masalah ini.n∼100

Jika saya memilih model terbaik oleh AIC atau BIC , haruskah saya memasukkan istilah hukuman Firth dalam kemungkinan ketika menghitung kriteria informasi ini?

logistic model-selection aic separation Tugas
sumber
2
Maukah Anda menjelaskan mengapa itu tidak dapat dihindari, karena pemilihan variabel tidak membantu dengan masalah "terlalu banyak variabel, terlalu sedikit ukuran sampel"?
Frank Harrell
4
Itu seburuk yang didapat.
Frank Harrell
1
Sudahkah Anda mempertimbangkan untuk memperlakukan masalah inferensi Bayesian ini? Regresi logistik firth setara dengan MAP dengan jeffrey sebelumnya. Anda bisa menggunakan pendekatan sepenuhnya laplace untuk mengevaluasi kemungkinan marginal - yang seperti BIC yang disesuaikan (mirip dengan AICc)
probabilityislogic
1
@ pengguna, Karena variabel seperti itu biasanya memprediksi hanya segelintir kasus, dan itu tidak dapat direproduksi: probabilitas sebenarnya untuk sel itu mungkin mendekati 90% katakan tetapi dengan hanya dua kasus di dalamnya, Anda akan mendapatkan dua yang 81% dari waktu. .
Tugas
1
Tautan untuk mengunduh makalah K&K (1996) yang ditemukan di Google Cendekia, bemlar.ism.ac.jp/zhuang/Refs/Refs/kitagawa1996biometrika.pdf
Alecos Papadopoulos

Jawaban:

1

n→∞

haly(y)=∫L.(θ;y)π(θ)dθ
θ^

Sebagai komentar sampingan, regresi Firth juga menghilangkan bias orde pertama dalam keluarga eksponensial.

lbelzile
sumber