Mengapa Regresi Logistik tidak disebut Klasifikasi Logistik?

Karena Regresi Logistik adalah model klasifikasi statistik yang berhubungan dengan variabel dependen kategorikal, mengapa tidak disebut Klasifikasi Logistik ? Bukankah seharusnya nama "Regresi" dicadangkan untuk model yang berhubungan dengan variabel dependen kontinu?

Regresi logistik dengan tegas bukan algoritma klasifikasi sendiri. Ini hanya algoritma klasifikasi dalam kombinasi dengan aturan keputusan yang membuat dikotomis probabilitas hasil yang diprediksi. Regresi logistik adalah model regresi karena memperkirakan probabilitas keanggotaan kelas sebagai (transformasi a) fungsi multilinear dari fitur.

Frank Harrell telah memposting sejumlah jawaban di situs web ini yang menyebutkan jebakan mengenai regresi logistik sebagai algoritma klasifikasi. Diantara mereka:

• Klasifikasi adalah suatu keputusan . Untuk membuat keputusan yang optimal, Anda perlu menilai fungsi utilitas, yang menyiratkan bahwa Anda perlu memperhitungkan ketidakpastian dalam hasil, yaitu probabilitas. ≈
• Biaya kesalahan klasifikasi tidak seragam di semua unit.
• Jangan gunakan cutoffs.
• Gunakan aturan penilaian yang tepat.
• Masalahnya sebenarnya estimasi risiko, bukan klasifikasi.

Jika saya ingat dengan benar, dia pernah menunjuk saya ke bukunya tentang strategi regresi untuk penjelasan lebih lanjut tentang poin-poin ini (dan banyak lagi!), Tetapi saya sepertinya tidak dapat menemukan posisi tersebut.

Secara abstrak, regresi adalah masalah penghitungan ekspektasi bersyarat . Bentuk yang diambil oleh harapan ini berbeda tergantung pada asumsi bagaimana data dihasilkan:$E[Y|X=x]$

• Dengan asumsi (Y | X = x) terdistribusi normal dengan regresi linier klasik.
• Dengan asumsi distribusi Poisson menghasilkan regresi Poisson.
• Dengan asumsi distribusi Bernoulli menghasilkan regresi logistik.

Istilah "regresi" juga telah digunakan secara lebih umum dari ini, termasuk pendekatan seperti regresi kuantil, yang memperkirakan jumlah tertentu .$(Y|X=x)$

Terlepas dari jawaban yang sudah diberikan dengan baik, pandangan lain adalah bahwa Regresi logistik memprediksi probabilitas (yang merupakan nilai kontinu ) yang telah berkisar antara 0 hingga 1.