Interpretasi geometris dari model linier umum

13

Untuk model linear , kita dapat memiliki interpretasi geometris yang bagus dari model yang diestimasi melalui OLS: . adalah proyeksi y ke ruang yang direntang oleh x dan residual tegak lurus dengan ruang ini yang direntang oleh x.y=xβ+ey^=xβ^+e^y^e^

Sekarang, pertanyaan saya adalah: apakah ada interpretasi geometris dari model linier umum (regresi logistik, Poission, survival)? Saya sangat ingin tahu tentang bagaimana menafsirkan estimasi model regresi logistik biner geometris, dengan cara yang sama seperti model linear. Bahkan tidak memiliki istilah kesalahan. hal^=logistik(xβ^)

Saya menemukan satu pembicaraan tentang Interpretasi geometris untuk Generalized Linear Models. http://statweb.stanford.edu/~lpekelis/talks/13_obs_studies.html#(7) . Sayangnya, angka-angka itu tidak tersedia dan cukup sulit untuk digambarkan.

Setiap bantuan, referensi, dan saran akan sangat dihargai !!!

Vincent
sumber

Jawaban:

6

Saya pikir Anda bertaruh terbaik adalah tesis Dongwen Luo dari Massey University, Pada geometri model linier umum ; ini tersedia online di sini . Khususnya Anda ingin fokus pada Bab. 3 - Geometri GLM (dan lebih khusus pada bagian 3.4). Dia mempekerjakan dua "domain geometris" yang berbeda; satu sebelum dan satu setelah transformasi tautan kanonik. Beberapa mesin teoretis dasar bermula dari karya Fienberg tentang The Geometry dari Contingency Table rxc . Seperti yang dianjurkan dalam tesis Luo:

Untuk sampel berukuran , R n terbagi menjadi jumlah yang langsung ortogonal dari ruang kecukupan S dan ruang tambahan A . The MLE mean μ terletak pada persimpangan pesawat kecukupan affine T = s + A dan untransformed ruang model . Tautan yang mengubah vektor rata-rata terletak pada ruang rata-rata yang diubah .nRnSAμ^T=s+AMRg(μ^)g(MR)

Jelas baik dan perlu setidaknya 2-D dan . Di bawah kerangka teori ini dan vektor data memiliki proyeksi yang sama ke arah mana pun di ruang kecukupan.SARn=SAμ^y

Dengan asumsi Anda memiliki pengetahuan geometri diferensial, buku Kass dan Vos Geometrical Foundation of Asymptotic Inference harus memberikan dasar yang kuat tentang masalah ini. Makalah ini pada The Geometry of Asymptotic Inference tersedia secara gratis dari situs web penulis.

Akhirnya, untuk menjawab pertanyaan Anda apakah ada " interpretasi geometrik dari model linear umum (regresi logistik, Poisson, survival) ". Ya ada satu; dan tergantung pada fungsi tautan yang digunakan. Pengamatan itu sendiri dipandang sebagai vektor dalam tautan yang mengubah ruang. Tak perlu dikatakan Anda akan melihat manifold dimensi yang lebih tinggi karena ukuran sampel Anda dan / atau jumlah kolom dari matriks desain Anda meningkat.

usεr11852 kata Reinstate Monic
sumber