Apakah sebab akibat regresi jika tidak ada variabel yang dihilangkan?

Regresi $y$ pada $x$ tidak perlu kausal jika ada variabel yang dihilangkan yang mempengaruhi $x$ dan $y$ . Tetapi jika tidak untuk variabel yang dihilangkan dan kesalahan pengukuran, apakah kausalitas regresi? Artinya, jika setiap variabel yang mungkin dimasukkan dalam regresi?

regression bias causality Esha
sumber

Tidak, bahkan jika Anda memasukkan setiap variabel di dunia, itu bisa jadi kausal terbalik. Misalnya, kedekatan sebuah planet dengan bintang terdekatnya dapat diprediksi secara akurat oleh suhu permukaan planet itu, tetapi yang jelas kausalitasnya menuju ke arah lain

gazza89

@ gazza89 - karena itu efektif menjawab pertanyaan, Anda mungkin ingin mengembangkannya menjadi jawaban.

pelawak

Apa itu "variabel yang dihilangkan"? Misalkan saya memiliki satu Y dan 4 X dalam dataset saya. Saya cocok dengan model termasuk semua 4 Xs. Maka saya tidak punya variabel yang dihilangkan?

user158565

Jawaban:

Tidak, bukan, saya akan menunjukkan beberapa contoh tandingan.

Yang pertama adalah penyebab terbalik . Pertimbangkan model kausal adalah $Y \rightarrow X$ , di mana $X$ dan $Y$ adalah variabel acak standar gaussian. Kemudian $E[Y|do(x)] = 0$ , karena $X$ tidak menyebabkan $Y$ , tetapi $E[Y|x]$ akan tergantung pada $X$ .

Contoh kedua adalah mengendalikan colliders (lihat di sini ). Pertimbangkan model sebab-akibat $X \rightarrow Z \leftarrow Y$ , yaitu $X$ tidak menyebabkan $Y$ dan $Z$ adalah penyebab umum. Tetapi perhatikan bahwa, jika Anda menjalankan regresi termasuk $Z$ , koefisien regresi $X$ tidak akan nol, karena pengkondisian pada penyebab umum akan menginduksi hubungan antara $Y$ dan $X$ (Anda mungkin ingin melihat di sini juga Analisis Jalur dalam Kehadiran Collider yang Dikondisikan ).

Lebih umum, regresi $Y$ pada $X$ akan menjadi penyebab jika variabel yang dimasukkan dalam regresi memenuhi kriteria backdoor .

Carlos Cinelli
sumber

Sangat merekomendasikan Book of Why, oleh Judea Pearl. Jelaskan dengan seksama apa yang dimaksud Carlos.

Markos Kashiouris

Apa arti

d o (x)

$do(x)$

naught101

@ naught101 itu berarti Anda benar-benar memaksa X = x, berbeda dengan mengamati X = x secara pasif, lihat di sini stats.stackexchange.com/questions/211008/dox-operator-meaning/…

Carlos Cinelli

Terima kasih, tetapi saya tidak jelas tentang notasinya. Apakah

berarti

menyebabkan

dan

? Haruskah panah dibalik?

X \to Z \leftarrow Y

$X \rightarrow Z \leftarrow Y$

Z

$Z$

X

$X$

Y

$Y$

Esha

@ Esha Berarti

dan

menyebabkan

x

$x$

y

$y$

z

$z$

Carlos Cinelli

Selain jawaban penting Carlos Cinelli untuk pertanyaan ini, ada beberapa alasan lagi bahwa koefisien regresi mungkin tidak bersifat kausal.

Pertama, kesalahan spesifikasi model dapat menyebabkan parameter menjadi non-kausal. Hanya karena Anda memiliki semua variabel yang relevan dalam model Anda tidak berarti Anda telah menyesuaikannya dengan cara yang benar. Sebagai contoh yang sangat sederhana, pertimbangkan variabel $X$ yang didistribusikan secara simetris sekitar 0. Misalkan variabel hasil Anda $Y$ dipengaruhi oleh $X$ sedemikian rupa sehingga $E(Y\mid X)=X^2$ . Regresing $Y$ pada $X$ (sebagai lawan dari $X^2$ ) kemudian akan memberikan estimasi koefisien untuk $X$ sekitar 0, jelas bias, meskipun Anda telah menyesuaikan untuk semua (satu-satunya) variabel yang mempengaruhi $Y$ .

Kedua, dan terkait dengan topik kausalitas terbalik, ada juga risiko bahwa Anda dapat memiliki bias seleksi , yaitu bahwa sampel Anda telah dipilih sedemikian rupa sehingga tidak mewakili populasi yang ingin Anda tarik kesimpulannya. Selain itu, data yang hilang juga dapat menimbulkan bias jika data tidak hilang sepenuhnya secara acak.

Phil
sumber