Apa yang terjadi ketika saya memasukkan variabel kuadrat dalam regresi saya?

Saya mulai dengan regresi OLS saya:

y = β_{0} + β_{1} x_{1} + β_{2} D + ε

$y = \beta _0 + \beta_1x_1+\beta_2 D + \varepsilon$ mana D adalah variabel dummy, perkiraan menjadi berbeda dari nol dengan nilai p yang rendah. Saya kemudian membentuk tes Ramsey RESET dan menemukan bahwa saya memiliki beberapa kesalahan persamaan, dengan demikian saya memasukkan kuadrat x:

y = β_{0} + β_{1} x_{1} + β_{2} x_{1}^{2} + β_{3} D + ε

$y = \beta _0 + \beta_1x_1+\beta_2x_1^2+\beta_3 D + \varepsilon$

Apa yang dijelaskan istilah kuadrat? (Peningkatan non-linear pada Y?)
Dengan melakukan ini, perkiraan D saya tidak berbeda dari nol lagi, dengan nilai p tinggi. Bagaimana cara menafsirkan istilah kuadrat dalam persamaan saya (secara umum)?

Sunting: Memperbaiki pertanyaan.

regression multiple-regression interpretation least-squares polynomial seini
sumber

kemungkinan duplikat dari mengapa hasil ANOVA / Regresi berubah saat mengendalikan variabel lain

Makro

Alasan yang mungkin:

dan

tampaknya menjelaskan variabilitas yang sama pada

x_{1}^{2}

$x_{1}^2$

D

$D$

y

$y$

steadyfish

Satu hal yang mungkin membantu adalah memusatkan

sebelum membuat istilah kuadrat Anda (lihat di sini ). Adapun interpretasi istilah kuadrat Anda, saya berpendapat bahwa yang terbaik adalah menafsirkan

secara keseluruhan (lihat di sini ). Hal lain adalah bahwa Anda mungkin perlu interaksi, yang berarti menambah

x

$x$

β_{1} x_{1} + β_{2} x_{1}^{2}

$\beta_1x_1+\beta_2x_1^2$

β_{4} x_{1} D + β_{5} x_{1}^{2} D

$\beta_4x_1D+\beta_5x_1^2D$

gung - Reinstate Monica

Saya tidak berpikir itu benar-benar duplikat dari pertanyaan itu; solusinya berbeda (variabel pemusatan bekerja di sini, tetapi tidak di sana, kecuali saya salah)

Peter Flom - Reinstate Monica

@ Peter, saya menafsirkan pertanyaan ini sebagai bagian dari "Mengapa ketika saya menambahkan variabel ke model saya, efek perkiraan /

nilai untuk beberapa perubahan variabel lainnya?", Yang dibahas dalam pertanyaan lain. Di antara jawaban pertanyaan yang collinearity (yang gung tidak menyinggung hal dalam jawabannya untuk yang pertanyaan) / konten tumpang tindih antara prediktor (yaitu antara

dan

, yang saya duga adalah penyebab dalam kasus ini) . Logika yang sama berlaku di sini. Saya tidak yakin apa kontroversi itu tetapi tidak apa-apa jika Anda dan orang lain tidak setuju. Tepuk tangan.

p

$p$

D

$D$

(x_{1}, x_{1}^{2})

$(x_1,x_1^2)$

Makro

Jawaban:

Nah, pertama, variabel dummy diartikan sebagai perubahan intersep. Artinya, koefisien Anda memberi Anda perbedaan dalam intersep ketika , yaitu ketika , intersepnya adalah $\beta_3$ $D=1$ $D=1$ . Interpretasi itu tidak berubah ketika menambahkan kuadrat . $\beta_0 + \beta_3$ $x_1$

Sekarang, titik menambahkan kuadrat ke seri adalah bahwa Anda menganggap bahwa hubungan itu hilang pada titik tertentu. Melihat persamaan kedua Anda

y = β_{0} + β_{1} x_{1} + β_{2} x_{1}^{2} + β_{3} D + ε

$y = \beta _0 + \beta_1x_1+\beta_2x_1^2+\beta_3 D + \varepsilon$

Mengambil turunan wrt hasil $x_1$

\frac{δ y}{δ x_{1}} = β_{1} + 2 β_{2} x_{1}

$\frac{\delta y}{\delta x_1} = \beta_1 + 2\beta_2 x_1$

Memecahkan persamaan ini memberi Anda titik balik hubungan. Seperti yang dijelaskan oleh user1493368, ini memang mencerminkan bentuk-U terbalik jika $\beta_1<0$

\hat{y} = 1.3 + 0.42 x_{1} - 0.32 x_{1}^{2} + 0.14 D

$\hat{y} = 1.3 + 0.42 x_1 - 0.32 x_1^2 + 0.14D$

$x_1$

\frac{δ y}{δ x_{1}} = 0.42 - 2 * 0.32 x_{1}

$\frac{\delta y}{\delta x_1} = 0.42 - 2*0.32 x_1$

$x_1$

\frac{δ y}{δ x_{1}} = 0 ⟺ x_{1} \approx 0.66

$\frac{\delta y}{\delta x_1} = 0 \iff x_1 \approx 0.66$

Itulah titik di mana hubungan memiliki titik baliknya. Anda dapat melihat output Wolfram-Alpha untuk fungsi di atas, untuk beberapa visualisasi masalah Anda.

$x_1$ $y$

Δ y = (β_{1} + 2 β_{2} x_{1}) Δ x

$\Delta y = (\beta_1 + 2\beta_2x_1)\Delta x$

$\beta_1$ $x_1^2$

$D$ $x_1$ , itu menunjuk pada bias kesalahan spesifikasi.

altabq
sumber

Hai. Jika Anda memiliki beberapa prediktor, apakah Anda harus menggunakan turunan parsial atau total turunan (perbedaan)?

skan

Turunan parsial masih merupakan cara yang tepat untuk pergi ke sini. Interpretasi dari semua koefisien adalah ceteris paribus , yaitu, mempertahankan semua yang lain konstan. Itulah tepatnya yang Anda lakukan saat mengambil turunan parsial.

altabq

Lihat halaman UCLA IDRE ini untuk melengkapi jawaban hebat altabq.

Cyrille

Contoh yang baik termasuk kuadrat variabel berasal dari ekonomi tenaga kerja. Jika Anda menganggap negatif. Maksudnya di sini adalah harus ada dasar teoretis / justifikasi empiris untuk memasukkan kuadrat variabel. Variabel dummy, di sini, dapat dianggap mewakili gender pekerja. Anda juga dapat memasukkan istilah interaksi jenis kelamin dan usia untuk memeriksa apakah perbedaan gender bervariasi berdasarkan usia.y sebagai upah (atau log upah) dan xsebagai usia, maka termasuk x^2berarti Anda menguji hubungan kuadratik antara usia dan penghasilan upah. Upah meningkat dengan bertambahnya usia ketika orang menjadi lebih berpengalaman tetapi pada usia yang lebih tinggi, upah mulai meningkat pada tingkat yang menurun (orang menjadi lebih tua dan mereka tidak akan begitu sehat untuk bekerja seperti sebelumnya) dan pada suatu titik upah tidak tumbuh ( mencapai tingkat upah optimal) dan kemudian mulai turun (mereka pensiun dan penghasilan mereka mulai berkurang). Jadi, hubungan antara upah dan usia terbalik berbentuk U (efek siklus hidup). Secara umum, untuk contoh yang disebutkan di sini, koefisien on agediharapkan positif dan daripada onage^2

Metrik
sumber