Mengapa tidak setiap regresi kuat?

12

Contoh halaman ini menunjukkan bahwa regresi sederhana sangat dipengaruhi oleh pencilan dan ini dapat diatasi dengan teknik regresi yang kuat: http://www.alastairsanderson.com/R/tutorials/robust-regress-in-R/ . Saya percaya lmrob dan ltsReg adalah teknik regresi kuat lainnya.

Mengapa seseorang tidak harus melakukan regresi yang kuat (seperti rlm atau rq) setiap kali daripada melakukan regresi sederhana (lm)? Apakah ada kelemahan dari teknik regresi yang kuat ini? Terima kasih atas wawasan Anda.

regression multiple-regression robust juga
sumber
2
Ini mungkin bermanfaat.
conjugateprior

Jawaban:

6

The Gauss-Markov teorema :

Dalam model linier dengan kesalahan bola (yang sepanjang itu mencakup asumsi tidak ada pencilan, melalui varians kesalahan terbatas), OLS efisien dalam kelas penaksir tidak bias linier - ada (membatasi, untuk memastikan) kondisi di mana " Anda tidak dapat melakukan lebih baik daripada OLS ".

Christoph Hanck
sumber
Jadi jika tidak ada outlier, regresi linier akan menjadi yang terbaik. Tetapi jika ada, atau jika asumsi lain dilanggar, maka hanya satu yang harus melakukan regresi kuat. Apakah itu benar?
rnso
2
Jika ada outlier, teknik lain lebih baik, ya. Saya tidak akan langsung sampai pada kesimpulan bahwa "jika asumsi lain dilanggar, maka [...] orang harus melakukan regresi yang kuat" - itu bukan obat untuk semua pelanggaran. Fx, ketika kesalahan dikorelasikan dengan regressor dan Anda mengincar efek kausal, teknik variabel instrumental diperlukan.
Christoph Hanck