Saya mencoba memahami bagaimana fungsi pengaruh bekerja. Bisakah seseorang menjelaskan dalam konteks regresi OLS sederhana
di mana saya ingin fungsi pengaruh untuk .
regression
least-squares
stevejb
sumber
sumber
Jawaban:
Fungsi pengaruh pada dasarnya adalah alat analitik yang dapat digunakan untuk menilai efek (atau "pengaruh") dari menghilangkan pengamatan pada nilai statistik tanpa harus menghitung ulang statistik itu . Mereka juga dapat digunakan untuk membuat estimasi varians asimptotik. Jika pengaruh sama dengan maka varians asimptotik adalah I 2I .I2n
Cara saya memahami fungsi pengaruh adalah sebagai berikut. Anda memiliki semacam CDF teoretis, dilambangkan dengan . Untuk OLS sederhana, Anda punyaFi(y)=Pr(Yi<yi)
Di manaΦ(z)adalah CDF normal standar, danσ2adalah varian kesalahan. Sekarang Anda dapat menunjukkan bahwa statistik apa pun akan menjadi fungsi CDF ini, maka notasiS(F)(yaitu beberapa fungsiF). Sekarang anggaplah kita mengubah fungsiFdengan "sedikit", menjadiF(i)(z)=(1+ζ)F(z)-ζδ(i)(
Perhatikan bahwa jadi kita dapatkan: S [ F ( i ) ( z , ζ ) ] ≈ S [ F ( z ) ] + ζ [ ∂ S [ F ( i ) ( z , ζ ) ]F(i)(z,0)=F(z)
Derivatif parsial di sini disebut fungsi pengaruh. Jadi ini mewakili perkiraan koreksi "urutan pertama" yang akan dibuat untuk statistik karena menghapus pengamatan "ith". Perhatikan bahwa dalam regresi sisanya tidak menjadi nol secara asimtotik, sehingga ini merupakan perkiraan terhadap perubahan yang mungkin Anda dapatkan. Sekarang tulis sebagai:β
Dengan demikian beta adalah fungsi dari dua statistik: varian X dan kovarian antara X dan Y. Kedua statistik ini memiliki representasi dalam hal CDF sebagai:
dan v a r ( X ) = ∫ ( X - μ x ( F ) ) 2 d F di mana μ x = ∫ x d F
Kita sekarang dapat menggunakan seri Taylor:
Menyederhanakan ini memberi:
sumber
Berikut ini adalah cara super umum untuk berbicara tentang pengaruh fungsi regresi. Pertama saya akan membahas satu cara menyajikan fungsi pengaruh:
Dari sini kita dapat mendefinisikan fungsi pengaruh dengan cukup mudah:
Perkiraan OLS adalah solusi untuk masalah:
Mengambil kondisi pesanan pertama:
Karena fungsi pengaruh hanyalah turunan Gateaux sekarang kita dapat mengatakan:
Mitra sampel hingga dari fungsi pengaruh ini adalah:
Secara umum saya menemukan kerangka kerja ini (bekerja dengan fungsi pengaruh sebagai turunan Gateaux) lebih mudah untuk ditangani.
sumber