Goni kemungkinan profil digunakan untuk estimasi kesalahan standar

13

Pertanyaan ini dimotivasi oleh pertanyaan ini . Saya mencari dua sumber dan inilah yang saya temukan.

A. van der Vaart, Statistik Asimptotik:

Jarang mungkin untuk menghitung kemungkinan profil secara eksplisit, tetapi evaluasi numeriknya seringkali layak. Kemudian kemungkinan profil dapat berfungsi untuk mengurangi dimensi fungsi kemungkinan. Fungsi kemungkinan profil sering digunakan dengan cara yang sama dengan fungsi kemungkinan (biasa) model parametrik. Selain mengambil poin mereka dari maksimum sebagai penduga q , turunan kedua di θ digunakan sebagai perkiraan minus kebalikan dari matriks kovarians asymptotic e. Penelitian terbaru tampaknya memvalidasi praktik ini.θ^θ^

J. Wooldridge, Analisis Ekonometrik Cross Section dan Data Panel (sama di kedua edisi):

g(W,β)W

Wooldridge membahas masalah dalam konteks yang lebih luas dari penaksir-M, sehingga itu berlaku juga untuk penaksir kemungkinan maksimum.

Jadi kami mendapat dua jawaban berbeda untuk pertanyaan yang sama. Setan menurut pendapat saya ada dalam rincian. Untuk beberapa model, kita dapat menggunakan kemungkinan profil hessian dengan aman untuk beberapa model yang tidak. Apakah ada hasil umum yang memberikan kondisi kapan kita bisa melakukan itu (atau tidak bisa)?

estimation maximum-likelihood likelihood asymptotics profile-likelihood mpiktas
sumber
Bagian-bagian ini tampaknya tidak menjawab pertanyaan yang sama sekali: yang pertama menyangkut perhitungan numerik untuk dataset yang diberikan sedangkan yang kedua menyangkut "mempelajari sifat asimptotik." Penggunaan Hessian biasanya merupakan pertimbangan matematis murni dengan jawaban langsung yang khas: lihat diskusi terkait kami .
whuber
van der Vaart mengatakan bahwa Hessian digunakan untuk perhitungan matriks kovarians asimptotik . Karena Wooldridge berbicara bahwa fungsi objektif terkonsentrasi tidak dapat digunakan untuk studi sifat asimptotik, ini menyiratkan bahwa hessiannya (numerik) tidak dapat digunakan untuk memperkirakan kesalahan standar. Saya tidak melupakan diskusi kami, jadi saya mengambil bagian ini dengan sebutir garam. Namun, baik van der Vaart maupun Wooldridge tidak memberikan referensi apa pun. Sebelum melakukan penelitian yang luas, saya hanya ingin memeriksa mungkin ini adalah sesuatu yang terkenal.
mpiktas
Poin yang sangat baik: entah bagaimana saya mengabaikan "asimptotik" dalam kutipan van der Vaart. Akan tetapi, mungkin tidak ada kontradiksi: Wooldridge hanya mengatakan bahwa pembenaran sederhana yang jelas (iid summands) tidak tersedia untuk menunjukkan bahwa pendekatan van der Vaart berhasil; Wooldridge tidak mengatakan itu tidak berhasil ;-).
whuber
@whuber, ya tapi dia juga tidak mengatakan itu bekerja :) Saya sadar bahwa mungkin tidak ada kontradiksi, saya hanya ingin tahu apakah ada beberapa hasil yang pasti.
mpiktas
2
Lihat Mengenai Kemungkinan Profil (SA Murphy dan AW van der Vaart), jstor.org/pss/2669386
whuber

Jawaban:

1

Untuk beberapa model, kita dapat menggunakan kemungkinan profil hessian dengan aman untuk beberapa model yang tidak

Sayangnya, itu berlaku untuk saat ini dan tidak suka berubah.

Diskusi paling jelas yang saya sadari adalah Aturan inferensi bersyarat: Apakah ada definisi universal nonformasi? B Jørgensen - Metode & Aplikasi Statistik, 1994.

Dan untuk beberapa masalah khusus untuk kegagalan adressing profil likelhood Stafford, JE (1996). Penyesuaian yang kuat dari kemungkinan profil, Annals of Statistics, 24, 336-52.

phaneron
sumber
1

Jawaban cepat: Ini dibahas dalam bab tiga OE Barndorff-Nielsen & DR Cox: Inferensi dan asimptotik, Chapman & Hall, halaman 90, persamaan 3.31, yang mereka anggap sebagai Patefield. Mereka menyimpulkan bahwa untuk parameter skalar ini valid (mereka tidak menganalisis kasus lain).

kjetil b halvorsen
sumber