Saya telah membaca dalam abstrak makalah ini bahwa:
"Prosedur kemungkinan maksimum (ML) dari Hartley aud Rao dimodifikasi dengan mengadaptasi transformasi dari Patterson dan Thompson yang membagi kemungkinan membuat normalitas menjadi dua bagian, satu bebas dari efek tetap. Memaksimalkan bagian ini menghasilkan apa yang disebut kemungkinan maksimum terbatas (REML) estimator. "
Saya juga membaca dalam abstrak makalah ini bahwa REML:
"Mempertimbangkan hilangnya derajat kebebasan yang dihasilkan dari memperkirakan efek tetap."
Sayangnya saya tidak memiliki akses ke teks lengkap dari kertas-kertas itu (dan mungkin tidak akan mengerti jika saya melakukannya).
Juga, apa kelebihan REML vs ML? Dalam keadaan apa REML lebih disukai daripada ML (atau sebaliknya) saat memasang model efek campuran? Tolong beri penjelasan yang cocok untuk seseorang dengan latar belakang matematika SMA (atau hanya di luar)!
sumber
Jawaban:
Sesuai jawaban ocram, ML bias untuk estimasi komponen varians. Tetapi amati bahwa bias menjadi lebih kecil untuk ukuran sampel yang lebih besar. Oleh karena itu dalam menjawab pertanyaan Anda " ... apa keuntungan dari REML vs ML? Dalam keadaan apa mungkin REML lebih disukai daripada ML (atau sebaliknya) ketika memasang model efek campuran? ", Untuk ukuran sampel yang kecil, REML lebih disukai. Namun, tes rasio kemungkinan untuk REML memerlukan spesifikasi efek tetap yang sama persis di kedua model. Jadi, untuk membandingkan model dengan efek tetap berbeda (skenario umum) dengan tes LR, ML harus digunakan.
REML memperhitungkan jumlah parameter (efek tetap) yang diperkirakan, kehilangan 1 derajat kebebasan untuk masing-masing. Ini dicapai dengan menerapkan ML pada residu kuadrat terkecil, yang independen terhadap efek tetap.
sumber
Inilah jawaban cepat ...
Contoh ilustrasi standar
Biarkan menjadi sampel dari distribusi normal ). Baik maupun tidak diketahui. Penaksir kemungkinan maksimum dari , diperoleh dengan mengambil turunan dari kemungkinan log sehubungan dengan dan menyamakan dengan nol, adalah mana adalah penaksir kemungkinan maksimum dari . Kita dapat menunjukkan bahwa [ Mulailah dengan menulis ulangy=(y1,…,yn) N(μ,σ2 μ σ2 σ2 σ2
Lebih teknis, kemungkinan REML adalah kemungkinan kombinasi linear dari data asli: alih-alih kemungkinan , kami mempertimbangkan kemungkinan , di mana matriks adalah sedemikian rupa sehingga .y Ky K E[Ky]=0
Estimasi REML sering digunakan dalam konteks yang lebih rumit dari model campuran. Setiap buku tentang model campuran memiliki bagian yang menjelaskan estimasi REML lebih terinci.
Sunting
@ Jo King: Ini adalah salah satu buku favorit saya tentang model campuran yang sepenuhnya tersedia secara online. Bagian 2.4.2 membahas estimasi komponen varians. Selamat membaca :-)
sumber
Metode ML meremehkan parameter varians karena mengasumsikan bahwa parameter tetap diketahui tanpa ketidakpastian ketika memperkirakan parameter varians.
Metode REML menggunakan trik matematika untuk membuat perkiraan untuk parameter varians independen dari perkiraan untuk efek tetap. REML bekerja dengan terlebih dahulu mendapatkan residu regresi untuk pengamatan yang dimodelkan oleh bagian efek tetap dari model, mengabaikan pada titik ini setiap komponen varians.
Estimasi ML tidak bias untuk efek tetap tetapi bias untuk efek acak, sedangkan estimasi REML bias untuk efek tetap dan tidak bias untuk efek acak.
sumber