Saya mencoba memahami perbedaan antara Newton-Raphson
teknik dan Fisher scoring
teknik dengan menghitung iterasi pertama untuk setiap metode untuk Bernoulli
sampel. (Saya tahu bahwa dalam hal ini saya dapat secara eksplisit dan segera menghitung tetapi saya ingin melakukannya secara iteratif hanya untuk memahami dan melihat bagaimana setiap metode berkonvergensi).
Misalkan saya menggambar koin kali, parameter sebenarnya tidak diketahui oleh saya , dan saya mendapat 4 kepala, jadi .
Fungsi skor adalah:
Informasi nelayan yang diamati adalah:
dan informasi nelayan yang diharapkan adalah:
Dan perhatikan bahwa kita dapat menyederhanakan informasi nelayan yang diharapkan hanya ketika kita mengevaluasinya di , tetapi kita tidak tahu di mana itu ...
Sekarang anggap tebakan awal saya adalah
Apakah Newton-Raphson
hanya pergi seperti ini:
?
Dan bagaimana hasilnya Fisher-scoring
?
Perhatikan bahwa ini berisi yang tidak kita ketahui! dan kami bahkan tidak dapat mengganti dengan karena kami juga tidak tahu - itulah yang kami cari ...
Bisakah Anda membantu menunjukkan kepada saya cara yang paling konkret kedua metode itu? Terima kasih!