Apa itu estimasi bersama?

12

Pertanyaan saya sederhana saja: apa itu estimasi bersama? Dan apa artinya dalam konteks analisis regresi? Bagaimana ini dilakukan? Saya berkeliaran di Internet yang perkasa untuk beberapa waktu tetapi tidak menemukan jawaban untuk pertanyaan-pertanyaan ini.

Hilang dalam regresi
sumber
1
Terima kasih banyak atas semua jawaban yang bermanfaat dan upaya yang Anda lakukan untuk mengklarifikasi ini kepada saya!
Hilang dalam regresi

Jawaban:

14

Estimasi bersama adalah, secara bersama-sama, memperkirakan dua hal (atau lebih) secara bersamaan. Ini bisa sesederhana memperkirakan mean dan standar deviasi dari sampel.

Dalam banyak literatur, istilah ini digunakan karena prosedur estimasi khusus harus digunakan. Ini biasanya terjadi ketika satu kuantitas tergantung pada yang lain dan sebaliknya sehingga solusi analitik untuk masalah tidak dapat dipecahkan. Bagaimana tepatnya estimasi gabungan dilakukan sepenuhnya bergantung pada masalah.

Salah satu metode yang sering muncul untuk "pemodelan bersama" atau estimasi bersama adalah algoritma-EM. EM singkatan dari ekspektasi - maksimalisasi. Dengan bergantian langkah-langkah ini, langkah-E mengisi data yang hilang yang tergantung pada komponen A, dan langkah-M menemukan perkiraan optimal untuk komponen B. Dengan mengulangi langkah-langkah E dan M, Anda dapat menemukan perkiraan kemungkinan maksimum A dan B, sehingga secara bersama-sama memperkirakan hal-hal ini.

AdamO
sumber
1
Bisakah Anda memberikan contoh di mana kami tidak memperkirakan mean dan standar deviasi satu variabel? Algoritma apa yang digunakan kemudian?
smci
@smci linear modeling campuran bersama-sama memperkirakan komponen tetap dan acak.
AdamO
terima kasih, maksud saya, harap edit itu (dan contoh lainnya) ke dalam jawaban Anda. Apakah algoritma sama sekali berbeda dengan EM? (Bagaimana cara mengatur untuk memperkirakan kedua komponen secara bersamaan? Apakah itu menjamin konvergensi? Dll.)
smci
@smci saya tidak setuju. a) Itu bukan pertanyaan OP. b) Ada "contoh lain" tak terbatas c) apa algoritma LME dan bagaimana perbedaannya dari EM adalah pertanyaan lain.
AdamO
membantu menggambarkan jawaban dengan contoh. Dan itu membuat jawaban betetr, karenanya adalah bagian dari apa yang diminta.
smci
6

Dalam konteks statistik, istilah "estimasi bersama" dapat dibayangkan dapat berarti satu dari dua hal:

    1. The estimasi simultan dari dua atau lebih parameter skalar (atau ekuivalen, estimasi parameter vektor dengan setidaknya dua elemen); atau
    1. Perkiraan parameter tunggal yang berkaitan dengan sambungan (misalnya, dalam studi pertukangan, sistem pipa, atau merokok ganja).

Dari dua opsi itu, yang kedua adalah lelucon, jadi hampir pasti, estimasi bersama mengacu pada estimasi bersamaan dua parameter skalar sekaligus.

Ben - Pasang kembali Monica
sumber
1
menjadi bertele-tele, dua atau lebih
qwr
1
Pedantry diterima - diedit.
Ben - Reinstate Monica
3

Estimasi bersama adalah menggunakan data untuk memperkirakan dua atau lebih parameter pada saat yang bersamaan. Estimasi terpisah mengevaluasi setiap parameter satu per satu.

Estimasi adalah hasil dari beberapa bentuk proses optimasi. Karena itu, tidak ada solusi estimasi unik dalam statistik. Jika Anda mengubah tujuan Anda, maka Anda mengubah apa yang optimal. Ketika Anda pertama kali mempelajari hal-hal seperti regresi, tidak ada yang memberi tahu Anda mengapa Anda melakukan apa yang Anda lakukan. Tujuan instruktur adalah memberikan Anda fungsionalitas dasar dengan menggunakan metode yang bekerja dalam berbagai keadaan. Pada awalnya, Anda tidak belajar tentang regresi. Sebagai gantinya, Anda mempelajari satu atau dua metode regresi yang dapat diterapkan secara luas dalam berbagai keadaan.

Fakta bahwa Anda mencari solusi yang memecahkan tujuan tersembunyi membuatnya agak sulit untuk dipahami.

z=βxx+βyy+α
z(x,y){βx,βy,α}{x,y,z}

Dalam estimasi terpisah, Anda akan memperkirakan satu parameter pada satu waktu. Dalam estimasi gabungan, Anda akan memperkirakan semuanya sekaligus.

xzyy

xzxzz=βxx+αz=βyy+α

Sekarang bagaimana hal itu dilakukan. Semua estimasi, tidak termasuk beberapa kasus luar biasa, menggunakan kalkulus untuk menemukan estimator yang meminimalkan beberapa bentuk kerugian atau beberapa jenis risiko. Kekhawatirannya adalah Anda tidak beruntung dalam memilih sampel. Sayangnya, ada sejumlah besar fungsi kerugian. Ada juga sejumlah fungsi risiko yang tak terbatas.

Saya menemukan beberapa video untuk Anda karena itu adalah topik raksasa sehingga Anda dapat melihatnya dalam bentuk yang lebih umum. Mereka dari Biksu Matematika.

https://www.youtube.com/watch?v=6GhSiM0frIk

https://www.youtube.com/watch?v=5SPm4TmYTX0

https://www.youtube.com/watch?v=b1GxZdFN6cY

dan

https://www.youtube.com/watch?v=WdnP1gmb8Hw .

Dave Harris
sumber