Untuk apa (simetris) distribusi sampel berarti penduga yang lebih efisien daripada median sampel?

Saya telah bekerja di bawah keyakinan bahwa median sampel adalah ukuran yang lebih kuat dari kecenderungan sentral daripada rata-rata sampel, karena mengabaikan outlier. Karena itu saya terkejut mengetahui (dalam jawaban untuk pertanyaan lain ) bahwa untuk sampel yang diambil dari distribusi normal, varians dari mean sampel kurang dari varians median sampel (setidaknya untuk besar$n$).

Saya mengerti secara matematis mengapa ini benar. Adakah cara "filosofis" dalam memandang hal ini yang akan membantu intuisi tentang kapan harus menggunakan median daripada rata-rata untuk distribusi lain?

Apakah ada alat matematika yang membantu menjawab pertanyaan dengan cepat untuk distribusi tertentu?

Mari kita asumsikan kita membatasi pertimbangan pada distribusi simetris di mana mean dan variansnya terbatas (jadi Cauchy, misalnya, dikecualikan dari pertimbangan).

Lebih jauh, saya akan membatasi diri pada awalnya untuk kasus-kasus unimodal terus menerus, dan memang sebagian besar untuk situasi 'baik' (meskipun saya mungkin kembali nanti dan membahas beberapa kasus lainnya).

Varians relatif tergantung pada ukuran sampel. Sudah umum untuk membahas rasio ( kali) varians asimptotik, tetapi kita harus ingat bahwa pada ukuran sampel yang lebih kecil situasinya akan agak berbeda. (Median kadang-kadang terasa lebih baik atau lebih buruk daripada perilaku asimptotik yang disarankan. Misalnya, pada normal dengan n = $n$$n=3$ memiliki efisiensi sekitar 74% daripada 63%. Perilaku asimptotik umumnya merupakan panduan yang baik pada tingkat sedang ukuran sampel.)

Asimptotik cukup mudah untuk ditangani:

Berarti: varians = σ $n\times$$\sigma^2$ .

Median : varians = $n\times$ manaf(m)adalah ketinggian kepadatan di median.$\frac{1}{[4f(m)^2]}$$f(m)$

Jadi jika $f(m)>\frac{1}{2\sigma}$ , median akan secara asimptotik lebih efisien.

[Dalam kasus normal, , jadi$f(m)= \frac{1}{\sqrt{2\pi}\sigma}$ , di mana efisiensi relatif asimptotik2/$\frac{1}{[4f(m)^2]}=\frac{\pi\sigma^2}{2}$$2/\pi$ )]

Kita dapat melihat bahwa varians dari median akan tergantung pada perilaku kerapatan yang sangat dekat dengan pusat, sedangkan varians dari rata-rata tergantung pada varian dari distribusi asli (yang dalam beberapa hal dipengaruhi oleh kepadatan di mana-mana, dan dalam khususnya, lebih dari cara berperilaku lebih jauh dari pusat)

Yang mengatakan, sementara median kurang dipengaruhi oleh outlier daripada rata-rata, dan kita sering melihat bahwa itu memiliki varians yang lebih rendah daripada rata-rata ketika distribusi berekor berat (yang memang menghasilkan lebih banyak outlier), yang benar-benar mendorong kinerja median adalah inliers . Sering terjadi bahwa (untuk varian tetap) ada kecenderungan bagi keduanya untuk pergi bersama.

Artinya, secara umum, saat ekor semakin berat, ada kecenderungan (pada nilai tetap ) distribusi untuk mendapatkan "peakier" pada saat yang sama (lebih kurtotik, dalam arti longgar). Ini bukan, bagaimanapun, hal tertentu - itu cenderung menjadi kasus di berbagai kepadatan umum dianggap, tetapi tidak selalu berlaku. Ketika itu memang berlaku, varians dari median akan berkurang (karena distribusi memiliki lebih banyak probabilitas di lingkungan median), sedangkan varians dari mean tetap konstan (karena kami memperbaiki σ $\sigma^2$$\sigma^2$ ).

Jadi di berbagai kasus umum median akan cenderung melakukan "lebih baik" daripada rata-rata ketika ekornya berat, (tetapi kita harus ingat bahwa relatif mudah untuk membuat contoh tandingan). Jadi kita dapat mempertimbangkan beberapa kasus, yang dapat menunjukkan kepada kita apa yang sering kita lihat, tetapi kita tidak boleh membacanya terlalu banyak, karena ekor yang lebih berat tidak secara universal cocok dengan puncak yang lebih tinggi.

Kita tahu median adalah sekitar 63,7% lebih efisien (untuk $n$ besar) sebagai rata-rata di normal.

Bagaimana dengan, katakanlah distribusi logistik , yang seperti normal kira-kira parabola tentang pusat, tetapi memiliki ekor yang lebih berat (seperti $x$ menjadi besar, mereka menjadi eksponensial).

Jika kita mengambil parameter skala menjadi 1, logistik memiliki varians $\pi^2/3$ dan tinggi di median 1/4, jadi . Rasio varians kemudianπ2$\frac{1}{4f(m)^2}=4$ sehingga dalam sampel besar, median kira-kira 82% seefisien mean.$\pi^2/12\approx 0.82$

Mari kita perhatikan dua kepadatan lain dengan ekor seperti eksponensial, tetapi puncaknya berbeda.

Pertama, distribusi sekan hiperbolik ( )$\text{sech}$ , yang bentuk standarnya memiliki varian 1 dan tinggi di tengah , sehingga rasio varian asimptotik adalah 1 (keduanya sama-sama efisien dalam sampel besar). Namun, dalam sampel kecil mean lebih efisien (variansnya sekitar 95% dari itu untuk median kapan$\frac{1}{2}$$n=5$ , misalnya).

Di sini kita dapat melihat bagaimana, ketika kita maju melalui ketiga kerapatan (memegang varians konstan), bahwa ketinggian di median meningkat:

$\frac{1}{2}$$\frac{1}{\sqrt{2}}$

Jika kita membuat peakier distribusi masih untuk varian tertentu, (mungkin dengan membuat ekor lebih berat daripada eksponensial), median masih bisa jauh lebih efisien (relatif berbicara). Tidak ada batasan seberapa tinggi puncak itu bisa terjadi.

$\nu=5$

...

Pada ukuran sampel terbatas, kadang-kadang mungkin untuk menghitung varians dari distribusi median secara eksplisit. Di mana itu tidak layak - atau bahkan hanya merepotkan - kita dapat menggunakan simulasi untuk menghitung varians median (atau rasio varians *) di sampel acak yang diambil dari distribusi (yang adalah apa yang saya lakukan untuk mendapatkan contoh sampel kecil di atas ).

* Walaupun kita sering tidak benar-benar membutuhkan varians dari mean, karena kita dapat menghitungnya jika kita mengetahui varians dari distribusinya, mungkin lebih efisien secara komputasi untuk melakukannya, karena ia bertindak seperti variate kontrol (mean dan median seringkali cukup berkorelasi).

$$f(x) = \frac12 e^{-|x-\mu|} , \quad -\infty < x < \infty$$ $\mu$$X_1, X_2, \dotsc , X_n$$2/n$$\frac1{4 n f(\mu)^2} = \frac1{4 n / 4} = 1/n < 2/n$

$\sigma^2 = 1$$1/n$$n$$\frac1{4 n (1/\sqrt{2\pi})^2} = \frac{\pi}{2 n} \approx 1.57/n > 1/n$