Apakah ada asimtotik urutan ketiga?

14

Sebagian besar hasil asimptotik dalam statistik membuktikan bahwa ketika estimator (seperti MLE) konvergen ke distribusi normal berdasarkan ekspansi taylor orde kedua dari fungsi kemungkinan. Saya percaya ada hasil yang serupa dalam literatur Bayesian, "Bayesian Central Limit Theorem", yang menunjukkan bahwa posterior konvergen asimtotik ke normal seperti n nn

Pertanyaan saya adalah - apakah distribusi bertemu dengan sesuatu "sebelum" itu menjadi normal, berdasarkan suku ketiga dalam seri Taylor? Atau apakah ini tidak mungkin dilakukan secara umum?

gabgoh
sumber
(+1) .. pertanyaan yang bagus. Teorema Batas Tengah Bayesian disebut Aproksimasi Laplace yaitu posterior berperilaku "lebih atau kurang" seperti distribusi normal. (secara formal posterior menyatu dalam distribusi ke distribusi normal)
suncoolsu

Jawaban:

5

Tidak mungkin urutan untuk "menyatu" ke satu hal dan kemudian ke yang lain. Istilah tingkat tinggi dalam ekspansi asimptotik akan menjadi nol. Apa yang mereka katakan adalah seberapa dekat mereka dengan nilai .n

Untuk Teorema Limit Pusat (sebagai contoh) ekspansi yang sesuai adalah dari logaritma fungsi karakteristik: fungsi pembangkit kumulans (cgf). Standarisasi distribusi memperbaiki ketentuan nol, pertama, dan kedua dari cgf. Sisa istilah, yang koefisiennya adalah kumulans , bergantung pada secara tertib. Standarisasi yang terjadi pada CLT yang (membagi jumlah n variabel acak oleh sesuatu sebanding dengan n 1 / 2 --without yang konvergensi tidak akan terjadi) menyebabkan m th cumulant - yang setelah semua tergantung pada m th saat - untuk dibagi dengan ( nnnn1/2mthmth , tetapi pada saat yang sama karena kita menjumlahkannhal, hasil bersih adalah bahwa m. Dengan demikian cumulant ketiga dari jumlah standar sebanding dengan1 / n 1 / 2 , yang cumulant keempat adalah sebanding dengan1 / n(n1/2)m=nm/2n jangka agar sebanding dengan n / n m / 2 = n - ( m - 2 ) / 2mthn/nm/2=n(m2)/21/n1/21/n, dan seterusnya. Ini adalah persyaratan tingkat tinggi. (Untuk perinciannya, lihat makalah Yuval Filmus ini misalnya.)

Secara umum, daya negatif tinggi jauh lebih kecil daripada daya negatif rendah. Kita selalu dapat yakin akan hal ini dengan mengambil nilai n yang cukup besar . Jadi, untuk n yang sangat besar kita dapat mengabaikan semua kekuatan n negatif : mereka menyatu menjadi nol. Sepanjang jalan menuju konvergensi, penyimpangan dari batas akhir diukur dengan meningkatnya keakuratan dengan ketentuan tambahan: thennnn istilah adalah "koreksi," awal atau keberangkatan dari nilai batas; 1 / n berikutnya1/n1/21/nIstilahnya adalah koreksi yang lebih kecil, lebih cepat menghilang, dan seterusnya. Secara singkat, istilah tambahan memberi Anda gambaran tentang seberapa cepat urutan konvergen ke batasnya.

Istilah tambahan ini dapat membantu kami melakukan koreksi untuk nilai terbatas (biasanya kecil) . Mereka muncul sepanjang waktu dalam hal ini, seperti modifikasi Chen dari t-test , yang mengeksploitasi orde ketiga ( 1 / n 1 / 2 ) jangka.n1/n1/2

whuber
sumber
untuk beberapa alasan, saya tidak menemukan jawaban Anda sepenuhnya meyakinkan. Saya setuju bahwa distribusinya perlu "diregangkan", dan itu tidak benar untuk mengatakan itu konvergen ke X sebelum konvergen ke normal. Itu akan menjadi kesalahan saya. Tetap saya pikir harus ada beberapa cara untuk skala distribusi sehingga hanya urutan keempat dan "momen" di atas menuju nol. Saya perlu berpikir sedikit lebih keras seperti apa sebenarnya faktor penskalaan itu, jika hal seperti itu ada
gabgoh
2
@ gabgoh Saya ingin mendengar lebih banyak tentang aspek jawaban mana yang lemah. Sejauh penskalaan, Anda terjebak: Anda telah menggunakan kemungkinan itu dalam menstandarkan elemen-elemen dari urutan. Jika (secara hipotetis) beberapa bentuk penskalaan akan menjaga momen ketiga dari nol, maka Anda akan bertentangan dengan CLT karena distribusi pembatas tidak akan Normal. Ada masalah terkait dengan asimtotik penduga. Seringkali Anda dapat menyesuaikan penduga untuk membunuh momen yang lebih tinggi secara asimptotik (misalnya dengan bootstrap): tetapi ini masih tidak dapat dilakukan dengan penskalaan saja.
whuber
3

Berikut adalah upaya untuk menjawab pertanyaan wawasan Anda. Saya telah melihat dimasukkannya istilah ke-3 dari seri Taylor untuk meningkatkan kecepatan konvergensi seri ke distribusi yang sebenarnya. Namun, saya belum melihat (dalam pengalaman saya yang terbatas) penggunaan momen ketiga dan lebih tinggi.

n1/2n1/2n

Karena itu, saya kira, jawaban untuk pertanyaan Anda seharusnya tidak . Distribusi asimptotik menyatu ke dist normal (oleh CLT, dalam kondisi keteraturan CLT Lindberg). Namun, menggunakan istilah urutan yang lebih tinggi dapat meningkatkan laju konvergensi ke distribusi asimptotik.

suncoolsu
sumber