Motivasi

Dalam konteks inferensi pasca-model-seleksi, Leeb & Pötscher (2005) menulis:

Meskipun telah lama diketahui bahwa keseragaman (setidaknya secara lokal) dengan parameter adalah masalah penting dalam analisis asimptotik, pelajaran ini sering dilupakan dalam praktik sehari-hari teori ekonometrik dan statistik di mana kita sering puas untuk membuktikan hasil asimptotik secara langsung ( yaitu, hasil yang berlaku untuk setiap nilai parameter true true). Amnesia ini - dan praktik yang dihasilkan - untungnya tidak memiliki konsekuensi dramatis selama hanya penaksir "reguler" yang cukup dalam model "biasa" yang cukup dipertimbangkan. Namun, karena penduga pasca-pemilihan model cukup "tidak teratur," masalah keseragaman muncul di sini dengan sepenuh hati.

Latar Belakang

Konvergensi seragam

Misalkan seorang estimator konvergensi seragam (wrt ) dalam distribusi ke beberapa variabel acak . Kemudian untuk presisi yang diberikan kita selalu dapat menemukan ukuran sampel sedemikian rupa sehingga untuk setiap jarak distribusi dan distribusi ( yaitu distribusi membatasi) akan berada di paling untuk setiap .$\hat\theta_n(\alpha)$$\alpha$$Z$$\varepsilon>0$$N_{\varepsilon}$$\alpha$$\hat\theta_{n}(\alpha)$$Z$$\varepsilon$$n>N$

Ini bisa bermanfaat dalam praktik:

1. Saat merancang eksperimen, kita dapat mengikat ketidaktepatan pada level yang diinginkan, sewenang-wenang dengan menemukan .$\varepsilon$$N_{\varepsilon}$
2. Untuk sampel ukuran , kami dapat menemukan untuk mengikat ketidaktepatan tersebut.$N$$\varepsilon_N$

Konvergensi yang tajam (tetapi tidak seragam)

Di sisi lain, misalkan estimator konvergen dalam pointwise cara (wrt ) - tetapi tidak seragam - distribusi ke beberapa variabel acak . Karena ketidakmerataan, ada presisi sehingga untuk setiap ukuran sampel kita selalu dapat menemukan nilai sedemikian rupa sehingga jarak distribusi dan distribusi dari (yaitu distribusi membatasi) akan setidaknya untuk beberapa .$\hat\psi_n(\alpha)$$\alpha$$Z$$\varepsilon_N>0$$N$$\alpha_N$$\hat\psi_{n}(\alpha_N)$$Z$$\varepsilon$$n>N$

Beberapa pemikiran:

1. Ini tidak memberi tahu kami seberapa besar nanti.$\varepsilon_N$
2. Saat merancang percobaan, kami tidak dapat lagi mengikat ketidaktepatan kami pada sewenang-wenang dengan menemukan . Tapi mungkin kita bisa mengikat pada tingkat rendah, maka kita tidak perlu khawatir tentang itu. Tapi kita mungkin tidak selalu bisa mengikatnya di tempat yang kita inginkan.$\varepsilon$$N_{\varepsilon}$$\varepsilon_N$
3. Kami mungkin atau mungkin tidak menemukan untuk mengikat ketidaktepatan untuk sampel ukuran .$\varepsilon_N$$N$

Pertanyaan

1. Apakah kurangnya konvergensi yang seragam membuat penduga sebagian besar tidak berguna?
   (Saya kira, jawabannya adalah "tidak" karena begitu banyak makalah fokus pada konvergensi searah ...)
2. Jika tidak, lalu apa saja contoh dasar di mana penaksir tidak-konvergen berguna?

Referensi:

• Leeb, H., & Pötscher, BM (2005). Pemilihan model dan kesimpulan: Fakta dan fiksi. Teori Ekonometrika, 21 (01), 21-59.

Sulit untuk memberikan jawaban yang pasti, karena "berguna" dan "tidak berguna" tidak matematis dan dalam banyak situasi subjektif (dalam beberapa yang lain orang dapat mencoba memformalkan kegunaan, tetapi formalisasi seperti itu kemudian kembali terbuka untuk diskusi).

Inilah beberapa pemikiran.

(a) Konvergensi seragam jelas jauh lebih kuat daripada konvergensi searah; dengan konvergensi pointwise tidak ada jaminan, jika Anda tidak tahu nilai parameter yang sebenarnya, bahwa untuk apa pun yang diberikan$n$ Anda berada di dekat tempat yang Anda inginkan.

(B) Konvergensi pointwise masih lebih kuat daripada tidak memiliki konvergensi sama sekali.

(C) Jika Anda telah diberikan $n$ itu bukan konvergensi besar dan seragam, batas seragam yang Anda benar-benar dapat menunjukkan dengan $n$Anda mungkin tidak ada gunanya. Ini tidak berarti bahwa penaksir Anda buruk, melainkan berarti bahwa batas konvergensi seragam tidak menjamin bahwa Anda cukup dekat dengan nilai sebenarnya. Kamu mungkin masih.

(d) Jika kami tidak memiliki hasil konvergensi yang seragam, ada berbagai kemungkinan:

i) Konvergensi seragam mungkin sebenarnya berlaku tetapi belum ada yang berhasil membuktikannya.

ii) Konvergensi seragam dapat dilanggar, namun mungkin hanya dilanggar di area ruang parameter yang tidak realistis, sehingga perilaku konvergensi yang sebenarnya mungkin baik-baik saja. Seperti pada (c), hanya karena Anda tidak memiliki teorema yang menjamin bahwa Anda mendekati nilai sebenarnya, bukan berarti Anda jauh.

iii) Konvergensi seragam dapat dilanggar dan Anda mungkin menemukan perilaku tidak teratur dalam semua jenis situasi realistis. Keberuntungan yang cukup.

iv) Bahkan mungkin kecil $n$-situasi di mana untuk $n$ sebenarnya tersedia dalam praktek sesuatu yang tidak konvergen sama sekali lebih baik daripada sesuatu yang konvergen atau seragam.

(e) Sekarang Anda dapat mengatakan, konvergensi yang seragam jelas berguna karena memberi kita jaminan dengan nilai praktis yang jelas dan tanpanya kita tidak akan memiliki jaminan apa pun. Tetapi terlepas dari kenyataan bahwa estimator mungkin baik bahkan jika kita tidak dapat menjamin bahwa itu baik, juga sebenarnya kita tidak pernahmemiliki jaminan yang benar-benar berlaku dalam praktik, karena dalam model praktik asumsi tidak berlaku, dan situasinya sebenarnya lebih rumit daripada mengatakan, OK, model P salah tetapi ada model Q yang benar yang terlalu rumit dan mungkin dijinakkan oleh hasil konvergensi seragam nonparametrik; tidak, semua model ini adalah idealisasi dan tidak ada yang iid atau mengikuti pola ketergantungan atau non-identitas reguler di tempat pertama (bahkan tidak nomor acak yang kita gunakan dalam simulasi sebenarnya nomor acak). Demikian juga jaminan konvergensi yang seragam berlaku untuk situasi yang diidealkan, dan praktik adalah cerita yang berbeda. Kami menggunakan teori seperti konvergensi seragam untuk membuat pernyataan kualitas tentang penduga dalam situasi ideal, karena ini adalah situasi yang dapat kami tangani. Kita hanya bisa mengatakan, dalam situasi ideal seperti itu,

Maaf, tidak ada contoh khusus, tetapi dalam pengaturan mana pun di mana Anda tidak dapat menemukan penaksir konvergen seragam tetapi hanya penaksir konvergen titik, kemungkinan adalah yang konvergen tunjuk akan membantu Anda (kadang-kadang penaksir yang Anda bahkan tidak dapat menunjukkan konvergensi searah dapat membantu Anda juga atau bahkan lebih). Maka mungkin tidak, tapi kemudian untuk alasan praktis apa pun (masalah dengan asumsi model, kecil$n$, pengukuran, apa pun) yang konvergen seragam dapat menyesatkan dalam situasi tertentu juga.