Apa saja aplikasi ilustratif dari kemungkinan empiris?

Saya telah mendengar tentang kemungkinan empiris Owen, tetapi sampai saat ini tidak menghiraukannya sampai saya menemukannya di kertas yang menarik ( Mengersen et al. 2012 ).

Dalam upaya saya untuk memahaminya, saya telah mengumpulkan bahwa kemungkinan data yang diamati diwakili sebagai

L = \prod_{i} p_{i} = \prod_{i} P (X_{i} = x) = \prod_{i} P (X_{i} \leq x) - P (X_{i} < x)

$L = \prod_i p_i = \prod_i P(X_i=x) = \prod_i P(X_i \le x) - P(X_i \lt x)$ , di mana

\sum_{i} p_{i} = 1

$\sum_i p_i = 1$ dan

p_{i} > 0

$p_i > 0$ .

Namun, saya tidak dapat membuat lompatan mental yang menghubungkan representasi ini dengan bagaimana ia dapat digunakan untuk membuat kesimpulan tentang pengamatan. Mungkin saya terlalu berakar dalam memikirkan kemungkinan parameter parameter model?

Terlepas dari itu, saya telah mencari Google Scholar untuk beberapa makalah yang menggunakan kemungkinan empiris yang akan membantu saya menginternalisasi konsep ... tidak berhasil. Jelas, ada buku Art Owen tentang Kemungkinan Empiris , tetapi Google Buku meninggalkan semua bagian yang enak dan saya masih dalam proses lambat mendapatkan pinjaman antar perpustakaan.

Sementara itu, dapatkah seseorang dengan ramah menunjukkan saya pada makalah dan dokumen yang dengan jelas mengilustrasikan premis kemungkinan empiris dan bagaimana cara kerjanya? Deskripsi ilustrasi EL itu sendiri juga akan diterima!

bayesian maximum-likelihood nonparametric likelihood empirical-likelihood Sameer
sumber

Para ahli ekonometrika, khususnya, telah jatuh cinta pada EL. Jika Anda mencari aplikasi , literatur itu mungkin salah satu tempat yang lebih baik untuk mencari.

kardinal

Jawaban:

Saya tidak bisa memikirkan tempat yang lebih baik daripada buku Owen untuk belajar tentang kemungkinan empiris.

$L = L(p_1, \ldots, p_n)$ $x_1, \ldots, x_n$ $(p_1, \ldots, p_n)$ $n$ $1/n$ pada masing-masing pengamatan (seandainya semuanya berbeda). Dimensi ruang parameter meningkat dengan jumlah pengamatan.

$\mu$ $p = (p_1, \ldots, p_n)$

μ (p) = \sum_{i = 1}^{n} x_{i} p_{i},

$\mu(p) = \sum_{i=1}^n x_i p_i,$

L_{prof} (μ) = max {L (p) ∣ μ (p) = μ} .

$L_{\text{prof}}(\mu) = \max \{ L(p) \mid \mu(p) = \mu \}.$ Kemudian kita dapat menghitung interval kepercayaan dari formulir dengan . Di sini adalah mean empiris dan . Interval mungkin seharusnya hanya disebut (profil) interval kemungkinan karena tidak ada pernyataan tentang cakupan dibuat dimuka. Dengan penurunan interval (ya, itu adalah interval) membentuk interval kepercayaan keluarga yang meningkat. Teori asimptotik atau bootstrap dapat digunakan untuk mengkalibrasi untuk mencapai cakupan 95%, katakanlah.

I_{r} = {μ ∣ L_{prof} (μ) \geq r L_{prof} (\bar{x})}

$I_r = \{ \mu \mid L_{\text{prof}}(\mu) \geq r L_{\text{prof}}(\bar{x}) \}$

r \in (0, 1)

$r \in (0,1)$

\bar{x}

$\bar{x}$

L_{prof} (\bar{x}) = n^{- n}

$L_{\text{prof}}(\bar{x}) = n^{-n}$

I_{r}

$I_r$

r

$r$

I_{r}

$I_r$

r

$r$

Buku Owen membahas hal ini secara rinci dan memberikan ekstensi untuk masalah statistik yang lebih rumit dan parameter menarik lainnya.

NRH
sumber

(+1) Karena tidak memiliki akses ke buku, orang selalu dapat memulai dengan makalah asli untuk mendapatkan dasar-dasar teori. Seperti buku, makalah juga ditulis dengan cukup jelas.

kardinal

Beberapa tautan: ( 1 ) A. Owen (1988), interval kepercayaan rasio kemungkinan empiris untuk fungsional tunggal , Biometrika , vol. 75, No. 2, hal. 237-249, ( 2 ) A. Owen (1990), wilayah kepercayaan rasio kemungkinan empiris , Ann. Statist. , vol. 18, tidak. 1, hal. 90-120 ( akses terbuka ), dan ( 3 ) A. Owen (1991) Kemungkinan empiris untuk model linier , Ann. Statist. , vol. 19, tidak. 4, hlm. 1725-1747 ( akses terbuka ).

kardinal

@ kardinal Fantastic! Seharusnya memikirkan itu sendiri.

Sameer

@NHS Terima kasih atas penjelasannya! Untuk lebih jelasnya, apakah adalah wrt the ? Juga, dapatkah Anda menjelaskan mengapa ? Haruskah itu ?

L_{p r o f} (μ)

$L_{prof}(\mu)$

a r g m a x

$argmax$

p

$p$

L_{p r o f} (\bar{x}) = n^{n}

$L_{prof}(\bar{x})=n^n$

\prod_{i} n^{- 1} = n^{- n}

$\prod_i n^{-1} = n^{-n}$

Sameer

@Sameer, kesalahan ketik diperbaiki sekarang. Namun, itu bukan argmax. Ini adalah kemungkinan profil yang diperoleh dengan memaksimalkan kemungkinan atas semua vektor parameter dengan nilai yang diberikan . Btw dengan akses universitas yang sesuai, saya memperoleh versi elektronik dari CRC dari masing-masing bab dalam buku Owen.

μ

$\mu$

NRH

Dalam ekonometrik, banyak makalah yang diterapkan mulai dengan asumsi bahwa mana adalah vektor data, adalah sistem persamaan diketahui , dan adalah parameter yang tidak diketahui, . Fungsi berasal dari model ekonomi. Tujuannya adalah untuk memperkirakan .

E [g (X, θ)] = 0

$E[g(X,\theta)] = 0$

X

$X$

g

$g$

q

$q$

θ \in Θ \subseteq R^{p}

$\theta \in \Theta \subseteq \mathbb{R}^p$

q \geq p

$q \geq p$

g

$g$

θ

$\theta$

Pendekatan tradisional, dalam ekonometrika, untuk estimasi dan inferensi pada adalah dengan menggunakan metode momen umum: mana adalah matriks bobot positif pasti dan Kemungkinan empiris menjadi penaksir alternatif untuk GMM. Idenya adalah untuk menegakkan kondisi saat sebagai kendala ketika memaksimalkan kemungkinan nonparametrik. Pertama, perbaiki . Kemudian selesaikan tunduk pada $\theta$

{\hat{θ}}_{GMM} = {argmin}_{θ \in Θ} {\bar{g}}_{n} (θ)^{'} W {\bar{g}}_{n} (θ)

$\hat{\theta}_\text{GMM} = \text{argmin}_{\theta \in \Theta} \; \bar{g}_n(\theta) 'W \bar{g}_n(\theta)$

W

$W$

{\bar{g}}_{n} (θ) := \frac{1}{n} \sum_{i = 1}^{n} g (X_{i}, θ) .

$\bar{g}_n(\theta) := \frac{1}{n} \sum_{i=1}^n g(X_i,\theta).$

θ

$\theta$

L (θ) = max_{p_{1}, \dots, p_{n}} \prod_{i = 1}^{n} p_{i}

$L(\theta) = \max_{p_1,\ldots,p_n} \; \prod_{i=1}^n p_i$

\sum_{i = 1}^{n} p_{i} = 1, p_{i} \geq 0, \sum_{i = 1}^{n} p_{i} \cdot g (X_{i}, θ) = 0.

$\sum_{i=1}^n p_i=1, \qquad p_i \geq 0, \qquad \sum_{i=1}^n p_i \cdot g(X_i,\theta) = 0.$ Ini adalah `loop dalam ' ' Kemudian maksimalkan lebih dari : Pendekatan ini telah terbukti memiliki sifat urutan yang lebih tinggi daripada GMM (lihat Newey dan Smith 2004, Econometrica ), yang merupakan salah satu alasan mengapa itu lebih disukai daripada GMM. Untuk referensi tambahan, lihat catatan dan kuliah oleh Imbens dan Wooldridge di sini (kuliah 15).

θ

$\theta$

{\hat{θ}}_{EL} = {argmax}_{θ \in Θ} \log L (θ) .

$\hat{\theta}_\text{EL} = \text{argmax}_{\theta \in \Theta} \; \log L(\theta).$

Tentu saja ada banyak alasan lain mengapa EL mendapatkan perhatian di bidang ekonometrika, tetapi saya harap ini adalah tempat awal yang berguna. Model kesetaraan momen sangat umum dalam ekonomi empiris.

Aelmore
sumber

Terima kasih telah menulis jawaban yang jelas dan direferensikan dengan baik. Selamat datang di komunitas kami!

whuber

Dalam analisis survival, kurva Kaplan-Meier adalah estimator non-parametrik paling terkenal dari fungsi survival , di mana menunjukkan variabel acak waktu-ke-peristiwa. Pada dasarnya, adalah generalisasi dari fungsi distribusi empiris yang memungkinkan penyensoran. Ini dapat diturunkan secara heuristik, seperti yang diberikan dalam kebanyakan buku teks praktis. Tetapi juga dapat secara formal diturunkan sebagai penduga kemungkinan maksimum (empiris). Berikut ini rincian lebih lanjut . $S(t) = Pr(T > t)$ $T$ $\hat{S}$

ocram
sumber