Teori Nilai Ekstrim - Perlihatkan: Normal ke Gumbel

Maksimum iid Standardnormals konvergen ke Distribusi Gumbel Standar sesuai dengan Teori Nilai Ekstrim . $X_1,\dots,X_n. \sim$

Bagaimana kita bisa menunjukkan itu?

Kita punya

P (max X_{i} \leq x) = P (X_{1} \leq x, \dots, X_{n} \leq x) = P (X_{1} \leq x) \dots P (X_{n} \leq x) = F (x)^{n}

$P(\max X_i \leq x) = P(X_1 \leq x, \dots, X_n \leq x) = P(X_1 \leq x) \cdots P(X_n \leq x) = F(x)^n$

Kita perlu menemukan / memilih $a_n>0,b_n\in\mathbb{R}$ urutan konstanta sedemikian rupa sehingga:

F {(a_{n} x + b_{n})}^{n} \to^{n \to \infty} G (x) = e^{- \exp (- x)}

$F\left(a_n x+b_n\right)^n\rightarrow^{n\rightarrow\infty} G(x) = e^{-\exp(-x)}$

Bisakah Anda menyelesaikannya atau menemukannya dalam literatur?

Ada beberapa contoh hal.6 / 71 , tetapi tidak untuk kasus Normal:

Φ {(a_{n} x + b_{n})}^{n} = {(\frac{1}{\sqrt{2 π}} \int_{- \infty}^{a_{n} x + b_{n}} e^{- \frac{y^{2}}{2}} d y)}^{n} \to e^{- \exp (- x)}

$\Phi\left(a_n x+b_n\right)^n=\left(\frac{1}{\sqrt{2\pi}}\int_{-\infty}^{a_n x+b_n} e^{-\frac{y^2}{2}}dy\right)^n\rightarrow e^{-\exp(-x)}$

probability normal-distribution convergence extreme-value emcor
sumber

Jawaban:

Cara tidak langsung, adalah sebagai berikut:
Untuk distribusi yang benar-benar berkelanjutan, Richard von Mises (dalam makalah 1936 "La distribution de la plus grande de n valeurs" , yang tampaknya telah direproduksi -dalam bahasa Inggris? - dalam edisi 1964 dengan pilihan kertas miliknya), telah memberikan kondisi yang cukup berikut untuk maksimum sampel untuk menyatu dengan standar Gumbel, : $G(x)$

Misalkan menjadi fungsi distribusi umum dari variabel acak, dan kerapatan bersama. Lalu jika $F(x)$ $n$ $f(x)$

lim_{x \to F^{- 1} (1)} (\frac{d}{d x} \frac{(1 - F (x))}{f (x)}) = 0 \Rightarrow X_{(n)} \overset{d}{\to} G (x)

$\lim_{x\rightarrow F^{-1}(1)}\left (\frac d{dx}\frac {(1-F(x))}{f(x)}\right) =0 \Rightarrow X_{(n)} \xrightarrow{d} G(x)$

Menggunakan notasi biasa untuk standar normal dan menghitung derivatif, kami miliki

\frac{d}{d x} \frac{(1 - Φ (x))}{ϕ (x)} = \frac{- ϕ (x)^{2} - ϕ^{'} (x) (1 - Φ (x))}{ϕ (x)^{2}} = \frac{- ϕ^{'} (x)}{ϕ (x)} \frac{(1 - Φ (x))}{ϕ (x)} - 1

$\frac d{dx}\frac {(1-\Phi(x))}{\phi(x)} = \frac {-\phi(x)^2-\phi'(x)(1-\Phi(x))}{\phi(x)^2} = \frac {-\phi'(x)}{\phi(x)}\frac {(1-\Phi(x))}{\phi(x)}-1$

Perhatikan bahwa . Juga, untuk distribusi normal, . Jadi kita harus mengevaluasi batasannya $\frac {-\phi'(x)}{\phi(x)} =x$ $F^{-1}(1) = \infty$

lim_{x \to \infty} (x \frac{(1 - Φ (x))}{ϕ (x)} - 1)

$\lim_{x\rightarrow \infty}\left (x\frac {(1-\Phi(x))}{\phi(x)}-1\right)$

Tetapi adalah rasio Mill, dan kita tahu bahwa rasio Mill untuk standar normal cenderung ketika tumbuh. Begitu $\frac {(1-\Phi(x))}{\phi(x)}$ $1/x$ $x$

lim_{x \to \infty} (x \frac{(1 - Φ (x))}{ϕ (x)} - 1) = x \frac{1}{x} - 1 = 0

$\lim_{x\rightarrow \infty}\left (x\frac {(1-\Phi(x))}{\phi(x)}-1\right) = x\frac {1}{x}-1= 0$

dan kondisi yang cukup terpenuhi.

Seri terkait diberikan sebagai

a_{n} = \frac{1}{n ϕ (b_{n})}, b_{n} = Φ^{- 1} (1 - 1 / n)

$a_n = \frac 1{n\phi(b_n)},\;\;\; b_n = \Phi^{-1}(1-1/n)$

TAMBAHAN

Ini dari ch. 10,5 dari buku HA David & HN Nagaraja (2003), "Order Statistics" (edisi 3d) .

$\xi_a = F^{-1}(a)$ . Juga, referensi ke de Haan adalah "Haan, LD (1976). Contoh ekstrem: pengantar dasar. Statistica Neerlandica, 30 (4), 161-172. " Tetapi waspadalah karena beberapa notasi memiliki konten yang berbeda di de Haan - misalnya dalam buku adalah fungsi kerapatan probabilitas, sedangkan dalam de Haan berarti fungsi buku (yaitu rasio Mill). Juga, de Haan memeriksa kondisi yang cukup sudah dibedakan. $f(t)$ $f(t)$ $w(t)$

masukkan deskripsi gambar di sini

Alecos Papadopoulos
sumber

Saya tidak yakin saya mengerti solusi Anda. Jadi Anda menganggap sebagai CDF normal standar. Saya menindaklanjuti dan setuju bahwa kondisi yang cukup puas. Tapi bagaimana seri terkait dan tiba-tiba diberikan oleh mereka?

F

$F$

a_{n}

$a_n$

b_{n}

$b_n$

renrenthehamster

@renrenthehamster Saya pikir kedua bagian ini dinyatakan secara independen (tidak ada koneksi langsung).

emcor

Jadi bagaimana mungkin seri terkait diperoleh? Lagi pula, saya membuka pertanyaan tentang masalah ini (dan lebih umum lagi, untuk distribusi lain di luar standar normal)

renrenthehamster

@renrenthehamster Saya telah menambahkan materi yang relevan. Saya tidak percaya ada resep standar untuk semua kasus, untuk menemukan seri ini.

Alecos Papadopoulos

Pertanyaannya menanyakan dua hal: (1) bagaimana menunjukkan bahwa maksimum menyatu, dalam arti bahwa menyatu (dalam distribusi) untuk urutan yang dipilih secara tepat dan , ke distribusi Standard Gumbel dan (2) bagaimana menemukan urutan tersebut. $X_{(n)}$ $(X_{(n)}-b_n)/a_n$ $(a_n)$ $(b_n)$

Yang pertama terkenal dan didokumentasikan dalam makalah asli pada teorema Fisher-Tippett-Gnedenko (FTG). Yang kedua tampaknya lebih sulit; itulah masalah yang dibahas di sini.

Harap dicatat, untuk mengklarifikasi beberapa pernyataan yang muncul di tempat lain di utas ini, itu

Maksimum tidak menyatu dengan apa pun: ia menyimpang (meskipun sangat lambat).
Tampaknya ada konvensi yang berbeda mengenai distribusi Gumbel. Saya akan mengadopsi konvensi bahwa CDF dari distribusi Gumbel terbalik , hingga skala dan lokasi, diberikan oleh . Maksimum yang sesuai dengan standar dari variasi Normal normal bertemu dengan distribusi Gumbel terbalik. $1-\exp(-\exp(x))$

Intuisi

Ketika iid dengan fungsi distribusi umum , distribusi maksimum adalah $X_i$ $F$ $X_{(n)}$

F_{n} (x) = Pr (X_{(n)} \leq x) = Pr (X_{1} \leq x) Pr (X_{2} \leq x) \dots Pr (X_{n} \leq x) = F^{n} (x) .

$F_n(x) = \Pr(X_{(n)}\le x) = \Pr(X_1 \le x)\Pr(X_2 \le x) \cdots \Pr(X_n \le x) = F^n(x).$

Ketika dukungan tidak memiliki batas atas, seperti dengan distribusi Normal, urutan fungsi berbaris selamanya ke kanan tanpa batas: $F$ $F^n$

Gambar 1

Grafik parsial untuk ditampilkan. $F_n$ $n=1,2,2^2, 2^4, 2^8, 2^{16}$

Untuk mempelajari bentuk distribusi ini, kita dapat menggeser masing-masing kembali ke kiri dengan sejumlah dan ulang dengan untuk membuatnya sebanding. $b_n$ $a_n$

Gambar 2

Masing-masing grafik sebelumnya telah digeser untuk menempatkan mediannya pada dan untuk membuat kisaran interkuartil dari satuan panjangnya. $0$

FTG menegaskan bahwa sekuens dan dapat dipilih sehingga fungsi distribusi ini konvergen pada setiap ke beberapa distribusi nilai ekstrim , hingga skala dan lokasi. Ketika adalah distribusi normal, distribusi nilai ekstrem yang membatasi tertentu adalah Gumbel terbalik, hingga lokasi dan skala. $(a_n)$ $(b_n)$ $x$ $F$

Larutan

Sangat menggoda untuk mengemulasi Teorema Limit Pusat dengan menstandarisasi untuk memiliki satuan mean dan varian unit. Ini tidak tepat, sebagian, karena FTG berlaku bahkan untuk distribusi (berkelanjutan) yang tidak memiliki momen pertama atau kedua. Sebaliknya, gunakan persentil (seperti median) untuk menentukan lokasi dan perbedaan persentil (seperti IQR) untuk menentukan penyebaran. (Pendekatan umum ini harus berhasil menemukan dan untuk setiap distribusi berkelanjutan.) $F_n$ $a_n$ $b_n$

Untuk distribusi Normal standar, ini ternyata mudah! Biarkan . dari bersesuaian dengan adalah setiap nilai yang . Mengingat definisi , solusinya adalah $0 \lt q \lt 1$ $F_n$ $q$ $x_q$ $F_n(x_q) = q$ $F_n(x) = F^n(x)$

x_{q; n} = F^{- 1} (q^{1 / n}) .

$x_{q;n} = F^{-1}(q^{1/n}).$

Karena itu kita dapat mengatur

b_{n} = x_{1 / 2; n}, a_{n} = x_{3 / 4; n} - x_{1 / 4; n}; G_{n} (x) = F_{n} (a_{n} x + b_{n}) .

$b_n = x_{1/2;n},\ a_n = x_{3/4;n} - x_{1/4;n};\ G_n(x) = F_n(a_n x + b_n).$

Karena, dengan konstruksi, median adalah dan IQR-nya adalah , median nilai pembatas (yang merupakan beberapa versi Gumbel terbalik) harus dan IQR-nya harus . Biarkan parameter skala menjadi dan parameter lokasi menjadi . Karena median adalah dan IQR mudah ditemukan , parameter harus $G_n$ $0$ $1$ $G_n$ $0$ $1$ $\beta$ $\alpha$ $\alpha + \beta \log\log(2)$ $\beta(\log\log(4) - \log\log(4/3))$

α = \frac{\log \log 2}{\log \log (4 / 3) - \log \log (4)}; β = \frac{1}{\log \log (4) - \log \log (4 / 3)} .

$\alpha = \frac{\log\log 2}{\log\log(4/3) - \log\log(4)};\ \beta = \frac{1}{\log\log(4) - \log\log(4/3)}.$

Tidak perlu bagi dan untuk secara tepat nilai-nilai ini: mereka hanya perlu memperkirakannya, asalkan batas masih distribusi Gumbel terbalik ini. Analisis langsung (tetapi membosankan) untuk normal standar menunjukkan bahwa perkiraan $a_n$ $b_n$ $G_n$ $F$

a_{n}^{'} = \frac{\log ((4 \log^{2} (2)) / (\log^{2} (\frac{4}{3})))}{2 \sqrt{2 \log (n)}}, b_{n}^{'} = \sqrt{2 \log (n)} - \frac{\log (\log (n)) + \log (4 π \log^{2} (2))}{2 \sqrt{2 \log (n)}}

$a_n^\prime = \frac{\log \left(\left(4 \log^2(2)\right)/\left(\log^2\left(\frac{4}{3}\right)\right)\right)}{2\sqrt{2\log (n)}},\ b_n^\prime = \sqrt{2\log (n)}-\frac{\log (\log (n))+\log \left(4 \pi \log ^2(2)\right)}{2 \sqrt{2\log (n)}}$

akan bekerja dengan baik (dan sesederhana mungkin).

Gambar 3

Kurva biru muda adalah grafik parsial untuk menggunakan urutan perkiraan dan . Garis merah gelap menggambarkan distribusi Gumbel terbalik dengan parameter dan . Konvergensi jelas (walaupun laju konvergensi untuk negatif terasa lebih lambat). $G_n$ $n=2, 2^6, 2^{11}, 2^{16}$ $a_n^\prime$ $b_n^\prime$ $\alpha$ $\beta$ $x$

Referensi

BV Gnedenko, Tentang Pembatasan Distribusi Istilah Maksimal dalam Seri Acak . Dalam Kotz dan Johnson, Terobosan dalam Statistik Volume I: Yayasan dan Teori Dasar, Springer, 1992. Diterjemahkan oleh Norman Johnson.

whuber
sumber

@Vossler Rumus dalam posting untuk konvergen ke sebagai . Berperilaku seperti untuk besar .

a_{n}

$a_n$

0

$0$

n \to \infty

$n\to\infty$

{(2 \log (n) - \log (2 π))}^{- 1 / 2}

$\left(2 \log(n) - \log(2\pi)\right)^{-1/2}$

n

$n$

Whuber

Ya, itu benar, saya menyadari hal ini segera setelah saya memposting komentar saya jadi saya segera menghapusnya. Terima kasih!

Vossler

@Jess, saya berharap jawaban ini dipahami sebagai menunjukkan, antara lain, bahwa tidak ada yang namanya rumus "the": ada banyak sekali rumus yang benar untuk dan

a_{n}

$a_n$

b_{n} .

$b_n.$

whuber

@Jess Itu lebih baik, karena menunjukkan pendekatan alternatif adalah motivasi untuk menulis jawaban ini. Saya tidak mengerti sindiran Anda yang saya anggap "tidak berguna untuk menuliskan jawaban," karena itulah yang secara eksplisit saya lakukan di sini.

Whuber

@Jess Saya tidak dapat melanjutkan percakapan ini karena sepenuhnya sepihak: Saya belum mengenali apa pun yang saya tulis dalam salah satu penokohan Anda. Saya berhenti sementara saya di belakang.

whuber