Batas atas eksponensial

Misalkan kita memiliki variabel acak IID dengan distribusi . Kita akan mengamati sampel dengan cara berikut: biarkan menjadi independen variabel acak, misalkan semua dan 's independen, dan menentukan ukuran sampel . The 's menunjukkan yang mana dari ' s berada dalam sampel, dan kami ingin belajar fraksi keberhasilan dalam sampel didefinisikan oleh $X_1,\dots,X_n$ $\mathrm{Ber}(\theta)$ $X_i$ $Y_1,\dots,Y_n$ $\mathrm{Ber}(1/2)$ $X_i$ $Y_i$ $N=\sum_{i=1}^n Y_i$ $Y_i$ $X_i$

Z = {\begin{cases} \frac{1}{N} \sum_{i = 1}^{n} X_{i} Y_{i} & if N > 0, \\ 0 & if N = 0 . \end{cases}

$Z = \begin{cases} \frac{1}{N}\sum_{i=1}^n X_i Y_i & \text{if}\quad N > 0\, , \\ 0 & \text{if} \quad N = 0 \, . \end{cases}$ Untuk , kami ingin menemukan batas atas untuk yang meluruh secara eksponensial dengan . Ketidaksetaraan Hoeffding tidak berlaku segera karena ketergantungan antar variabel.

ϵ > 0

$\epsilon>0$

P r (Z \geq θ + ϵ)

$\mathrm{Pr}\!\left(Z \geq \theta + \epsilon\right)$

n

$n$

probability-inequalities Zen
sumber

Biarkan . (i) Bukankah tidak tergantung dari ? (ii) bukankah ? ... Akibatnya, tidak jelas bagi saya bahwa bukan 'jumlah variabel acak independen'

Z_{i} = \frac{_{1}}{^{N}} X_{i} Y_{i}

$Z_i = \frac{_1}{^N} X_iY_i$

Z_{i}

$Z_i$

Z_{j \neq i}

$Z_{j\neq i}$

Z = \sum Z_{i}

$Z=\sum Z_i$

Z

$Z$

Glen_b -Reinstate Monica

Ah, poin bagus. Aku sedang memikirkan , daripada . Tapi tidak bisakah kamu menulis , dan biarkan ? Yaitu, jumlah semua kasus, apakah adalah 1 atau 0. ... tidak, itu tidak berhasil. Pembilangnya sama tetapi penyebutnya berbeda.

n

$n$

N

$N$

Z_{i} = \frac{1}{n} X_{i} Y_{i}

$Z_i = \frac{1}{n}X_iY_i$

Z = \sum_{i = 1}^{n} Z_{i}

$Z=\sum_{i=1}^n Z_i$

Y

$Y$

Glen_b -Reinstate Monica

Itu memberi kurang dari sebagian keberhasilan dalam sampel, yang merupakan jumlah bunga dalam masalah, karena , karena .

(1 / n) \sum_{i = 1}^{n} X_{i} Y_{i} \leq (1 / N) \sum_{i = 1}^{n} X_{i} Y_{i}

$(1/n)\sum_{i=1}^n X_i Y_i\leq (1/N)\sum_{i=1}^n X_i Y_i$

N \leq n

$N\leq n$

Zen

Ya, itu sebabnya saya mengakhiri dengan "tidak itu tidak berhasil". Ada ketidaksetaraan yang berlaku untuk kasus non-independen, seperti beberapa ketidaksetaraan Bernstein (lihat item keempat), dan ada sejumlah ketidaksetaraan yang berlaku untuk martingales (meskipun saya tidak tahu bahwa itu akan berlaku di sini).

Glen_b -Reinstate Monica

Saya akan memeriksanya, dan juga mencoba menemukan koneksi dengan hasil martingales. Batas untuk sangat mudah ( ) bahwa tergoda untuk menghubungkan ini dengan menggunakan semacam pengkondisian.

U = (1 / n) \sum_{i = 1}^{n} X_{i} Y_{i}

$U=(1/n)\sum_{i=1}^nX_i Y _i$

P r (U \geq θ / 2 + ϵ) \leq \exp (- 2 n ϵ^{2})

$\mathrm{Pr}(U\geq \theta/2+\epsilon)\leq \exp(-2n\epsilon^2)$

Z

$Z$

Zen

Jawaban:

Kita dapat menarik koneksi ke ketidaksetaraan Hoeffding dengan cara yang cukup langsung .

Perhatikan bahwa kita memiliki

{Z > θ + ϵ} = {\sum_{i} X_{i} Y_{i} > (θ + ϵ) \sum_{i} Y_{i}} = {\sum_{i} (X_{i} - θ - ϵ) Y_{i} > 0} .

$\{ Z > \theta + \epsilon\} = \big\{\sum_i X_i Y_i > (\theta + \epsilon)\sum_i Y_i \big\} = \big\{ \sum_i (X_i - \theta - \epsilon) Y_i > 0 \} \>.$

Set sehingga adalah iid, dan $Z_i = (X_i - \theta - \epsilon)Y_i + \epsilon/2$ $Z_i$ $\mathbb E Z_i = 0$ Dengan aplikasi langsung dariketidaksetaraan Hoeffding ini(sejak dan mengambil nilai dalam selang waktu satu ukuran).

P (Z > θ + ϵ) = P (\sum_{i} Z_{i} > n ϵ / 2) \leq e^{- n ϵ^{2} / 2},

$\mathbb P( Z > \theta + \epsilon ) = \mathbb P\big(\sum_i Z_i > n \epsilon/2\big) \leq e^{-n \epsilon^2/2}\>,$

Z_{i} \in [- θ - ϵ / 2, 1 - θ - ϵ / 2]

$Z_i \in [-\theta-\epsilon/2,1-\theta-\epsilon/2]$

Ada literatur terkait yang kaya dan menarik yang telah dibangun selama beberapa tahun terakhir, khususnya, pada topik yang berkaitan dengan teori matriks acak dengan berbagai aplikasi praktis. Jika Anda tertarik pada hal semacam ini, saya sangat merekomendasikan:

R. Vershynin, Pengantar analisis non-asimptotik dari matriks acak , Bab 5 dari Penginderaan Terkompresi, Teori dan Aplikasi. Diedit oleh Y. Eldar dan G. Kutyniok. Cambridge University Press, 2012.

Saya pikir eksposisi jelas dan memberikan cara yang sangat baik untuk segera terbiasa dengan literatur.

kardinal
sumber

Karena

menyertakan

dalam definisi mereka, saya memiliki kesan bahwa

(batas tidak berubah).

Z_{i}

$Z_i$

ϵ / 2

$\epsilon/2$

Z_{i} \in [- θ - ϵ / 2, 1 - θ - ϵ / 2]

$Z_i \in [-\theta-\epsilon/2,1-\theta-\epsilon/2]$

Alecos Papadopoulos

Dear @Zen: Perhatikan bahwa penghitungan kasus

yang cermat akan memungkinkan Anda untuk mengganti ketimpangan yang ketat

dengan

mana-mana tanpa mengubah batas akhir.

N = 0

$N=0$

>

$>$

\geq

$\geq$

kardinal

Sayang @cardinal: Saya sudah reworded pertanyaan karena sebenarnya

adalah (sedikit) bias estimator

, karena

Z

$Z$

θ

$\theta$

E [Z] = E [I_{{N = 0}} Z] + E [I_{{N > 0}} Z] = (1 - 1 / 2^{n}) θ

$\mathrm{E}[Z]=\mathrm{E}[I_{\{N=0\}}Z]+\mathrm{E}[I_{\{N>0\}}Z] = (1-1/2^n)\,\theta$

Zen

Detail untuk menangani kasus . $N=0$

\begin{aligned} {Z \geq θ + ϵ} & = ({Z \geq θ + ϵ} \cap {N = 0}) \cup ({Z \geq θ + ϵ} \cap {N > 0}) \\ = ({0 \geq θ + ϵ} \cap {N = 0}) \cup ({Z \geq θ + ϵ} \cap {N > 0}) \\ = (\emptyset \cap {N = 0}) \cup ({Z \geq θ + ϵ} \cap {N > 0}) \\ = {\sum_{i = 1}^{n} X_{i} Y_{i} \geq (θ + ϵ) \sum_{i = 1}^{n} Y_{i}} \cap {N > 0} \\ \subset {\sum_{i = 1}^{n} X_{i} Y_{i} \geq (θ + ϵ) \sum_{i = 1}^{n} Y_{i}} \\ = {\sum_{i = 1}^{n} (X_{i} - θ - ϵ) Y_{i} \geq 0} \\ = {\sum_{i = 1}^{n} ((X_{i} - θ - ϵ) Y_{i} + ϵ / 2) \geq n ϵ / 2} . \end{aligned}

$\begin{align} \{Z\geq\theta+\epsilon\} &= \left(\{Z\geq\theta+\epsilon\} \cap \{N=0\}\right) \cup \left(\{Z\geq\theta+\epsilon\} \cap \{N>0\}\right) \\ &= \left(\{0\geq\theta+\epsilon\} \cap \{N=0\}\right) \cup \left(\{Z\geq\theta+\epsilon\} \cap \{N>0\}\right) \\ &= \left(\emptyset \cap \{N=0\}\right) \cup \left(\{Z\geq\theta+\epsilon\} \cap \{N>0\}\right) \\ &= \left\{\sum_{i=1}^n X_iY_i\geq(\theta+\epsilon)\sum_{i=1}^n Y_i\right\} \cap \{N>0\} \\ &\subset \left\{\sum_{i=1}^n X_iY_i\geq(\theta+\epsilon)\sum_{i=1}^n Y_i\right\} \\ &= \left\{\sum_{i=1}^n (X_i-\theta-\epsilon)Y_i\geq 0\right\} \\ &= \left\{\sum_{i=1}^n \left((X_i-\theta-\epsilon)Y_i+\epsilon/2\right)\geq n\epsilon/2\right\} \, . \end{align}$

Untuk Alecos.

\begin{aligned} E [\sum_{i = 1}^{n} W_{i}] & = E [I_{{\sum_{i = 1}^{n} Y_{i} = 0}} \sum_{i = 1}^{n} W_{i}] + E [I_{{\sum_{i = 1}^{n} Y_{i} > 0}} \sum_{i = 1}^{n} W_{i}] \\ = E [I_{{\sum_{i = 1}^{n} Y_{i} > 0}} \frac{\sum_{i = 1}^{n} Y_{i}}{\sum_{i = 1}^{n} Y_{i}}] = E [I_{{\sum_{i = 1}^{n} Y_{i} > 0}}] = 1 - 1 / 2^{n} . \end{aligned}

$\begin{align} \mathrm{E}\!\left[\sum_{i=1} ^n W_i\right]&=\mathrm{E}\!\left[I_{\{\sum_{i=1}^n Y_i=0\}}\sum_{i=1} ^n W_i\right] + \mathrm{E}\!\left[I_{\{\sum_{i=1}^n Y_i>0\}}\sum_{i=1} ^n W_i\right] \\ &=\mathrm{E}\!\left[I_{\{\sum_{i=1}^n Y_i>0\}}\frac{\sum_{i=1} ^n Y_i}{\sum_{i=1}^n Y_i}\right]=\mathrm{E}\!\left[I_{\{\sum_{i=1}^n Y_i>0\}}\right]=1-1/2^n \, . \end{align}$

Zen
sumber

Jawaban ini terus bermutasi. Versi saat ini tidak berhubungan dengan diskusi yang saya lakukan dengan @ cardinal di komentar (meskipun melalui diskusi ini saya untungnya menyadari bahwa pendekatan pengkondisian tampaknya tidak mengarah ke mana pun).

Untuk upaya ini, saya akan menggunakan bagian lain dari makalah asli Hoeffding 1963 , yaitu bagian 5 "Jumlah Variabel Acak Tergantung".

Atur

W_{i} \equiv \frac{Y_{i}}{\sum_{i = 1}^{n} Y_{i}}, \sum_{i = 1}^{n} Y_{i} \neq 0, \sum_{i = 1}^{n} W_{i} = 1, n \geq 2

$W_i \equiv \frac {Y_i}{\sum_{i=1}^nY_i}, \qquad \sum_{i=1}^nY_i \neq 0, \qquad \sum_{i=1}^nW_i=1, \qquad n\geq 2$

sementara kita mengatur jika . $W_i =0$ $\sum_{i=1}^nY_i = 0$

Kemudian kita memiliki variabel

Z_{n} = \sum_{i = 1}^{n} W_{i} X_{i}, E (Z_{n}) \equiv μ_{n}

$Z_n= \sum_{i=1}^nW_iX_i, \qquad E(Z_n) \equiv \mu_n$

Kami tertarik pada probabilitas

P r (Z_{n} \geq μ_{n} + ϵ), ϵ < 1 - μ_{n}

$\mathrm{Pr}(Z_n\geq \mu_n +\epsilon), \qquad \epsilon < 1-\mu_n$

Adapun banyak ketidaksetaraan lainnya, Hoeffding memulai alasannya dengan mencatat bahwa dan itu

P r (Z_{n} \geq μ_{n} + ϵ) = E [1_{{Z_{n} - μ_{n} - ϵ \geq 0}}]

$\mathrm{Pr}(Z_n\geq \mu_n +\epsilon) = E\left[\mathbf 1_{\{Z_n-\mu_n -\epsilon \geq 0\}}\right]$

1_{{Z_{n} - μ_{n} - ϵ \geq 0}} \leq \exp {h (Z_{n} - μ_{n} - ϵ)}, h > 0

$\mathbf 1_{\{Z_n-\mu_n -\epsilon\geq 0\}} \leq \exp\Big\{h(Z_n-\mu_n -\epsilon)\Big\}, \qquad h>0$

Untuk kasus tergantung-variabel, seperti Hoeffding kita menggunakan fakta bahwa dan aktifkan ketidaksetaraan Jensen untuk (cembung) fungsi eksponensial, untuk menulis $\sum_{i=1}^nW_i=1$

e^{h Z_{n}} = \exp {h (\sum_{saya = 1}^{n} W_{saya} X_{saya})} \leq \sum_{saya = 1}^{n} W_{saya} e^{h X_{saya}}

$e^{hZ_n} = \exp\left\{h\left(\sum_{i=1}^nW_iX_i\right)\right\} \leq \sum_{i=1}^nW_ie^{hX_i}$

dan menghubungkan hasil untuk sampai pada

P r (Z_{n} \geq μ_{n} + ϵ) \leq e^{- h (μ_{n} + ϵ)} E [\sum_{saya = 1}^{n} W_{saya} e^{h X_{saya}}]

$\mathrm{Pr}(Z_n\geq \mu_n +\epsilon) \leq e^{-h(\mu_n+\epsilon)}E\left[\sum_{i=1}^nW_ie^{hX_i}\right]$

Berfokus pada kasus kami, karena dan bersifat independen, nilai yang diharapkan dapat dipisahkan, $W_i$ $X_i$

P r (Z_{n} \geq μ_{n} + ϵ) \leq e^{- h (μ_{n} + ϵ)} \sum_{saya = 1}^{n} E (W_{saya}) E (e^{h X_{saya}})

$\mathrm{Pr}(Z_n\geq \mu_n +\epsilon) \leq e^{-h(\mu_n+\epsilon)}\sum_{i=1}^nE(W_i)E\left(e^{hX_i}\right)$

Dalam kasus kami, adalah iid Bernoullis dengan parameter , dan adalah fungsi yang menghasilkan momen umum dalam , . Begitu $X_i$ $\theta$ $E[e^{hX_i}]$ $h$ $E[e^{hX_i}] = 1-\theta +\theta e^h$

P r (Z_{n} \geq μ_{n} + ϵ) \leq e^{- h (μ_{n} + ϵ)} (1 - θ + θ e^{h}) \sum_{saya = 1}^{n} E (W_{saya})

$\mathrm{Pr}(Z_n\geq \mu_n +\epsilon) \leq e^{-h(\mu_n+\epsilon)}(1-\theta +\theta e^h)\sum_{i=1}^nE(W_i)$

Meminimalkan RHS sehubungan dengan , kita dapatkan $h$

e^{h^{*}} = \frac{(1 - θ) (μ_{n} + ϵ)}{θ (1 - μ_{n} - ϵ)}

$e^{h^*} = \frac {(1-\theta)(\mu_n+\epsilon)}{\theta(1-\mu_n-\epsilon)}$

Memasukkannya ke dalam ketidaksetaraan dan memanipulasi kita dapatkan

P r (Z_{n} \geq μ_{n} + ϵ) \leq {(\frac{θ}{μ_{n} + ϵ})}^{μ_{n} + ϵ} \cdot {(\frac{1 - θ}{1 - μ_{n} - ϵ})}^{1 - μ_{n} - ϵ} \sum_{saya = 1}^{n} E (W_{saya})

$\mathrm{Pr}(Z_n\geq \mu_n +\epsilon) \leq \left(\frac {\theta}{\mu_n+\epsilon}\right)^{\mu_n+\epsilon}\cdot \left(\frac {1-\theta}{1-\mu_n-\epsilon}\right)^{1-\mu_n-\epsilon}\sum_{i=1}^nE(W_i)$

sementara

P r (Z_{n} \geq θ + ϵ) \leq {(\frac{θ}{θ + ϵ})}^{θ + ϵ} \cdot {(\frac{1 - θ}{1 - θ - ϵ})}^{1 - θ - ϵ} \sum_{saya = 1}^{n} E (W_{saya})

$\mathrm{Pr}(Z_n\geq \theta +\epsilon) \leq \left(\frac {\theta}{\theta+\epsilon}\right)^{\theta+\epsilon}\cdot \left(\frac {1-\theta}{1-\theta-\epsilon}\right)^{1-\theta-\epsilon}\sum_{i=1}^nE(W_i)$

Hoeffding menunjukkan itu

{(\frac{θ}{θ + ϵ})}^{θ + ϵ} \cdot {(\frac{1 - θ}{1 - θ - ϵ})}^{1 - θ - ϵ} \leq e^{- 2 ϵ^{2}}

$\left(\frac {\theta}{\theta+\epsilon}\right)^{\theta+\epsilon}\cdot \left(\frac {1-\theta}{1-\theta-\epsilon}\right)^{1-\theta-\epsilon} \leq e^{-2\epsilon^2}$

\sum_{saya = 1}^{n} E (W_{saya}) = 1 - 1 / 2^{n}

$\sum_{i=1}^n E(W_i) =1-1/2^n$

P r (Z_{n} \geq θ + ϵ) \leq (1 - \frac{1}{2^{n}}) e^{- 2 ϵ^{2}} \equiv B_{D}

$\mathrm{Pr}(Z_n\geq \theta +\epsilon) \leq (1-\frac 1{2^n})e^{-2\epsilon^2} \equiv B_D$

$B_I$

B_{D} = (1 - \frac{1}{2^{n}}) e^{- 2 ϵ^{2}} \leq e^{- n ϵ^{2} / 2} = B_{saya}

$B_D=(1-\frac 1{2^n})e^{-2\epsilon^2} \leq e^{-n\epsilon^2/2}=B_I$

\Rightarrow \frac{2^{n} - 1}{2^{n}} \leq \exp {(\frac{4 - n}{2}) ϵ^{2}}

$\Rightarrow \frac {2^n-1}{2^n} \leq \exp\left\{\left(\frac {4-n}{2}\right)\epsilon^2\right\}$

$n\leq 4$ $B_D \leq B_I$ $n \geq 5$ $B_I$ $B_D$ $\epsilon$ $n=12$ $\epsilon \geq 0.008$ $B_I$

$W_i$ $X_i$ $X_i$

Alecos Papadopoulos
sumber

E [W_{1}] = (1 - 1 / 2^{n}) / n

$\mathrm{E}[W_1]=(1-1/2^n)/n$

n

$n$

@ Zen Memang (sebenarnya itu meningkat dengan ukuran sampel, meskipun terikat), itulah sebabnya ikatan Kardinal lebih berguna untuk sebagian besar ukuran sampel.

Alecos Papadopoulos