Apakah versi sampel ketidaksetaraan Chebyshev satu sisi ada?

Saya tertarik pada versi Cantelli satu sisi tentang ketidaksetaraan Chebyshev :

P (X - E (X) \geq t) \leq \frac{V a r (X)}{V a r (X) + t^{2}} .

$\mathbb P(X - \mathbb E (X) \geq t) \leq \frac{\mathrm{Var}(X)}{\mathrm{Var}(X) + t^2} \,.$

Pada dasarnya, jika Anda mengetahui mean dan varians populasi, Anda dapat menghitung batas atas pada probabilitas mengamati nilai tertentu. (Setidaknya itu adalah pemahaman saya.)

Namun, saya ingin menggunakan mean sampel dan varians sampel daripada mean populasi aktual dan varians.

Saya menduga bahwa karena ini akan menimbulkan lebih banyak ketidakpastian, batas atas akan meningkat.

Apakah ada ketidaksamaan analog dengan di atas, tetapi yang menggunakan mean dan varians sampel?

Sunting : "Sampel" analog dari Chebyshev Ketimpangan (tidak satu sisi), telah dikerjakan. The halaman Wikipedia memiliki beberapa rincian. Namun, saya tidak yakin bagaimana ini akan diterjemahkan ke satu sisi kasus yang saya miliki di atas.

probability mathematical-statistics probability-inequalities mean casandra
sumber

Terima kasih Glen_b. Ini masalah yang cukup menarik. Saya selalu berpikir bahwa ketimpangan Chebyshev sangat kuat (karena memungkinkan Anda melakukan inferensi statistik tanpa memerlukan distribusi probabilitas); jadi bisa menggunakannya dengan mean sampel dan varians akan sangat luar biasa.

casandra

Jawaban:

Ya, kita bisa mendapatkan hasil yang analog menggunakan mean sampel dan varians, dengan mungkin, beberapa kejutan kecil muncul dalam proses.

Pertama, kita perlu sedikit memperbaiki pernyataan pertanyaan dan menetapkan beberapa asumsi. Yang penting, harus jelas bahwa kita tidak bisa berharap untuk mengganti varians populasi dengan varians sampel di sisi kanan karena yang terakhir adalah acak ! Jadi, kami memfokuskan kembali perhatian kami pada ketimpangan setara Dalam hal tidak jelas bahwa ini adalah setara, perhatikan bahwa kami hanya mengganti dengan dalam ketidaksetaraan awal tanpa kehilangan secara umum.

P (X - E X \geq t σ) \leq \frac{1}{1 + t^{2}} .

$\mathbb P\left( X - \mathbb E X \geq t \sigma \right) \leq \frac{1}{1+t^2} \>.$

t

$t$

t σ

$t \sigma$

Kedua, kita asumsikan bahwa kita memiliki sampel acak dan kami tertarik dalam batas atas untuk analog kuantitas , di mana adalah sampel mean dan adalah standar deviasi sampel. $X_1,\ldots,X_n$ $\mathbb P(X_1 - \bar X \geq t S)$ $\bar X$ $S$

Setengah langkah ke depan

$X_1 - \bar X$

P (X_{1} - \bar{X} \geq t σ) \leq \frac{1}{1 + \frac{n}{n - 1} t^{2}}

$\mathbb P( X_1 - \bar X \geq t\sigma ) \leq \frac{1}{1 + \frac{n}{n-1}t^2}$

σ^{2} = V a r (X_{1})

$\sigma^2 = \mathrm{Var}(X_1)$

σ

$\sigma$

S

$S$

Versi sampel Chebyshev satu sisi

$X_1,\ldots,X_n$ $\mathbb P(S = 0) = 0$
$P (X_{1} - \bar{X} \geq t S) \leq \frac{1}{1 + \frac{n}{n - 1} t^{2}} .$ $\mathbb P(X_1 - \bar X \geq t S) \leq \frac{1}{1 + \frac{n}{n-1} t^2}\>.$

$X_i$

$Y_i = X_i - \bar X$

P (Y_{1} \geq t S) = \frac{1}{n} \sum_{i = 1}^{n} P (Y_{i} \geq t S) = E \frac{1}{n} \sum_{i = 1}^{n} 1_{(Y_{i} \geq t S)} .

$\mathbb P( Y_1 \geq t S ) = \frac{1}{n} \sum_{i=1}^n \mathbb P( Y_i \geq t S ) = \mathbb E \frac{1}{n} \sum_{i=1}^n \mathbf 1_{(Y_i \geq t S)} \>.$

$c > 0$ $\{S > 0\}$

1_{(Y_{i} \geq t S)} = 1_{(Y_{i} + t c S \geq t S (1 + c))} \leq 1_{((Y_{i} + t c S)^{2} \geq t^{2} (1 + c)^{2} S^{2})} \leq \frac{(Y_{i} + t c S)^{2}}{t^{2} (1 + c)^{2} S^{2}} .

$\newcommand{I}[1]{\mathbf{1}_{(#1)}} \I{Y_i \geq t S} = \I{Y_i + t c S \geq t S (1+c)} \leq \I{(Y_i + t c S)^2 \geq t^2 (1+c)^2 S^2} \leq \frac{(Y_i + t c S)^2}{t^2(1+c)^2 S^2}\>.$

Kemudian, karena dan .

\frac{1}{n} \sum_{i} 1_{(Y_{i} \geq t S)} \leq \frac{1}{n} \sum_{i} \frac{(Y_{i} + t c S)^{2}}{t^{2} (1 + c)^{2} S^{2}} = \frac{(n - 1) S^{2} + n t^{2} c^{2} S^{2}}{n t^{2} (1 + c)^{2} S^{2}} = \frac{(n - 1) + n t^{2} c^{2}}{n t^{2} (1 + c)^{2}},

$\frac{1}{n} \sum_i \I{Y_i \geq t S} \leq \frac{1}{n} \sum_i \frac{(Y_i + t c S)^2}{t^2(1+c)^2 S^2} = \frac{(n-1)S^2 + n t^2 c^2 S^2}{n t^2 (1+c)^2 S^2} = \frac{(n-1) + n t^2 c^2}{n t^2 (1+c)^2} \>,$

\bar{Y} = 0

$\bar Y = 0$

\sum_{i} Y_{i}^{2} = (n - 1) S^{2}

$\sum_i Y_i^2 = (n-1)S^2$

Sisi kanan adalah konstanta ( ! ), Jadi dengan mengambil ekspektasi pada hasil kedua sisi, Akhirnya, meminimalkan lebih dari , menghasilkan , yang setelah sedikit aljabar menetapkan hasilnya.

P (X_{1} - \bar{X} \geq t S) \leq \frac{(n - 1) + n t^{2} c^{2}}{n t^{2} (1 + c)^{2}} .

$\mathbb P(X_1 - \bar X \geq t S) \leq \frac{(n-1) + n t^2 c^2}{n t^2 (1+c)^2} \>.$

c

$c$

c = \frac{n - 1}{n t^{2}}

$c = \frac{n-1}{n t^2}$

Kondisi teknis yang sial itu

Perhatikan bahwa kita harus mengasumsikan agar dapat dibagi dengan dalam analisis. Ini bukan masalah untuk distribusi yang benar-benar kontinu, tetapi menimbulkan ketidaknyamanan untuk yang terpisah. Untuk distribusi diskrit, ada beberapa kemungkinan bahwa semua pengamatan adalah sama, dalam hal ini untuk semua dan . $\mathbb P(S = 0) = 0$ $S^2$ $0 = Y_i = t S = 0$ $i$ $t > 0$

Kita dapat menggoyangkan jalan keluar kita dengan menetapkan . Kemudian, perhitungan argumen yang cermat menunjukkan bahwa semuanya berjalan hampir tidak berubah dan kita dapatkan $q = \mathbb P(S = 0)$

Konsekuensi 1 . Untuk kasus , kami memiliki $q = \mathbb P(S = 0) > 0$
$P (X_{1} - \bar{X} \geq t S) \leq (1 - q) \frac{1}{1 + \frac{n}{n - 1} t^{2}} + q .$ $\mathbb P(X_1 - \bar X \geq t S) \leq (1-q) \frac{1}{1 + \frac{n}{n-1} t^2} + q \>.$

Bukti . Berpisah pada acara dan . Bukti sebelumnya berlaku untuk dan case sepele. $\{S > 0\}$ $\{S = 0\}$ $\{S > 0\}$ $\{S = 0\}$

Ketidaksetaraan sedikit lebih baik jika kita mengganti ketidaksetaraan nonstrik dalam pernyataan probabilitas dengan versi yang ketat.

Konsekuensi 2 . Misalkan (mungkin nol). Kemudian, $q = \mathbb P(S = 0)$
$P (X_{1} - \bar{X} > t S) \leq (1 - q) \frac{1}{1 + \frac{n}{n - 1} t^{2}} .$ $\mathbb P(X_1 - \bar X > t S) \leq (1-q) \frac{1}{1 + \frac{n}{n-1} t^2} \>.$

Pernyataan akhir : Versi sampel ketimpangan yang diperlukan tidak ada asumsi (selain itu tidak hampir-pasti konstan dalam kasus nonstrict ketimpangan, yang versi aslinya juga diam-diam mengasumsikan), pada dasarnya, karena sampel mean dan sampel varians selalu ada apakah analog populasi mereka lakukan atau tidak. $X$

kardinal
sumber

Ini hanyalah pelengkap jawaban cerdas @ cardinal. Samuelson Inequality , menyatakan bahwa, untuk sampel ukuran , ketika kita memiliki setidaknya tiga nilai berbeda dari terealisasi , ia menyatakan bahwa mana dihitung tanpa koreksi bias, . $n$ $x_i$

x_{i} - \bar{x} < s \sqrt{n - 1}, i = 1, . . . n

$x_i-\bar x < s\sqrt{n-1},\;\; i=1,...n$

s

$s$

s = {(\frac{1}{n} \sum_{i = 1}^{n} (x_{i} - \bar{x})^{2})}^{1 / 2}

$s= \left (\frac 1n\sum_{i=1}^n(x_i-\bar x)^2\right)^{1/2}$

Kemudian, menggunakan notasi jawaban Kardinal kita dapat menyatakan itu

P (X_{1} - \bar{X} \geq S \sqrt{n - 1}) = 0 a . s . [1]

$\mathbb P\left(X_1-\bar X \ge S\sqrt{n-1}\right) =0 \;\;a.s. \qquad [1]$

Karena kita memerlukan, tiga nilai berbeda, kita akan memiliki dengan asumsi. Jadi pengaturan dalam Ketidaksetaraan Cardinal (versi awal) kita dapatkan $S\neq 0$ $t=\sqrt{n-1}$

P (X_{1} - \bar{X} \geq S \sqrt{n - 1}) \leq \frac{1}{1 + n}, [2]

$\mathbb P\left (X_1 - \bar X \geq S\sqrt{n-1}\right) \leq \frac{1}{1 + n}, \;\; \qquad [2]$

Eq. tentu saja kompatibel dengan persamaan. . Kombinasi keduanya memberi tahu kita bahwa Ketimpangan Kardinal berguna sebagai pernyataan probabilistik untuk . $[2]$ $[1]$ $0< t < \sqrt{n-1}$

Jika Ketidaksetaraan Kardinal mengharuskan untuk dihitung bias-dikoreksi (sebut ini ) maka persamaan menjadi $S$ $\tilde S$

P (X_{1} - \bar{X} \geq \tilde{S} \frac{n - 1}{\sqrt{n}}) = 0 a . s . [1 a]

$\mathbb P\left(X_1-\bar X \ge \tilde S\frac{n-1}{\sqrt{n}}\right) =0 \;\;a.s. \qquad [1a]$

dan kami memilih untuk diperoleh melalui Ketimpangan Kardinal $t= \frac{n-1}{\sqrt{n}}$

P (X_{1} - \bar{X} \geq \tilde{S} \frac{n - 1}{\sqrt{n}}) \leq \frac{1}{n}, [2 a]

$\mathbb P\left (X_1 - \bar X \geq \tilde S\frac{n-1}{\sqrt{n}}\right) \leq \frac{1}{ n}, \;\; \qquad [2a]$ dan interval bermakna secara probabilistik untuk adalah

t

$t$

0 < t < \frac{n - 1}{\sqrt{n}} .

$0< t < \frac{n-1}{\sqrt{n}}.$

Alecos Papadopoulos
sumber

(+1) Kebetulan, ketika saya pertama kali mempertimbangkan masalah ini, fakta bahwa sebenarnya adalah petunjuk awal bahwa ketimpangan sampel harus lebih ketat daripada yang asli. Saya ingin memasukkannya ke dalam posting saya, tetapi tidak dapat menemukan tempat (nyaman) untuk itu. Saya senang melihat Anda menyebutkannya (sebenarnya ada sedikit peningkatan) di sini bersama dengan elaborasi tambahan Anda yang sangat bagus. Tepuk tangan.

max_{i} | X_{i} - \bar{X} | \leq S \sqrt{n - 1}

$\max_i |X_i - \bar X| \leq S\sqrt{n-1}$

kardinal

Cheers @ Cardinal, jawaban yang bagus -hanya mengklarifikasi untuk saya -apakah penting bagi Ketidaksetaraan Anda bagaimana seseorang mendefinisikan varian sampel (bias dikoreksi atau tidak)?

Alecos Papadopoulos

Hanya sedikit saja. Saya menggunakan varians sampel bias-dikoreksi. Jika Anda menggunakan sebagai ganti untuk menormalkan, maka Anda akan berakhir dengan alih-alih yang berarti istilah dalam ketidaksetaraan akhir akan hilang. Dengan demikian, Anda akan mendapatkan ikatan yang sama seperti dalam ketidaksetaraan Chebyshev satu sisi yang asli dalam kasus itu. (Dengan asumsi saya sudah melakukan aljabar dengan benar.) :-)

n

$n$

n - 1

$n-1$

\frac{1 + t^{2} c^{2}}{t^{2} (1 + c)^{2}}

$\frac{1+t^2c^2}{t^2(1+c)^2}$

\frac{(n - 1) + n t^{2} c^{2}}{n t^{2} (1 + c)^{2}},

$\frac{(n-1) + n t^2c^2}{nt^2(1+c)^2} \,,$

n / (n - 1)

$n/(n-1)$

kardinal

@ Cardinal ... yang berarti bahwa persamaan yang relevan dalam jawaban saya adalah dan , yang berarti bahwa ketidaksetaraan Anda memberi tahu kami bahwa untuk memilih untuk mengaktifkan Ketidaksetaraan Samuelson, probabilitas acara yang kami periksa, tidak boleh lebih besar dari , yaitu tidak lebih besar daripada secara acak memilih satu nilai yang direalisasikan dari sampel ... yang entah bagaimana masuk akal kabur: apa yang terbukti tentu tidak mungkin dalam hal deterministik, ketika didekati secara probabilistik, probabilitasnya tidak melebihi peralatan yang dapat diperbesar ... tidak jelas dalam pikiran saya.

1 a

$1a$

2 a

$2a$

t

$t$

1 / n

$1/n$

Alecos Papadopoulos