Menghitung ukuran sampel yang dibutuhkan, ketepatan estimasi varians?

Latar Belakang

Saya memiliki variabel dengan distribusi yang tidak diketahui.

Saya memiliki 500 sampel, tetapi saya ingin menunjukkan ketepatan yang dapat saya gunakan untuk menghitung varians, misalnya untuk menyatakan bahwa ukuran sampel 500 sudah cukup. Saya juga tertarik untuk mengetahui ukuran sampel minimum yang akan diperlukan untuk memperkirakan varians dengan ketepatan .$X\%$

Pertanyaan

Bagaimana saya bisa menghitung

1. ketepatan estimasi varians saya yang diberikan ukuran sampel $n=500$ ? dari ?$n=N$
2. Bagaimana saya bisa menghitung jumlah sampel minimum yang diperlukan untuk memperkirakan varians dengan ketepatan ?$X$

Contoh

Gambar 1 estimasi kepadatan parameter berdasarkan 500 sampel.

Gambar 2 Berikut adalah sebidang ukuran sampel pada sumbu x vs estimasi varians pada sumbu y yang telah saya hitung menggunakan sub-sampel dari sampel 500. Idenya adalah bahwa perkiraan akan konvergen ke varians yang benar dengan meningkatnya n .

Namun, estimasi tersebut tidak valid independen karena sampel yang digunakan untuk memperkirakan varians untuk $n \in [10,125,250,500]$ tidak independen satu sama lain atau sampel yang digunakan untuk menghitung varians pada$n\in [20,40,80]$

Untuk variabel acak iid $X_1, \dotsc, X_n$ , penaksir tidak bias untuk varians (yang dengan penyebut n - 1 ) memiliki varian:$s^2$$n-1$

$$\mathrm{Var}(s^2) = \sigma^4 \left(\frac{2}{n-1} + \frac{\kappa}{n}\right)$$

di mana $\kappa$ adalah kelebihan kurtosis dari distribusi (referensi: Wikipedia ). Jadi sekarang Anda perlu memperkirakan kurtosis distribusi Anda juga. Anda dapat menggunakan jumlah yang kadang-kadang digambarkan sebagai (juga dari Wikipedia ):$\gamma_2$

$$\gamma_2 = \frac{\mu_4}{\sigma_4} - 3$$

Saya akan berasumsi bahwa jika Anda menggunakan $s$ sebagai perkiraan untuk $\sigma$ dan $\gamma_2$ sebagai perkiraan untuk $\kappa$ , bahwa Anda mendapatkan perkiraan yang wajar untuk , walaupun saya tidak melihat jaminan bahwa itu tidak bias. Lihat apakah cocok dengan varians di antara himpunan bagian dari 500 poin data Anda secara wajar, dan jika tidak khawatir tentang hal itu lagi :)$\mathrm{Var}(s^2)$

Belajar varians itu sulit.

Dibutuhkan (mungkin secara mengejutkan) sejumlah besar sampel untuk memperkirakan varians dengan baik dalam banyak kasus. Di bawah ini, saya akan menunjukkan pengembangan untuk kasus "kanonik" dari sampel normal iid.

Misalkan , i = 1 , … , n adalah variabel bebas N ( μ , σ 2 ) . Kami mencari 100 ( 1 - α ) % interval kepercayaan untuk varians sehingga lebar interval adalah ρ s 2 , yaitu, lebar adalah 100 ρ % dari estimasi titik. Sebagai contoh, jika ρ = 1 /$Y_i$$i=1,\ldots,n$$\mathcal{N}(\mu, \sigma^2)$$100(1-\alpha)\%$$\rho s^2$$100\rho \%$$\rho = 1/2$ , maka lebar dari CI adalah setengah nilai estimasi titik, misalnya, jika , maka CI akan menjadi seperti ( 8 $s^2 = 10$ , memiliki lebar 5. Perhatikan asimetri di sekitar estimasi titik, juga. ( s $(8,\,13)$$s^2$ adalah penaksir tidak bias untuk varians.)

Interval kepercayaan "(lebih tepatnya," a ") untuk adalah ( n - 1 ) s $s^2$ dimana

$$\frac{(n-1) s^2}{\chi_{(n-1)}^{2\;(1-\alpha/2)}} \leq \sigma^2 \leq \frac{(n-1) s^2}{\chi_{(n-1)}^{2\;(\alpha/2)}} \>,$$ adalahβquantile dari distribusi chi-square dengann-1derajat kebebasan. (Ini muncul dari fakta bahwa(n-1)s2/σ$\chi_{(n-1)}^{2\;\beta}$$\beta$$n-1$$(n-1)s^2/\sigma^2$ adalah kuantitas yang sangat penting dalam pengaturan Gaussian.)

Kami ingin meminimalkan lebar sehingga jadi kita dibiarkan menyelesaikan untuk n sehingga ( n - 1 ) (

$$L(n) = \frac{(n-1) s^2}{\chi_{(n-1)}^{2\;(\alpha/2)}} - \frac{(n-1) s^2}{\chi_{(n-1)}^{2\;(1-\alpha/2)}} < \rho s^2 \>,$$ $n$ $$(n-1) \left(\frac{1}{\chi_{(n-1)}^{2\;(\alpha/2)}} - \frac{1}{\chi_{(n-1)}^{2\;(1-\alpha/2)}} \right) < \rho .$$

Untuk kasus interval kepercayaan 99%, kita mendapatkan untuk ρ = 1 dan n = 5321 untuk ρ = 0,1 . Kasus terakhir ini menghasilkan interval yang ( masih! ) 10% lebih besar dari estimasi titik varians.$n = 65$$\rho = 1$$n = 5321$$\rho = 0.1$

Jika tingkat kepercayaan yang Anda pilih kurang dari 99%, maka interval lebar yang sama akan diperoleh untuk nilai lebih rendah . Tapi, n mungkin masih lebih besar dari yang Anda duga.$n$$n$

Plot ukuran sampel versus lebar proporsional ρ menunjukkan sesuatu yang terlihat linier asimtotik pada skala log-log; dengan kata lain, hubungan seperti hukum kekuasaan. Kita dapat memperkirakan kekuatan hubungan kuasa-hukum ini (secara kasar) sebagai$n$$\rho$

$$\hat{\alpha} \approx \frac{\log 0.1 - \log 1}{\log 5321 - \log 65} = \frac{-\log 10}{\log \frac{5231}{65}} \approx -0.525 ,$$

yang sayangnya sangat lambat!

---

Ini adalah semacam "kanonik" kasus untuk memberi Anda merasakan bagaimana cara menghitung. Berdasarkan plot Anda, data Anda tidak terlihat sangat normal; khususnya, ada apa yang tampak sebagai kemiringan yang nyata.

Tapi, ini harus memberi Anda gambaran kasar tentang apa yang diharapkan. Perhatikan bahwa untuk menjawab pertanyaan kedua di atas, Anda perlu memperbaiki beberapa tingkat kepercayaan terlebih dahulu, yang telah saya tetapkan untuk 99% dalam pengembangan di atas untuk tujuan demonstrasi.

Saya akan fokus pada SD daripada varians, karena pada skala yang lebih mudah ditafsirkan.

Orang-orang kadang-kadang melihat interval kepercayaan untuk SD atau varian, tetapi fokusnya umumnya pada sarana.

$s^2/\sigma^2$$\sigma^2$$\sigma$$\sigma^2$

Solusi berikut ini diberikan oleh Greenwood dan Sandomire dalam makalah JASA 1950.

$X_1,\dots,X_n$$\mathrm{N}(\mu,\sigma^2)$$\sigma$

$$S=\sqrt{\sum_{i=1}^n\frac{(X_i-\bar{X})^2}{n-1}},$$ $S$$\sigma$$0<u<1$ $$\Pr\{S<(1-u)\cdot\sigma\}=a \quad\text{and}\quad \Pr\{S>(1+u)\cdot\sigma\}=b,$$ $\gamma=1-a-b$

$$\Pr\!\left\{ \frac{(n-1)S^2}{\sigma^2} < (n-1)(1-u)^2\right\} = a$$ $$\Pr\!\left\{ \frac{(n-1)S^2}{\sigma^2} > (n-1)(1+u)^2\right\} = b.$$ Since the pivotal quantity $(n-1)S^2/\sigma^2$ has $\chi^2_{n-1}$ distribution, adding the two probabilities, we find

$$\gamma = F_{\chi^2_{(n-1)}}((n-1)(1+u)^2) - F_{\chi^2_{(n-1)}}((n-1)(1-u)^2),$$

and the necessary sample size is found solving the former equation in $n$ for given $\gamma$ and $u$.

R code.

gamma <- 0.95
u <- 0.1
g <- function(n) pchisq((n-1)*(1+u)^2, df = n-1) - pchisq((n-1)*(1-u)^2, df = n-1) - gamma
cat("Sample size n = ", ceiling(uniroot(g, interval = c(2, 10^6))$root), "\n")

Output for $u=10\%$ and $\gamma=95\%$.

Sample size n = 193