Bagaimana tepatnya para ahli statistik setuju untuk menggunakan (n-1) sebagai penaksir tidak bias untuk varians populasi tanpa simulasi?

Rumus untuk varian komputasi memiliki dalam penyebut:$(n-1)$

$s^2 = \frac{\sum_{i=1}^N (x_i - \bar{x})^2}{n-1}$

Saya selalu bertanya-tanya mengapa. Namun, membaca dan menonton beberapa video bagus tentang "mengapa" itu tampaknya adalah penduga yang baik dan tidak bias dari varians populasi. Sedangkan meremehkan dan melebih-lebihkan varians populasi.$(n-1)$$n$$(n-2)$

Yang saya ingin tahu, adalah bahwa di era tidak ada komputer, bagaimana tepatnya pilihan ini dibuat? Apakah ada bukti matematika aktual yang membuktikan ini atau apakah ini murni empiris dan ahli statistik membuat BANYAK perhitungan dengan tangan untuk menghasilkan "penjelasan terbaik" pada saat itu?

Hanya bagaimana para ahli statistik membuat formula ini pada awal abad ke-19 dengan bantuan komputer? Manual atau ada lebih dari memenuhi mata?

Koreksi ini disebut koreksi Bessel dan memiliki bukti matematis. Secara pribadi, saya diajarkan dengan cara mudah: menggunakan adalah cara Anda mengoreksi bias (lihat di sini ).E [ $n-1$$E[\frac{1}{n}\sum_1^n(x_i - \bar x)^2]$

Anda juga dapat menjelaskan koreksi berdasarkan konsep derajat kebebasan, simulasi tidak sepenuhnya diperlukan.

Kebanyakan bukti yang saya lihat cukup sederhana sehingga Gauss (namun dia melakukannya) mungkin merasa cukup mudah untuk dibuktikan.

Saya telah mencari derivasi pada CV yang dapat saya tautkan dengan Anda (ada sejumlah tautan ke bukti di luar situs, termasuk setidaknya satu jawaban di sini), tetapi saya belum menemukan satu di sini di CV di beberapa pencarian, jadi demi kelengkapan, saya akan memberikan yang sederhana. Mengingat kesederhanaannya, mudah untuk melihat bagaimana orang akan mulai menggunakan apa yang biasa disebut koreksi Bessel .

Ini mengambil sebagai pengetahuan yang diasumsikan, dan mengasumsikan bahwa beberapa properti varians dasar pertama diketahui.$E(X^2)=\text{Var}(X) + E(X)^2$

$$\begin{eqnarray} E[\sum_{i=1}^{n} (x_i-\bar x)^2] &=& E[\sum_{i=1}^{n} x_i^2-2\bar x\sum_{i=1}^{n} x_i+n\bar{x}^2]\\ &=& E[\sum_{i=1}^{n} x_i^2-n\bar{x}^2] \\ &=& n E[x_i^2]- n E[\bar{x}^2]\\ &=& n (\mu^2 + \sigma^2) - n(\mu^2+\sigma^2/n)\\ &=& (n-1) \sigma^2 \end{eqnarray}$$

Menurut Dunia Matematika Weisstein, ini pertama kali dibuktikan oleh Gauss pada tahun 1823. Rujukannya adalah volume 4 dari Gauss 'Werke, yang dapat dibaca di https://archive.org/details/werkecarlf04gausrich . Halaman yang relevan tampaknya adalah 47-49. Tampaknya Gauss menyelidiki pertanyaan itu dan memberikan bukti. Saya tidak membaca bahasa Latin, tetapi ada ringkasan Jerman dalam teks. Halaman 103-104 menjelaskan apa yang dia lakukan (Sunting: Saya menambahkan terjemahan kasar):

Selain itu, Anda juga dapat melihat lebih banyak, melihat lebih banyak, lebih baik memilih satu sama lain, jadi pilihlah satu untuk semua orang, lalu lakukan apa yang harus dilakukan untuk semua orang, lakukan hal yang sama dengan apa yang harus dilakukan, atau tidak untuk hasil als sie wirklich besitzen. [Tetapi karena seseorang tidak berhak memperlakukan nilai-nilai yang paling mungkin seolah-olah nilai-nilai aktual, seseorang dapat dengan mudah meyakinkan diri sendiri bahwa seseorang harus selalu menemukan bahwa kesalahan yang paling mungkin dan kesalahan rata-rata terlalu kecil, dan oleh karena itu hasil yang diberikan memiliki akurasi yang lebih besar daripada yang sebenarnya mereka miliki.]

dari mana akan diketahui bahwa varians sampel adalah estimasi bias dari varians populasi. Artikel selanjutnya mengatakan bahwa perbedaan antara keduanya biasanya diabaikan karena tidak penting jika ukuran sampel cukup besar. Lalu tertulis:

Atau Verdasser topi daher diesen Gegenstand eine besondere Untersuchung unterworfen, die zu einem sehr Merkwuerdigen hoechst einfachen resultate gefuehrt hat. Man braucht nemlich den nach dem angezeigten fahlerhaften Verfahren gefundenen mittleren Fehler, um ihn in die richtigen zu verwandeln, nur mit

$$\sqrt{\frac{\pi-\rho}{\pi}}$$

zu multiplicieren, wo mati Anzahl der beobachtungen (jumlah observasi) und mati Anzahl der unbekannten Groessen (jumlah yang tidak diketahui) bedeutet. [Karena itu penulis telah membuat studi khusus tentang objek ini yang telah menyebabkan hasil yang sangat aneh dan sangat sederhana. Yaitu, orang hanya perlu mengalikan kesalahan rata-rata yang ditemukan oleh proses yang salah di atas dengan (ekspresi yang diberikan) untuk mengubahnya menjadi yang benar, di mana adalah jumlah pengamatan dan adalah jumlah jumlah yang tidak diketahui.]$\pi$$\rho$$\pi$$\rho$

Jadi jika ini memang yang pertama kali koreksi ditemukan, maka tampaknya itu ditemukan oleh perhitungan pintar oleh Gauss, tetapi orang-orang sudah menyadari bahwa beberapa koreksi diperlukan, jadi mungkin orang lain bisa menemukannya secara empiris sebelum ini . Atau mungkin penulis sebelumnya tidak peduli untuk mendapatkan jawaban yang tepat karena mereka bekerja dengan set data yang cukup besar.

Ringkasan: manual, tetapi orang-orang sudah tahu bahwa dalam penyebut tidak benar.$n$

Bagi saya, satu intuisi adalah itu

$$\begin{array}{c} \mbox{The degree to which}\\ X_{i}\mbox{ varies from }\bar{X} \end{array}+\begin{array}{c} \mbox{The degree to which}\\ \bar{X}\mbox{ varies from }\mu \end{array}=\begin{array}{c} \mbox{The degree to which }\\ X_{i}\mbox{ varies from }\mu. \end{array}$$

Itu adalah,

$$\mathbf{E}\left[\left(X_{i}-\bar{X}\right)^{2}\right]+\mathbf{E}\left[\left(\bar{X}-\mu\right)^{2}\right]=\mathbf{E}\left[\left(X_{i}-\mu\right)^{2}\right].$$

Sebenarnya membuktikan persamaan di atas membutuhkan sedikit aljabar (aljabar ini sangat mirip dengan jawaban @ Glen_b di atas). Tetapi dengan asumsi itu benar, kita dapat mengatur ulang untuk mendapatkan:

$$\mathbf{E}\left[\left(X_{i}-\bar{X}\right)^{2}\right]=\underset{\sigma^{2}}{\underbrace{\mathbf{E}\left[\left(X_{i}-\mu\right)^{2}\right]}}-\underset{\frac{\sigma^{2}}{n}}{\underbrace{\mathbf{E}\left[\left(\bar{X}-\mu\right)^{2}\right]}}=\frac{n-1}{n}\sigma^2.$$

Bagi saya, intuisi lain adalah menggunakan alih-alih menimbulkan bias. Dan bias ini persis sama dengan .$\bar{X}$$\mu$$\mathbf{E}\left[\left(\bar{X}-\mu\right)^{2}\right]=\frac{\sigma^2}{n}$

Sebagian besar jawaban sudah menjelaskannya secara terperinci tetapi selain dari itu ada satu ilustrasi sederhana yang bisa membantu:

Misalkan Anda diberi bahwa dan tiga angka pertama adalah:$n=4$

$8,4,6$ , _

Sekarang angka keempat bisa apa saja karena tidak ada kendala. Sekarang perhatikan situasi ketika Anda diberi bahwa dan , maka jika tiga angka pertama adalah: maka angka keempat harus .$n=4$$\bar x=6$$8,4,6$$6$

Ini untuk mengatakan bahwa jika Anda tahu nilai nilai dan , maka nilai- tidak memiliki kebebasan. Jadi memberi kita penduga yang tidak bias.$n-1$$\bar x$$nth$$n-1$