Apa yang dimaksud dengan estimasi tidak bias dari populasi R-square?

Saya tertarik untuk mendapatkan estimasi tidak bias dalam regresi linier berganda. $R^2$

Pada refleksi, saya dapat memikirkan dua nilai yang berbeda yang estimasi yang tidak bias dari mungkin berusaha mencocokkan. $R^2$

Dari sampel : $R^2$ r-square yang akan diperoleh jika persamaan regresi yang diperoleh dari sampel ) yang diterapkan untuk jumlah tak terbatas data eksternal untuk sampel tetapi dari proses menghasilkan data yang sama. $\hat{\beta}$
Populasi : $R^2$ R-square yang akan diperoleh jika sampel tak terbatas diperoleh dan model dipasang pada sampel tak terbatas tersebut (yaitu, $\beta$ ) atau sebagai alternatif hanya R-square yang tersirat oleh proses pembuatan data yang diketahui.

Saya mengerti bahwa disesuaikan $R^2$ dirancang untuk mengkompensasi Overfitting diamati dalam sampel . Meskipun demikian, tidak jelas apakah disesuaikan sebenarnya perkiraan berisi dari , dan jika itu adalah berisi perkiraan, yang di atas dua definisi itu bertujuan untuk memperkirakan. $R^2$ $R^2$ $R^2$ $R^2$

Jadi, pertanyaan saya:

Berapakah estimasi yang tidak bias dari apa yang saya sebut di atas dari sampel ? $R^2$
Apa perkiraan tak bias dari apa yang saya sebut di atas populasi ? $R^2$
Apakah ada referensi yang memberikan simulasi atau bukti ketidakberpihakan lainnya?

estimation multiple-regression r-squared bias Jeromy Anglim
sumber

Pertanyaan apa rumus untuk adj. R ^ 2 kurang bias telah dinaikkan misalnya di sini .

ttnphns

Terima kasih. Saya sekarang membaca referensi yang Anda sebutkan: Yin, P., & Fan, X. (2001). Memperkirakan penyusutan

dalam regresi berganda: Perbandingan metode analitik yang berbeda. Jurnal Pendidikan Eksperimental, 69 (2), 203-224.

R^{2}

$R^2$

Jeromy Anglim

Jawaban:

Evaluasi penyesuaian analitik untuk R-square

@ttnphns merujuk saya ke artikel Yin dan Fan (2001) yang membandingkan metode analitik yang berbeda dalam memperkirakan . Sesuai pertanyaan saya, mereka membedakan antara dua jenis penduga. Mereka menggunakan terminologi berikut: $R^2$

$\rho^2$
$\rho_c^2$

Hasilnya diringkas secara abstrak:

$R^2$ $\rho^2$ $\rho^2$ $\rho_c^2$

$\rho^2$

{\hat{R}}^{2} = 1 - \frac{(N - 3) (1 - R^{2})}{(N - p - 1)} [1 + \frac{2 (1 - R^{2})}{N - p - 2.3}]

$\hat{R}^2=1 - \frac{(N-3)(1 - R^2)}{(N-p-1)} \left[ 1 + \frac{2(1-R^2)}{N-p-2.3} \right]$

di mana N adalah ukuran sampel, dan p adalah jumlah prediktor.

Estimasi empiris penyesuaian ke R-square

$R^2$ $\rho^2$ $\rho_c^2$ $\rho^2$ .

Referensi

Kromrey, JD, & Hines, CV (1995). Penggunaan estimasi empiris penyusutan dalam regresi berganda: hati-hati. Pengukuran Pendidikan dan Psikologis, 55 (6), 901-925.
$R^2$

Jeromy Anglim
sumber