Mengapa melaporkan R kuadrat?

Jika R kuadrat yang disesuaikan lebih baik daripada R kuadrat, lalu mengapa perangkat lunak statistik terus melaporkan yang terakhir? Apakah ada situasi ketika peneliti lebih suka menggunakan R kuadrat daripada R kuadrat yang disesuaikan?

regression Mike Senin
sumber

Jenis regresi apa yang Anda hadapi? Jika saya tidak salah, untuk regresi linier, tidak ada perbedaan antara R-squared dan R-squared yang disesuaikan. Jadi dalam hal ini sangat tepat untuk menggunakan nilai R-kuadrat polos.

alesc

Yang linear. Tetapi paket statistik menyediakan kedua langkah tersebut. Itu sebabnya saya bertanya-tanya mengapa.

Mike Senin

Menurut Wiki , persamaannya sedikit berbeda bahkan untuk regresi linier ( p=1). Tetapi seluruh titik penyesuaian R-squared adalah " Penggunaan R2 yang disesuaikan adalah upaya untuk memperhitungkan fenomena R2 secara otomatis dan palsu meningkat ketika variabel penjelas tambahan ditambahkan ke model. ". Regresi linier tidak memiliki variabel penjelas tambahan, karena merupakan jenis regresi yang paling primitif.

alesc

@alesc, saya tahu itu. Apa yang saya tidak tahu adalah mengapa melaporkan kedua nilai.

Mike Senin

Apa yang Anda coba buktikan dengan nilai R-squared Anda? Apakah Anda membandingkan model regresi yang berbeda? Jika Anda membandingkan model regresi linier dan non-linear, maka masuk akal untuk menggunakan R-squared yang disesuaikan, jika tidak, R-square polos akan cukup. Tetapi sekali lagi, Anda juga dapat menggunakan R-squared yang disesuaikan bahkan untuk regresi linier :) Saya pribadi tidak akan melaporkan kedua nilai. Jadi pilih satu metrik dan laporkan hanya nilai itu (baik R-square atau R-square yang disesuaikan).

alesc

Jawaban:

Dalam kondisi misalnya dijelaskan di sini , $R^2$ mengukur proporsi varian dalam variabel dependen yang dijelaskan oleh regresi, yang merupakan ukuran alami. Disesuaikan $R^2$ tidak memiliki interpretasi ini, karena memodifikasi $R^2$ nilai.

Jadi sambil disesuaikan $R^2$ memiliki keuntungan yang tidak terbantahkan yaitu tidak bertambah secara otomatis ketika jumlah regresi naik, Anda membayar harga dalam hal bagaimana Anda dapat menginterpretasikan ukuran tersebut.

Catatan Saya tidak menganjurkan penggunaan satu atau yang lain, hanya memberikan kemungkinan alasan mengapa orang masih menggunakan standar $R^2$ .

Christoph Hanck
sumber

Pertanyaan cepat: apakah mungkin itu benar

R_{a d j .}^{2}

$R^2_{adj.}$ adalah penduga yang konsisten dari populasi

R^{2}

$R^2$ dalam beberapa kondisi, misalnya model yang ditentukan dengan baik? Maka masuk akal untuk melaporkan

R_{a d j .}^{2}

$R^2_{adj.}$ di tempat

R^{2}

$R^2$ .

Richard Hardy

Ya, tapi seperti yang bisa kita tulis

R_{a d j .}^{2} = 1 - \frac{n - 1}{n - K} + \frac{n - 1}{n - K} R^{2}

$R_{adj.}^2=1-\frac{n-1}{n-K}+\frac{n-1}{n-K}R^2$ dan, tentu saja,

\frac{n - 1}{n - K} \to 1

$\frac{n-1}{n-K}\to1$ (setidaknya ketika, seperti yang diasumsikan kebanyakan,

K

$K$ tetap tetap sebagai

n \to \infty

$n\to\infty$ ), kita memilikinya

R_{a d j .}^{2} - R^{2} = o_{p} (1)

$R_{adj.}^2-R^2=o_p(1)$ , sehingga sepertinya tidak menjadi alasan untuk lebih menyukai yang satu daripada yang lain.

Christoph Hanck

K

$K$ tentu saja jumlah regresi

Christoph Hanck

Baiklah ... apakah kita mendefinisikan populasi

R^{2}

$R^2$ sebagai

1 - σ^{2} / V a r (y)

$1-\sigma^2/Var(y)$ ? Jika demikian, tulislah

R_{a d j .}^{2} = 1 - \frac{s^{2}}{\sum_{i} (y - \bar{y})^{2} / (n - 1)}

$R^2_{adj.}=1-\frac{s^2}{\sum_i(y-\bar{y})^2/(n-1)}$ (

s^{2}

$s^2$ estimasi varians yang disesuaikan-df dibagi dengan

n - K

$n-K$ ) menunjukkan bahwa kedua penaksir varians kesalahan dalam pembilang dan varians dari

y

$y$ dalam penyebut tidak bias untuk parameter populasi masing-masing,

E (s^{2}) = σ^{2}

$E(s^2)=\sigma^2$ dan

E [\sum_{i} (y - \bar{y})^{2} / (n - 1)] = V a r (y)

$E[\sum_i(y-\bar{y})^2/(n-1)]=Var(y)$ . Tapi itu tidak membuat rasio sebagai penaksir yang tidak bias dari rasio parameter, karena operator ekspektasi tidak melewati fungsi nonlinier secara umum.

Christoph Hanck

Terima kasih. Mungkin saya seharusnya memposting komentar saya sebagai pertanyaan terpisah, maka saya bisa mengangkat jawaban Anda. Karena saya menduga hal serupa telah ditanyakan, saya hanya berharap untuk konfirmasi pendek / disconfirmation, gaya komentar. Anda lebih eksplisit dari itu, saya menghargainya!

Richard Hardy

Adjusted R-squared berguna untuk membandingkan model regresi yang berbeda. Tugas ini tidak dapat diselesaikan oleh R-kuadrat yang, seperti yang telah dikatakan orang lain, memiliki tujuan informatif lain, yaitu mengekspresikan proporsi varian dari variabel dependen yang dijelaskan oleh model regresi yang sedang diselidiki.

Carlo Lazzaro
sumber