Mengapa ada nilai R ^ 2 (dan apa yang menentukannya) ketika lm tidak memiliki perbedaan dalam nilai prediksi?

Pertimbangkan kode R berikut:

example <- function(n) {
    X <- 1:n
    Y <- rep(1,n)
    return(lm(Y~X))
}
#(2.13.0, i386-pc-mingw32)
summary(example(7))    #R^2 = .1963
summary(example(62))   #R^2 = .4529
summary(example(4540)) #R^2 = .7832
summary(example(104))) #R^2 = 0
#I did a search for n 6:10000, the result for R^2 is NaN for
#n = 2, 4, 16, 64, 256, 1024, 2085 (not a typo), 4096, 6175 (not a typo), and 8340 (not a typo)

Melihat http://svn.r-project.org/R/trunk/src/appl/dqrls.f ) tidak membantu saya memahami apa yang sedang terjadi, karena saya tidak tahu Fortran. Dalam pertanyaan lain dijawab bahwa kesalahan toleransi mesin floating point yang harus disalahkan untuk koefisien untuk X yang dekat, tetapi tidak cukup 0.

lebih besar ketika nilailebih dekat ke 0. Tapi ...$R^2$coef(example(n))["X"]

1. Mengapa ada nilai sama sekali? $R^2$
2. Apa (secara spesifik) yang menentukannya?
3. Mengapa perkembangan NaNhasil yang tampaknya tertib ?
4. Mengapa pelanggaran perkembangan itu?
5. Apa ini perilaku 'yang diharapkan'?

Seperti yang dikatakan Ben Bolker, jawaban untuk pertanyaan ini dapat ditemukan dalam kode untuk summary.lm().

Inilah tajuknya:

function (object, correlation = FALSE, symbolic.cor = FALSE, 
    ...) 
{

Jadi, mari x <- 1:1000; y <- rep(1,1000); z <- lm(y ~ x)dan lihat ekstrak yang sedikit dimodifikasi ini:

    p <- z$rank
    rdf <- z$df.residual
    Qr <- stats:::qr.lm(z)
    n <- NROW(Qr$qr)
    r <- z$residuals
    f <- z$fitted.values
    w <- z$weights
    if (is.null(w)) {
        mss <- sum((f - mean(f))^2)
        rss <- sum(r^2)
    }
    ans <- z[c("call", "terms")]
    if (p != attr(z$terms, "intercept")) {
        df.int <- 1L
        ans$r.squared <- mss/(mss + rss)
        ans$adj.r.squared <- 1 - (1 - ans$r.squared) * ((n - 
            df.int)/rdf)
    }

$0.4998923$

Untuk menjawab pertanyaan dengan pertanyaan: apa yang kita dapat dari ini? :)

mssrss$R^2$mssrss0/0NaN2^(1:k)

Pembaruan 1: Berikut ini adalah utas bagus dari R-help yang membahas beberapa alasan mengapa peringatan yang mengalir tidak dibahas dalam R.

Selain itu, T&J SO ini memiliki sejumlah pos menarik dan tautan bermanfaat mengenai underflow, aritmatika presisi lebih tinggi, dll.

Saya ingin tahu tentang motivasi Anda untuk mengajukan pertanyaan. Saya tidak dapat memikirkan alasan praktis mengapa perilaku ini penting; keingintahuan intelektual adalah alternatif (dan IMO jauh lebih masuk akal) alasan. Saya pikir Anda tidak perlu memahami FORTRAN untuk menjawab pertanyaan ini, tetapi saya pikir Anda perlu tahu tentang dekomposisi QR dan penggunaannya dalam regresi linier. Jika Anda memperlakukan dqrlssebagai kotak hitam yang menghitung dekomposisi QR dan mengembalikan berbagai informasi tentangnya, maka Anda mungkin dapat melacak langkah-langkah ... atau langsung saja summary.lmmenelusuri dan menelusuri untuk melihat bagaimana R ^ 2 dihitung. Khususnya:

mss <- if (attr(z$terms, "intercept")) 
          sum((f - mean(f))^2)
       else sum(f^2)
rss <- sum(r^2)
## ... stuff ...
ans$r.squared <- mss/(mss + rss)

Maka Anda harus kembali ke lm.fitdan melihat bahwa nilai-nilai yang dipasang dihitung sebagai r1 <- y - z$residuals(yaitu sebagai respons dikurangi residu). Sekarang Anda bisa mencari tahu apa yang menentukan nilai residu dan apakah nilai minus rata-ratanya adalah nol atau tidak, dan dari sana mencari tahu hasil komputasi ...

$R^2$$R^2 = 1-\frac{\textrm{SS}_{err}}{\textrm{SS}_{tot}}$