Kapan lebih baik menggunakan Estimasi Kemungkinan Maksimum alih-alih Kuadrat Terkecil Biasa? Apa kekuatan dan keterbatasan masing-masing? Saya mencoba untuk mengumpulkan pengetahuan praktis tentang di mana harus menggunakan masing-masing dalam situasi
Untuk model linear , kita dapat memiliki interpretasi geometris yang bagus dari model yang diestimasi melalui OLS: . adalah proyeksi y ke ruang yang direntang oleh x dan residual tegak lurus dengan ruang ini yang direntang oleh x.y= x β+ ey=xβ+ey=x\beta+ey^= x β^+
Saya memahami konsep penskalaan matriks data untuk digunakan dalam model regresi linier. Misalnya, dalam R Anda dapat menggunakan: scaled.data <- scale(data, scale=TRUE) Satu-satunya pertanyaan saya adalah, untuk pengamatan baru yang ingin saya prediksi nilai outputnya, bagaimana mereka...
Standar error dari istilah intercept ( β 0 ) di y = β 1 x + β 0 + ε diberikan oleh S E ( β 0 ) 2 = σ 2 [ 1β^0β^0\hat{\beta}_0y=β1x+β0+εy=β1x+β0+εy=\beta_1x+\beta_0+\varepsilonSE(β^0)2=σ2[1n+x¯2∑ni=1(xi−x¯)2]SE(β^0)2=σ2[1n+x¯2∑i=1n(xi−x¯)2]SE(\hat{\beta}_0)^2 =...
Dalam kasus khusus ini saya mengacu pada hari di mana sebuah danau membeku. Tanggal "es" ini hanya terjadi setahun sekali, tetapi kadang-kadang tidak terjadi sama sekali (jika musim dingin hangat). Jadi pada satu tahun danau itu mungkin membeku pada hari 20 (20 Januari), dan satu tahun lagi mungkin...
Saya mencoba mencari informasi mengenai asumsi regresi PLS (tunggal ). Saya terutama tertarik pada perbandingan asumsi PLS sehubungan dengan orang-orang dari regresi OLS. yyy Saya telah membaca / membaca sekilas banyak literatur tentang topik PLS; makalah oleh Wold (Svante dan Herman), Abdi, dan...
Secara umum, saya bertanya-tanya apakah ada yang lebih baik untuk tidak menggunakan polinomial ortogonal ketika menyesuaikan regresi dengan variabel orde tinggi. Secara khusus, saya ingin tahu dengan penggunaan R: Jika poly()dengan raw = FALSEmenghasilkan nilai pas yang sama poly()dengan raw =...
Latar Belakang Saya mencoba untuk memahami contoh pertama dalam kursus model pas (jadi ini mungkin tampak sangat sederhana). Saya sudah melakukan perhitungan dengan tangan dan mereka cocok dengan contoh, tetapi ketika saya ulangi dalam R, koefisien model tidak aktif. Saya pikir perbedaannya...
Saya belajar tentang regresi ridge dan tahu bahwa regresi ridge cenderung bekerja lebih baik dengan adanya multikolinieritas. Saya bertanya-tanya mengapa ini benar? Entah jawaban intuitif atau matematika akan memuaskan (kedua jenis jawaban akan lebih memuaskan). Juga, saya tahu bahwa selalu dapat...
Saya memiliki data penjualan harian untuk produk yang sangat musiman. Saya ingin menangkap musiman dalam model regresi. Saya telah membaca bahwa jika Anda memiliki data triwulanan atau bulanan, dalam hal ini Anda dapat membuat masing-masing 3 dan 11 variabel dummy - tetapi dapatkah saya menangani...
Saya ingin melakukan tes W Shapiro Wilk dan tes Kolmogorov-Smirnov pada residu model linier untuk memeriksa normalitas. Saya hanya bertanya-tanya residual apa yang harus digunakan untuk ini - residu mentah, residu Pearson, residu pelajar atau residu terstandarisasi? Untuk uji W Shapiro-Wilk tampak...
Bagaimana cara menentukan rangkaian waktu? Apakah boleh untuk hanya mengambil perbedaan pertama dan menjalankan tes Dickey Fuller, dan jika itu stasioner kita baik? Saya juga menemukan secara online bahwa saya dapat menentukan urutan waktu dengan melakukan ini di Stata: reg lncredit time predict...
Saat melakukan regresi jika kita menggunakan definisi dari: Apa perbedaan antara kemungkinan parsial, kemungkinan profil dan kemungkinan marginal? itu, Kemungkinan Maksimum Temukan β dan θ yang memaksimalkan L (β, θ | data). Sementara, Marginal Likelihood Kami mengintegrasikan θ dari persamaan...
Saya sedang mengerjakan beberapa data sintaksis untuk model Error In Variable untuk beberapa penelitian. Saat ini saya memiliki satu variabel independen, dan saya berasumsi saya tahu varians untuk nilai sebenarnya dari variabel dependen. Jadi, dengan informasi ini, saya dapat mencapai estimator...
Fungsi lm dalam R dapat mencetak estimasi kovarians dari koefisien regresi. Apa yang diberikan informasi ini kepada kita? Bisakah kita sekarang menafsirkan model lebih baik atau mendiagnosis masalah yang mungkin ada dalam
Saya mencoba untuk menyetel hyperparameter dari algoritma regresi proses gaussian yang telah saya terapkan. Saya hanya ingin memaksimalkan kemungkinan marginal log yang diberikan oleh rumus mana K adalah matriks kovarians dengan elemen K_ {ij} = k (x_i, x_j) = b ^ {- 1} \ exp (- \ frac {1} {2}...
Apa itu statistik F parsial? Apakah itu sama dengan parsial F-test? Kapan Anda menghitung statistik F parsial? Saya berasumsi bahwa ini ada hubungannya dengan membandingkan model regresi, tapi saya tidak mengikuti sesuatu
Saya bingung dengan asumsi linearitas terhadap logit untuk variabel prediktor kontinu dalam analisis regresi logistik. Apakah kita perlu memeriksa hubungan linier sambil menyaring prediktor potensial menggunakan analisis regresi logistik univariabel? Dalam kasus saya, saya menggunakan analisis...
Pertanyaan ini terinspirasi dari diskusi panjang dalam komentar di sini: Bagaimana regresi linier menggunakan distribusi normal? Dalam model regresi linier biasa, untuk kesederhanaan di sini ditulis dengan hanya satu prediktor: Yi=β0+β1xi+ϵiYi=β0+β1xi+ϵi Y_i = \beta_0 + \beta_1 x_i + \epsilon_i...
Sebuah pertanyaan sederhana yang memalukan - tetapi sepertinya belum ditanyakan pada Cross divalidasi sebelumnya: Apa definisi model regresi? Juga pertanyaan dukungan, Apa yang bukan model regresi? Sehubungan dengan yang terakhir, saya tertarik pada contoh rumit di mana jawabannya tidak...