Saya tahu tentang manfaat regularisasi ketika membangun model prediksi (bias vs varians, mencegah overfitting). Tapi, saya bertanya-tanya apakah itu ide yang baik untuk juga melakukan regularisasi (laso, ridge, elastis net) ketika tujuan utama dari model regresi adalah inferensi pada koefisien...
Saya melihat daftar ini di sini dan tidak percaya ada begitu banyak cara untuk menyelesaikan kuadrat terkecil. "Persamaan normal" di Wikipedia tampaknya merupakan cara yang cukup lurus ke
Saya mencoba mencari cara untuk melakukan beberapa pengujian hipotesis pada regresi linier (hipotesis nol menjadi tidak ada korelasi). Setiap panduan dan halaman tentang subjek yang saya temui tampaknya menggunakan uji-t. Tapi saya tidak mengerti apa arti uji-t untuk regresi linier sebenarnya....
Saya telah melatih model regresi linier, menggunakan serangkaian variabel / fitur. Dan modelnya memiliki kinerja yang baik. Namun, saya menyadari bahwa tidak ada variabel dengan korelasi yang baik dengan variabel yang diprediksi. Bagaimana itu
Estimator regresi yang dihukum seperti LASSO dan ridge dikatakan sesuai dengan estimator Bayesian dengan prior tertentu. Saya kira (karena saya tidak tahu cukup tentang statistik Bayesian) bahwa untuk parameter penyetelan tetap, ada beton yang sesuai sebelumnya. Sekarang frequentist akan...
Saya telah membaca posting yang tak terhitung jumlahnya di situs ini yang sangat menentang penggunaan seleksi bertahap variabel menggunakan segala jenis kriteria apakah itu berbasis p-nilai, AIC, BIC, dll. Saya mengerti mengapa prosedur ini secara umum, sangat buruk untuk pemilihan variabel. Pos...
Saya memiliki variabel numerik yang ternyata tidak signifikan dalam model regresi logistik multivariat. Namun, ketika saya mengelompokkannya menjadi kelompok, tiba-tiba itu menjadi signifikan. Ini sangat kontra-intuitif bagi saya: ketika mengelompokkan variabel, kami memberikan beberapa...
Adakah yang tahu artikel ulasan yang bagus untuk literatur statistik tentang regresi non-linear? Saya terutama tertarik pada hasil konsistensi dan asimptotik. Yang menarik adalah model yi t= m ( xi t, θ ) + ϵi t,ysayat=m(xsayat,θ)+ϵsayat,y_{it} = m(x_{it},\theta) + \epsilon_{it}, untuk data...
Dalam Regresi Logistik, adakah kebutuhan untuk mempedulikan multikolinieritas seperti halnya Anda akan menggunakan regresi OLS langsung? Misalnya, dengan regresi logistik, di mana terdapat multikolinieritas, apakah Anda harus berhati-hati (seperti halnya dalam regresi OLS) dengan mengambil...
Bagaimana saya harus mendefinisikan formula model dalam R, ketika satu (atau lebih) batasan linear yang tepat mengikat koefisien tersedia. Sebagai contoh, katakan bahwa Anda tahu bahwa b1 = 2 * b0 dalam model regresi linier sederhana. Terima
Karena pemodelan regresi seringkali lebih "seni" daripada sains, saya sering menemukan diri saya menguji banyak iterasi dari struktur regresi. Apa saja cara efisien untuk meringkas informasi dari berbagai model ini dalam upaya menemukan model "terbaik"? Salah satu pendekatan yang saya gunakan...
Saya mencoba menerapkan analisis "titik perubahan", atau menggunakan regresi multifase nls()dalam R. Ini beberapa data palsu yang saya buat . Rumus yang ingin saya gunakan agar sesuai dengan data adalah: y=β0+β1x+β2max(0,x−δ)y=β0+β1x+β2max(0,x−δ)y = \beta_0 + \beta_1x +...
Secara umum, saya membakukan variabel independen saya dalam regresi, untuk membandingkan dengan benar koefisien (dengan cara ini mereka memiliki unit yang sama: standar deviasi). Namun, dengan data panel / longitudinal, saya tidak yakin bagaimana saya harus membakukan data saya, terutama jika saya...
Bisakah seseorang memberi tahu saya apa arti istilah 'kegigihan' dalam analisis deret waktu? Ini tentang ekonometrika dan regresi
Saya memiliki model linier klasik, dengan 5 kemungkinan regresi. Mereka tidak berkorelasi satu sama lain, dan memiliki korelasi yang cukup rendah dengan respons. Saya telah sampai pada model di mana 3 dari regressor memiliki koefisien signifikan untuk statistik t mereka (p <0,05). Menambahkan...
Saya cukup baru dalam hal ini, jadi saya harap Anda memaafkan saya jika pertanyaannya naif. (Konteks: Saya belajar ekonometrik dari buku Davidson & MacKinnon "Teori dan Metode Econometrik" , dan mereka sepertinya tidak menjelaskan ini; Saya juga melihat buku optimisasi Luenberger yang berkaitan...
Pertimbangkan regresi linier dengan beberapa regularisasi: Misalnya Find yang meminimalkan | | A x - b | | 2 + λ | | x | | 1xxx||Ax−b||2+λ||x||1||Ax−b||2+λ||x||1||Ax - b||^2+\lambda||x||_1 Biasanya, kolom A distandarisasi untuk memiliki rata-rata nol dan norma satuan, sedangkan berpusat untuk...
Saya memiliki data jumlah (analisis permintaan / penawaran dengan menghitung jumlah pelanggan, tergantung pada - kemungkinan - banyak faktor). Saya mencoba regresi linier dengan kesalahan normal, tetapi plot QQ saya tidak terlalu bagus. Saya mencoba transformasi log dari jawabannya: sekali lagi,...
Ini adalah sesuatu yang saya lihat dilakukan sebagai semacam metode ad-hoc dan tampaknya sangat mencurigakan bagi saya tetapi mungkin saya kehilangan sesuatu. Saya telah melihat ini dilakukan dalam beberapa regresi tetapi mari kita tetap sederhana: yi=β0+β1xi+εiyi=β0+β1xi+εi y_{i} = \beta_{0} +...
Ini wikipedia link di daftar sejumlah teknik untuk mendeteksi OLS residual heteroskedastisitas. Saya ingin belajar teknik langsung mana yang lebih efisien dalam mendeteksi daerah yang dipengaruhi oleh heteroskedastisitas. Sebagai contoh, di sini wilayah pusat dalam plot 'Residual vs Fitted' OLS...