Model regresi linier dalam parameter linier.
Apa arti sebenarnya?
regression
linear-regression
Albert Gao
sumber
sumber
Jawaban:
Pertimbangkan persamaan bentuk
di mana adalah variabel dan β adalah parameter. Di sini, y adalah fungsi linier dari β (parameter linier) dan juga fungsi linier x (variabel linear). Jika Anda mengubah persamaan menjadix β β x
Kemudian, itu tidak lagi linear dalam variabel (karena istilah kuadrat) tetapi masih linear dalam parameter. Dan untuk regresi linier (berganda), itu yang terpenting karena pada akhirnya, Anda mencoba menemukan seperangkat yang meminimalkan fungsi kerugian. Untuk itu, Anda perlu menyelesaikan sistem persamaan linear . Mengingat sifat-sifatnya yang bagus, ia memiliki solusi bentuk tertutup yang membuat hidup kita lebih mudah. Hal-hal menjadi lebih sulit ketika Anda berurusan dengan persamaan nonlinear.β
Asumsikan Anda tidak berurusan dengan model regresi tetapi Anda memiliki masalah pemrograman matematis: Anda mencoba untuk meminimalkan fungsi tujuan dari bentuk dikenakan set kendala: A x ≥ b dan x ≥ 0 . Ini adalah masalah pemrograman linear dalam arti linear dalam variabel. Berbeda dengan model regresi, Anda mencoba menemukan seperangkat x (variabel) yang memenuhi kendala dan meminimalkan fungsi tujuan. Ini juga akan mengharuskan Anda untuk memecahkan sistem persamaan linear tetapi di sini akan linear dalam variabel. Parameter Anda tidak akan berpengaruh pada sistem persamaan linear itu.cTx A x ≥ b x ≥ 0 x
sumber
Ini berarti bahwa mana A adalah parameternya. Variabel X mungkin berisi hubungan nonlinear; misalnya, X = [ αY= A X SEBUAH X , namun Y adalah fungsi linear dari X .X= [ αα ββ2]T Y X
sumber
Sebuah model linier ketika setiap istilah adalah konstanta atau produk parameter dan prediktor. Persamaan linear dibangun dengan menambahkan hasil untuk setiap istilah. Ini membatasi persamaan hanya pada satu bentuk dasar:
"Parameter dalam linear" dalam Regresi Linier, berarti tidak ada parameter yang muncul sebagai eksponen, tidak juga dikalikan atau dibagi dengan parameter lain.
sumber