Dalam makalah seminal mereka 'Least Angle Regression' , Efron dkk menjelaskan modifikasi sederhana dari algoritma LARS yang memungkinkan untuk menghitung jalur regularisasi LASSO penuh.
Saya telah mengimplementasikan varian ini dengan sukses dan biasanya memplot jalur output baik terhadap jumlah langkah (iterasi berurutan dari algoritma LARS) atau -norm dari koefisien regresi ( ).
Namun, sepertinya sebagian besar paket yang tersedia di luar sana menyediakan jalur regularisasi dalam hal koefisien hukuman LASSO (misalnya LARS dalam R, di mana Anda dapat bermain dengan argumen 'mode' untuk beralih di antara representasi yang berbeda).
Pertanyaan saya adalah: apa mekanisme yang digunakan untuk beralih dari satu representasi ke yang lain (s). Saya telah melihat berbagai pertanyaan terkait dengan itu (atau lebih khusus masalah pemetaan kendala ketimpangan ke istilah hukuman yang sesuai ), tetapi tidak menemukan jawaban yang memuaskan.
[Sunting]
Saya telah melihat ke dalam beberapa kode MATLAB yang melakukan transformasi yang diperlukan dan, untuk setiap langkah LARS , ini adalah bagaimana tampaknya dikomputasi:
di mana (ukuran ) dan (ukuran ) menunjukkan input / respons terstandarisasi, mewakili set prediktor aktif pada langkah dan menunjukkan sisa regresi saat ini pada langkah .
Saya tidak bisa memahami logika di balik perhitungan itu. Bisakah seseorang membantu?
sumber