Saya telah membaca deskripsi regresi ridge dalam Model Statistik Terapan Linier , edisi ke 5 bab 11. Regresi ridge dilakukan pada data lemak tubuh yang tersedia di sini .
Buku teks cocok dengan output dalam SAS, di mana koefisien ditransformasikan kembali diberikan dalam model pas sebagai:
Ini ditunjukkan dari SAS sebagai:
proc reg data = ch7tab1a outest = temp outstb noprint;
model y = x1-x3 / ridge = 0.02;
run;
quit;
proc print data = temp;
where _ridge_ = 0.02 and y = -1;
var y intercept x1 x2 x3;
run;
Obs Y Intercept X1 X2 X3
2 -1 -7.40343 0.55535 0.36814 -0.19163
3 -1 0.00000 0.54633 0.37740 -0.13687
Tetapi R memberikan koefisien yang sangat berbeda:
data <- read.table("http://www.cst.cmich.edu/users/lee1c/spss/V16_materials/DataSets_v16/BodyFat-TxtFormat.txt",
sep=" ", header=FALSE)
data <- data[,c(1,3,5,7)]
colnames(data)<-c("x1","x2","x3","y")
ridge<-lm.ridge(y ~ ., data, lambda=0.02)
ridge$coef
coef(ridge)
> ridge$coef
x1 x2 x3
10.126984 -4.682273 -3.527010
> coef(ridge)
x1 x2 x3
42.2181995 2.0683914 -0.9177207 -0.9921824
>
Adakah yang bisa membantu saya memahami mengapa?
r
sas
ridge-regression
B_Miner
sumber
sumber
Jawaban:
lm.ridge
Anda dapat melihat jenis algoritma apa yang diterapkan dalam R dengan melihat sumbernya
lm.ridge
. Cukup ketiklm.ridge
prompt R.sumber
Menggunakan lm.ridge juga menghasilkan vektor penskalaan (coba kepala (model) untuk melihat semua output). Untuk mendapatkan nilai prediksi dalam R yang Anda lihat di SAS, ambil koefisien dan bagi dengan vektor skalar.
sumber