Saya datang di besar tubuh sastra yang menganjurkan menggunakan Informasi Fisher metrik sebagai metrik lokal alami di ruang distribusi probabilitas dan kemudian mengintegrasikan lebih dari itu untuk menentukan jarak dan volume. Tetapi apakah jumlah "terintegrasi" ini sebenarnya berguna untuk apa...
Saya menjalankan model logistik. Dataset model yang sebenarnya memiliki lebih dari 100 variabel, tetapi saya memilih kumpulan data uji yang ada sekitar 25 variabel. Sebelumnya saya juga membuat dataset yang memiliki 8-9 variabel. Saya diberi tahu bahwa nilai AIC dan SC dapat digunakan untuk...
Dari apa yang saya pahami, pemilihan variabel berdasarkan nilai-p (setidaknya dalam konteks regresi) sangat cacat. Tampaknya pemilihan variabel berdasarkan AIC (atau serupa) juga dianggap cacat oleh beberapa, untuk alasan yang sama, meskipun ini tampaknya agak tidak jelas (mis. Lihat pertanyaan...
Kami memiliki dua model yang menggunakan metode yang sama untuk menghitung kemungkinan log dan AIC untuk satu lebih rendah dari yang lain. Namun, yang dengan AIC lebih rendah jauh lebih sulit untuk ditafsirkan. Kami mengalami masalah dalam memutuskan apakah layak untuk memperkenalkan kesulitan dan...
Saya rasa saya mengerti bagaimana dasar-dasar bootstrap bekerja, tapi saya tidak yakin saya mengerti bagaimana saya bisa menggunakan bootstrap untuk pemilihan model atau untuk menghindari overfitting. Untuk pemilihan model, misalnya, apakah Anda hanya memilih model yang menghasilkan kesalahan...
Regresi bertahap telah digunakan secara berlebihan dalam banyak makalah biomedis di masa lalu tetapi ini tampaknya membaik dengan pendidikan yang lebih baik dari banyak masalah. Namun banyak pengulas yang lebih tua masih memintanya. Bagaimana keadaan di mana regresi bertahap memiliki peran dan...
Sebagai jawaban atas pertanyaan tentang pemilihan model di hadapan multikolinieritas , Frank Harrell menyarankan : Masukkan semua variabel dalam model tetapi jangan menguji efek dari satu variabel yang disesuaikan untuk efek variabel yang bersaing ... Tes chunk dari variabel yang bersaing kuat...
Jika saya tertarik untuk menyesuaikan interaksi dua arah antara variabel penjelas linier dan variabel penjelas lain yang memiliki hubungan kuadratik dengan variabel dependen , apakah saya harus memasukkan interaksi dengan komponen kuadratik dan interaksi dengan linier komponen dalam model?...
Saya melakukan beberapa peramalan dalam R menggunakan paket perkiraan Rob Hyndman . Kertas milik paket dapat ditemukan di sini . Dalam makalah, setelah menjelaskan algoritma peramalan otomatis, penulis mengimplementasikan algoritma pada set data yang sama. Namun, setelah memperkirakan model...
Saya memiliki satu set nilai dan yang secara teoritis terkait secara eksponensial:xxxyyy y=axby=axby = ax^b Salah satu cara untuk mendapatkan koefisien adalah dengan menerapkan logaritma natural di kedua sisi dan menyesuaikan model linier: > fit <- lm(log(y)~log(x)) > a <-...
Saat ini saya sedang mengerjakan masalah di mana kami memiliki dataset kecil dan tertarik pada efek kausalitas dari perawatan pada hasilnya. Penasihat saya telah menginstruksikan saya untuk melakukan regresi univariat pada setiap prediktor dengan hasilnya sebagai respons, kemudian tugas pengobatan...
Saya mengerti prinsip dasar di balik algoritma untuk LLE terdiri dari tiga langkah. Menemukan lingkungan setiap titik data dengan beberapa metrik seperti k-nn. Temukan bobot untuk setiap tetangga yang menunjukkan efek yang dimiliki tetangga pada titik data. Bangun penyisipan data dimensi rendah...
Katakanlah adalah fungsi linier dari dan dummy . Hipotesis saya adalah bahwa itu sendiri adalah seperti indeks hedonistik dari vektor variabel lainnya, . Saya memiliki dukungan untuk ini dalam dari (yaitu , , ..., ) pada . Apakah ada cara untuk menguji kesetaraan kedua model ini:x d d Z M A N O V A...
Saat ini saya menggunakan analisis komponen utama untuk memilih variabel yang akan digunakan dalam pemodelan. Saat ini, saya membuat pengukuran A, B, dan C dalam percobaan saya - Yang benar-benar ingin saya ketahui adalah: Dapatkah saya membuat lebih sedikit pengukuran dan berhenti merekam C dan...
Catatan: pertanyaan ini adalah repost, karena pertanyaan saya sebelumnya harus dihapus karena alasan hukum. Sambil membandingkan PROC CAMPURAN dari SAS dengan fungsi lmedari nlmepaket di R, saya menemukan beberapa perbedaan yang agak membingungkan. Lebih khusus lagi, derajat kebebasan dalam...
Saya ingin menggunakan Akaike Information Criterion (AIC) untuk memilih jumlah faktor yang tepat untuk diekstraksi dalam PCA. Satu-satunya masalah adalah saya tidak yakin bagaimana menentukan jumlah parameter. Pertimbangkan matriks , di mana mewakili jumlah variabel dan jumlah pengamatan, sehingga...
AIC didefinisikan sebagai , di mana adalah estimator kemungkinan maksimum dan adalah dimensi ruang parameter. Untuk estimasi , biasanya diabaikan faktor konstan dari kepadatan. Ini adalah faktor yang tidak bergantung pada parameter, untuk menyederhanakan kemungkinan. Di sisi lain, faktor ini sangat...
Saya sedang mempertimbangkan ruang besar (tetapi terbatas) model kompleksitas yang berbeda yang saya jelajahi menggunakan RJMCMC . Sebelumnya pada vektor parameter untuk setiap model cukup informatif. Dalam kasus apa (jika ada) yang harus saya khawatirkan dengan paradoks Jeffreys-Lindley yang...
Dalam buku PRML Bishop, ia mengatakan bahwa, overfitting adalah masalah dengan Estimasi Kemungkinan Maksimum (MLE), dan Bayesian dapat menghindarinya. Tapi saya pikir, overfitting adalah masalah lebih banyak tentang pemilihan model, bukan tentang metode yang digunakan untuk melakukan estimasi...
Saya ingin memahami uji pasti fisher dengan lebih baik, jadi saya menyusun contoh mainan berikut ini, di mana f dan m berhubungan dengan pria dan wanita, dan n dan y berhubungan dengan "konsumsi soda" seperti ini: > soda_gender f m n 0 5 y 5 0 Jelas, ini adalah penyederhanaan yang...