Pertanyaan yang diberi tag cart

Setelah melakukan analisis komponen utama (PCA), saya ingin memproyeksikan vektor baru ke ruang PCA (yaitu menemukan koordinatnya dalam sistem koordinat PCA). Saya telah menghitung PCA dalam bahasa R menggunakan prcomp. Sekarang saya harus bisa mengalikan vektor saya dengan matriks rotasi PCA....

Apa metode yang digunakan algoritma pembelajaran pohon keputusan untuk menangani nilai yang hilang. Apakah mereka cukup mengisi slot menggunakan nilai yang disebut hilang? Terima

Saya bukan ahli hutan acak tapi saya jelas mengerti bahwa masalah utama dengan hutan acak adalah generasi pohon (acak). Bisakah Anda jelaskan bagaimana pohon itu dihasilkan? (mis. Apa distribusi yang digunakan untuk pembuatan pohon?) Terima kasih sebelumnya !

Saya memiliki dataset yang terdiri dari 5 fitur: A, B, C, D, E. Mereka semua adalah nilai numerik. Alih-alih melakukan pengelompokan berbasis kepadatan, apa yang ingin saya lakukan adalah mengelompokkan data dengan cara seperti pohon keputusan. Pendekatan yang saya maksud adalah sesuatu seperti...

Apa definisi "ruang fitur"? Misalnya, Saat membaca tentang SVM, saya membaca tentang "pemetaan ke fitur ruang". Saat membaca tentang CART, saya membaca tentang "partisi ke ruang fitur". Saya mengerti apa yang terjadi, terutama untuk CART, tetapi saya pikir ada beberapa definisi yang saya...

Decision stump adalah pohon keputusan dengan hanya satu split. Ini juga dapat ditulis sebagai fungsi piecewise. Misalnya, anggap adalah vektor, dan adalah komponen pertama , dalam pengaturan regresi, beberapa tunggul keputusan dapatxxxx1x1x_1xxx f(x)={35x1≤2x1>2f(x)={3x1≤25x1>2f(x)=...

Hutan acak digunakan untuk regresi. Namun, dari apa yang saya pahami, mereka menetapkan nilai target rata-rata pada setiap lembar. Karena hanya ada daun terbatas di setiap pohon, hanya ada nilai spesifik yang dapat dicapai target dari model regresi kami. Jadi bukankah ini hanya regresi 'diskrit'...

Saya mencari makalah atau teks yang membandingkan dan mendiskusikan (baik secara empiris atau teoritis): Algoritma Boosting dan Decision tree seperti Random Forests atau AdaBoost , dan GentleBoost diterapkan pada pohon keputusan. dengan Metode pembelajaran yang dalam seperti Mesin Boltzmann...

Ada banyak posting blog, video YouTube, dll. Tentang ide mengantongi atau meningkatkan pohon. Pemahaman umum saya adalah bahwa kode pseudo untuk masing-masing adalah: Mengantongi: Ambil N sampel acak x% dari sampel dan y% dari fitur Paskan model Anda (misalnya, pohon keputusan) pada...

Apa dimensi VC dari pohon keputusan dengan k terbagi dalam dua dimensi? Katakanlah modelnya adalah CART dan satu-satunya pemisahan yang dibiarkan sejajar dengan sumbu. Jadi untuk satu split kita dapat memesan 3 poin dalam segitiga dan kemudian untuk setiap pelabelan poin kita bisa mendapatkan...

Random Forests (RFs) adalah metode pemodelan / penambangan data kompetitif. Model RF memiliki satu output - variabel output / prediksi. Pendekatan naif untuk memodelkan banyak keluaran dengan RF adalah membangun RF untuk setiap variabel keluaran. Jadi kita memiliki N model independen, dan di mana...

Dalam rutin bagian () untuk membuat model CART, Anda menentukan parameter kompleksitas yang ingin Anda pangkas pohon Anda. Saya telah melihat dua rekomendasi berbeda untuk memilih parameter kompleksitas: Pilih parameter kompleksitas yang terkait dengan kemungkinan kesalahan tervalidasi silang...

Sudah lama sejak saya melihat pohon partisi. Terakhir kali saya melakukan hal semacam ini, saya suka pesta di R (dibuat oleh Hothorn). Ide inferensi bersyarat melalui pengambilan sampel masuk akal bagi saya. Tetapi rpart juga memiliki daya tarik. Dalam aplikasi saat ini (saya tidak bisa memberikan...

Saya sedang mengerjakan ukuran kepentingan fitur Gini untuk hutan acak. Oleh karena itu, saya perlu menghitung penurunan Gini dalam ketidakmurnian simpul. Inilah cara saya melakukannya, yang mengarah pada konflik dengan definisi tersebut, menunjukkan bahwa saya pasti salah di suatu tempat ......

Saya sebenarnya menulis implementasi Hutan Acak tapi saya yakin pertanyaannya khusus untuk pohon keputusan (terlepas dari RF). Jadi konteksnya adalah bahwa saya membuat simpul di pohon keputusan dan kedua variabel prediksi dan target kontinu. Node memiliki ambang batas untuk membagi data menjadi...

Pertanyaan Apakah itu tergantung pada apakah pohon itu dangkal atau dalam? Atau dapatkah kita mengatakan ini terlepas dari kedalaman / level pohon? Mengapa bias rendah & varians tinggi? Tolong jelaskan secara intuitif dan

Misalkan kita memiliki dua pohon regresi (pohon A dan pohon B) yang peta masukan untuk output y ∈ R . Biarkan y = f A ( x ) untuk pohon A dan f B ( x ) untuk pohon B. Setiap pohon menggunakan perpecahan biner, dengan hyperplanes sebagai fungsi memisahkan.x∈Rdx∈Rdx \in \mathbb{R}^dy^∈Ry^∈R\hat{y}...

Adakah yang bisa membantu menjelaskan beberapa matematika di balik klasifikasi dalam CART? Saya ingin memahami bagaimana dua tahap utama terjadi. Sebagai contoh, saya melatih classifier CART pada dataset dan menggunakan dataset pengujian untuk menandai kinerja prediktifnya tetapi: Bagaimana akar...

Seorang kolega di kantor saya berkata kepada saya hari ini, "Model pohon tidak bagus karena tertangkap oleh pengamatan ekstrim". Pencarian di sini menghasilkan utas ini yang pada dasarnya mendukung klaim. Yang mengarahkan saya ke pertanyaan - dalam situasi apa model CART dapat menjadi kuat, dan...

Karena algoritma pohon keputusan terpecah pada suatu atribut pada setiap langkah, kedalaman maksimum pohon keputusan sama dengan jumlah atribut data. Apakah ini