Saya bekerja dengan banyak algoritma: RandomForest, DecisionTrees, NaiveBayes, SVM (kernel = linear dan rbf), KNN, LDA dan XGBoost. Semuanya cukup cepat kecuali untuk SVM. Saat itulah saya mengetahui bahwa perlu penskalaan fitur untuk bekerja lebih cepat. Kemudian saya mulai bertanya-tanya apakah...
Dalam masalah klasifikasi teks kecil yang saya lihat, Naif Bayes telah menunjukkan kinerja yang mirip atau lebih besar dari SVM dan saya sangat bingung. Saya bertanya-tanya faktor apa yang menentukan kemenangan dari satu algoritma di atas yang lain. Apakah ada situasi di mana tidak ada gunanya...
Dari apa yang saya lihat, formula smoothing Kneser-Ney (dalam urutan kedua) dalam beberapa hal diberikan sebagai P2KN(wn|wn−1)=max{C(wn−1,wn)−D,0}∑w′C(wn−1,w′)+λ(wn−1)×Pcont(wn)PKN2(wn|wn−1)=max{C(wn−1,wn)−D,0}∑w′C(wn−1,w′)+λ(wn−1)×Pcont(wn) \begin{align} P^2_{KN}(w_n|w_{n-1}) &= \frac{\max...
Jadi dalam pemodelan teks (tanpa pengawasan), Latent Dirichlet Allocation (LDA) adalah versi Bayesian dari Probabilistic Latent Semantic Analysis (PLSA). Intinya, LDA = PLSA + Dirichlet sebelum parameternya. Pemahaman saya adalah bahwa LDA sekarang menjadi algoritma referensi dan diimplementasikan...
Saya pikir cara yang baik untuk mengingat rumus adalah dengan memikirkan rumus seperti ini: Probabilitas bahwa beberapa peristiwa A memiliki hasil tertentu yang diberikan peristiwa independen hasil B = probabilitas kedua hasil yang terjadi secara bersamaan / apa pun yang kita katakan probabilitas...
Saya mempelajari Tutorial ini pada Variational Autoencoders oleh Carl Doersch . Di halaman kedua disebutkan: Salah satu kerangka kerja yang paling populer adalah Varienc Autoencoder [1, 3], subjek tutorial ini. Asumsi model ini lemah, dan pelatihan cepat melalui backpropagation. VAE memang...
Saya baru belajar Mesin. Saat ini saya menggunakan classifier Naive Bayes (NB) untuk mengklasifikasikan teks kecil dalam 3 kelas sebagai positif, negatif atau netral, menggunakan NLTK dan python. Setelah melakukan beberapa tes, dengan dataset yang terdiri dari 300.000 instance (16.924 positif,...
Untuk pemahaman saya (yang sangat mendasar), Naive Bayes memperkirakan probabilitas berdasarkan frekuensi kelas setiap fitur dalam data pelatihan. Tetapi bagaimana cara menghitung frekuensi variabel kontinu? Dan ketika melakukan prediksi, bagaimana cara mengklasifikasikan pengamatan baru yang...
Saya harus berurusan dengan masalah klasifikasi teks. Perayap web merayapi laman web dari domain tertentu dan untuk setiap laman web saya ingin mengetahui apakah itu milik hanya satu kelas tertentu atau tidak. Yaitu, jika saya menyebut kelas ini Positif , setiap laman web yang dirayapi termasuk...
Saya telah membaca tentang trik log-sum-exp di banyak tempat (misalnya di sini , dan di sini ) tetapi belum pernah melihat contoh bagaimana itu diterapkan secara khusus untuk classifier Naive Bayes (misalnya dengan fitur diskrit dan dua kelas) Bagaimana tepatnya seseorang menghindari masalah...
Apakah ada cara untuk melakukan Regresi Proses Gaussian pada output multidimensi (mungkin berkorelasi) menggunakan GPML ? Dalam skrip demo saya hanya bisa menemukan contoh 1D. Sebuah pertanyaan serupa pada CV yang menangani kasus masukan multidimensi. Saya membaca buku mereka untuk melihat...
Klasifikasi Naive Bayes adalah pengklasifikasi yang menetapkan item ke kelas berdasarkan pada memaksimalkan posterior untuk keanggotaan kelas, dan mengasumsikan bahwa fitur dari item tersebut independen.xxxCCCP(C|x)P(C|x)P(C|x) Kehilangan 0-1 adalah kerugian yang menyebabkan hilangnya klasifikasi...
Saya tidak mengerti bagaimana persamaan ini diturunkan. P(I|M1∩M2)≤P(I)P(I′)⋅P(M1|I)P(M2|I)P(M1|I′)P(M2|I′)P(I|M1∩M2)≤P(I)P(I′)⋅P(M1|I)P(M2|I)P(M1|I′)P(M2|I′)P(I|M_{1}\cap M_{2}) \leq \frac{P(I)}{P(I')}\cdot \frac{P(M_{1}|I)P(M_{2}|I)}{P(M_{1}|I')P(M_{2}|I')} Persamaan ini berasal dari makalah...
Apa hubungan antara analisis diskriminan Linear dan aturan Bayes? Saya mengerti bahwa LDA digunakan dalam klasifikasi dengan mencoba meminimalkan rasio dalam varians grup dan antara varians grup, tapi saya tidak tahu bagaimana aturan Bayes digunakan di
Konteks: Saya seorang programmer dengan beberapa (setengah terlupakan) pengalaman dalam statistik dari kursus uni. Baru-baru ini saya menemukan http://akinator.com dan menghabiskan beberapa waktu mencoba membuatnya gagal. Dan siapa yang tidak? :) Saya telah memutuskan untuk mencari tahu cara...
Saya baru-baru ini kebetulan membaca tentang Bayes empiris (Casella, 1985, Pengantar analisis data Bayes empiris) dan itu sangat mirip dengan model efek acak; karena keduanya memiliki estimasi yang menyusut menjadi rata-rata global. Tapi saya belum membacanya secara menyeluruh ... Adakah yang...
Saya membaca tentang kesimpulan Bayesian dan saya menemukan frasa "integrasi numerik dari kemungkinan marginal terlalu mahal" Saya tidak memiliki latar belakang matematika dan saya bertanya-tanya apa sebenarnya arti mahal di sini? Apakah hanya dalam hal kekuatan perhitungan atau ada sesuatu yang...
Apakah Anda menganggap HBM vs EB sebagai dua alternatif di mana hyperparameter "dalam permainan" menjadi sampel / diperkirakan / dll? Jelas ada hubungan antara keduanya. Apakah Anda menganggap HBM lebih "sepenuhnya Bayesian" daripada EB? Adakah tempat di mana saya bisa melihat apa perbedaan antara...
Bisakah kita mengartikan probabilitas posterior yang diperoleh dari classifier yang menghasilkan nilai kelas yang diprediksi dan probabilitas (misalnya, regresi logistik atau Naif Bayes) sebagai semacam skor kepercayaan yang ditugaskan untuk nilai kelas yang
Saya membuat purwarupa model tas naif Bayes saya sendiri, dan saya punya pertanyaan tentang menghitung probabilitas fitur. Katakanlah saya punya dua kelas, saya hanya akan menggunakan spam dan bukan-spam karena itulah yang digunakan semua orang. Dan mari kita ambil kata "viagra" sebagai contoh....