One-vs-All dan One-vs-One dalam svm?

26

Apa perbedaan antara SVM satu-vs-semua dan satu-vs-satu?

Apakah one-vs-all berarti satu classifier untuk mengklasifikasikan semua tipe / kategori gambar baru dan one-vs-one berarti setiap tipe / kategori gambar baru mengklasifikasikan dengan classifier yang berbeda (masing-masing kategori ditangani oleh classifier khusus)?

Misalnya, jika gambar baru akan diklasifikasikan menjadi lingkaran, persegi panjang, segitiga, dll.

machine-learning classification svm pengguna3378327
sumber

Jawaban:

37

Perbedaannya adalah jumlah pengklasifikasi yang harus Anda pelajari, yang sangat berkorelasi dengan batas keputusan yang mereka buat.

Asumsikan Anda memiliki kelas yang berbeda. One vs all akan melatih satu classifier per kelas dalam total classifiers. Untuk kelas akan menganggap -label sebagai positif dan sisanya sebagai negatif. Ini sering mengarah pada dataset tidak seimbang yang berarti SVM generik mungkin tidak berfungsi, tetapi masih ada beberapa solusi.N i iNNii

Dalam satu vs satu Anda harus melatih pengelompokan terpisah untuk setiap pasangan label yang berbeda. Ini mengarah ke pengklasifikasi. Ini jauh kurang sensitif terhadap masalah dataset tidak seimbang tetapi jauh lebih mahal secara komputasi.N(N−1)2

Gnattuha
sumber
Silakan, yang Anda maksud i-label positif OR i-th label sebagai positif ?
delusionX
label yang sesuai dengan kelas i sebagai positif.
Gnattuha
@Gnattuha - Apa yang Anda maksud dengan dataset yang tidak seimbang? Terima kasih sebelumnya.
saurabheights
1
Saya baca di sini - en.wikipedia.org/wiki/… - "Meskipun strategi ini populer, ini adalah heuristik yang menderita beberapa masalah. Pertama, skala nilai kepercayaan mungkin berbeda di antara pengklasifikasi biner. Kedua, bahkan jika distribusi kelas seimbang dalam set pelatihan, pembelajar klasifikasi biner melihat distribusi tidak seimbang karena biasanya set negatif yang mereka lihat jauh lebih besar daripada set positif ". Masih bagaimana ketidakseimbangan itu memengaruhi keakuratan?
saurabheights