Dapatkah seseorang tolong beri tahu saya perbedaan antara kernel di SVM:
- Linier
- Polinomial
- Gaussian (RBF)
- Sigmoid
Karena seperti yang kita ketahui bahwa kernel digunakan untuk memetakan ruang input kami ke ruang fitur berdimensi tinggi. Dan dalam ruang fitur itu, kami menemukan batas yang dapat dipisahkan secara linear ..
Kapan mereka digunakan (dalam kondisi apa) dan mengapa?
sumber
Mengandalkan pengetahuan dasar pembaca tentang kernel.
Kernel Linear:K( X, Y) = XTY
Kernel polinomial:K( X, Y) = ( γ ⋅ XTY+ r )d, γ > 0
Fungsi dasar radial (RBF) Kernel: yang dalam bentuk sederhana dapat ditulis sebagaiK( X, Y) = exp( ∥ X- Y∥2/ 2 σ2) exp( - γ ⋅ ∥ X- Y∥2) , γ > 0
Sigmoid Kernel: yang mirip dengan fungsi sigmoid dalam regresi logistik.K( X, Y) = tanh( γ ⋅ XTY+ r )
Di sini , , dan adalah parameter kernel.r d γ
sumber
Pertanyaan ini dapat dijawab dari sudut pandang teoretis dan praktis. Dari teoretis menurut teorema No-Free Lunch menyatakan bahwa tidak ada jaminan untuk satu kernel untuk bekerja lebih baik dari yang lain. Itu adalah apriori yang tidak pernah Anda ketahui atau Anda bisa mengetahui kernel mana yang akan bekerja lebih baik.
Dari sudut pandang praktis, lihat halaman berikut:
Bagaimana cara memilih kernel untuk SVM?
sumber
Sementara merefleksikan apa yang "baik untuk" kernel atau kapan harus digunakan, tidak ada aturan yang keras dan cepat.
Jika Anda classifier / regressor berkinerja baik dengan kernel yang diberikan, itu sesuai, jika tidak, pertimbangkan untuk beralih ke kernel lain.
Wawasan bagaimana kinerja kernel Anda, khususnya jika itu adalah model klasifikasi, dapat diperoleh dengan meninjau beberapa contoh visualisasi, misalnya https://gist.github.com/WittmannF/60680723ed8dd0cb993051a7448f7805
sumber