Sudah diketahui umum bahwa untuk kelas konsep dengan VC dimensi , cukup untuk mendapatkan O \ kiri (\ frac {d} {\ varepsilon} \ log \ frac {1} {\ varepsilon} \ kanan) contoh berlabel untuk PAC learn \ mathcal {C} . Tidak jelas bagi saya apakah algoritma pembelajaran PAC (yang menggunakan banyak...
Inilah masalah dengan cita rasa yang mirip dengan belajar junta: Input: Fungsi f:{0,1}n→{−1,1}f:{0,1}n→{−1,1}f: \{0,1\}^n \rightarrow \{-1,1\} , diwakili oleh oracle keanggotaan, yaitu oracle yang diberikan xxx , mengembalikan f(x)f(x)f(x) . Sasaran: Temukan subkelompok SSS dari...
Biarkan menjadi distribusi lebih dari bitstring / pasangan label dan biarkan menjadi kumpulan fungsi bernilai boolean . Untuk setiap fungsi , misalkan: dan biarkan: OPT (C, D) = \ min_ {f \ dalam C} \ err (f, D) Katakan bahwa suatu algoritma A secara agnostik mempelajari C atas distribusi apa...
Pertanyaan saya agak umum, jadi saya mengarang cerita yang bagus untuk membenarkannya. Bersabarlah jika tidak realistis ;-) Cerita Tn. X, kepala departemen keamanan komputer di sebuah perusahaan besar, agak paranoid: ia mengharuskan semua karyawan mengganti kata sandi sekali sebulan, untuk...
Beberapa latar belakang: Saya tertarik untuk menemukan batas bawah (atau hasil kekerasan) "kurang dikenal" untuk masalah Belajar dengan Kesalahan (LWE), dan generalisasi seperti Belajar dengan Kesalahan atas Cincin. Untuk definisi spesifik, dll., Ini adalah survei yang bagus oleh Regev:...
Data dunia nyata kadang-kadang memiliki jumlah kluster alami (mencoba mengelompokkannya ke dalam jumlah klaster yang lebih rendah daripada beberapa k ajaib akan menyebabkan peningkatan dramatis pada biaya pengelompokan). Hari ini saya menghadiri kuliah oleh Dr. Adam Meyerson dan dia menyebut jenis...
Dana Angluin ( 1987 ; pdf ) mendefinisikan model pembelajaran dengan pertanyaan keanggotaan dan pertanyaan teori (berlawanan dengan contoh fungsi yang diusulkan). Dia menunjukkan bahwa bahasa reguler yang diwakili oleh DFA minimal negara dapat dipelajari dalam waktu polinomial (di mana fungsi yang...
Angluin dan Laird ('88) memformalkan pembelajaran dengan data yang rusak secara acak dalam model "PAC dengan noise klasifikasi acak" (atau PAC berisik). Model ini mirip dengan pembelajaran PAC , kecuali untuk label contoh yang diberikan kepada pelajar rusak (terbalik), secara independen secara...
Klasifikasi pembelajaran mesin apa yang paling bisa diparalelkan? Jika Anda memiliki masalah klasifikasi yang sulit, waktu yang terbatas, tetapi LAN komputer yang layak untuk digunakan, klasifikasi apa yang akan Anda coba? Secara tidak langsung kelihatannya bagi saya seperti beberapa...
Baru-baru ini saya telah membaca sejumlah makalah CoLT yang layak. Meskipun saya tidak bergumul dengan makalah individual (setidaknya tidak lebih dari biasanya saya bergumul dengan makalah teori lainnya), saya tidak merasa memiliki pemahaman yang luas tentang bidang ini secara keseluruhan. Apakah...
Pertama-tama, saya masih tidak yakin apakah cerita ini disesuaikan dengan baik untuk pertanyaan ini, jadi saya tidak akan tersinggung jika orang banyak berpikir itu tidak terjadi ... Dalam pemasaran mesin pencari, beberapa masalah menarik. Desain mekanisme lelang yang adil (dan menguntungkan) dan...
Apa hasil canggih tentang kompleksitas kueri dari rumus 2-DNF pembelajaran PAC yang tepat dengan kueri sampel dan di bawah distribusi yang seragam ? Atau ada yang tidak sepele yang terikat padanya? Karena saya sama sekali tidak terbiasa dengan teori belajar dan pertanyaan ini dimotivasi oleh...
Saya cukup akrab dengan teori di balik VC-Dimension, tetapi saya sekarang sedang melihat kemajuan (10 tahun terakhir) dalam teori pembelajaran statistik: rata-rata (lokal) Rademacher rata-rata, Massma's Finite Class Lemma Class, Numbering Covering, Chaining, Dudley's Teorema, Pseudodimension,...
Mari kita mendefinisikan kelas fungsi lebih dari satu set bit. Perbaiki dua distribusi yang "cukup" berbeda satu sama lain (jika Anda suka, jarak variasional mereka setidaknya , atau yang serupa).p , q ϵnnnhal,qp,qp, qϵϵ\epsilon Sekarang setiap fungsi dalam kelas ini didefinisikan oleh kumpulan...
Sudah terkenal bahwa untuk pembelajaran PAC klasik, diperlukan untuk mencapai batas kesalahan ε whp, di mana d adalah dimensi VC dari kelas konsep.Ω(d/ε)Ω(d/ε)\Omega(d/\varepsilon)εε\varepsilonddd Apakah diketahui bahwa diperlukan dalam kasus
Secara khusus, saya meminta sumber daya untuk mempelajari tentang sistem pembelajaran mesin yang dapat memperbarui jaringan kepercayaan masing-masing (atau yang setara) selama operasi. Saya bahkan telah menemukan beberapa, meskipun saya gagal untuk membookmark mereka. Seperti yang Anda bayangkan,...
Misalkan saya memiliki poin dalam R d . Ini menginduksi diagram Voronoi. Jika saya menetapkan masing-masing k menunjuk label ± , ini menginduksi fungsi biner pada R d . Pertanyaan: berapakah dimensi VC dari semua fungsi biner yang mungkin diinduksi oleh beberapa titik k dan beberapa pelabelan...
Secara khusus saya maksudkan keluarga bahasa yang menerima string panjang yang sewenang-wenang - bukan konjungsi atas n bit atau daftar keputusan atau bahasa "sederhana" lainnya yang terkandung dalam {0,1} ^ n. Saya bertanya tentang bahasa reguler "automata-theoretic" sebagai lawan dari bahasa...
Hutan acak memiliki reputasi di antara para praktisi sebagai salah satu teknik klasifikasi yang paling efektif. Namun kita tidak banyak bertemu dengan mereka dalam literatur teori-pembelajaran, dari mana saya menduga tidak adanya hasil teoritis yang mendalam. Jika seseorang ingin mempelajari teori...
Apakah ada hasil yang menunjukkan bahwa model (katakanlah SVM, Neural-Net, kNN, dll) akan mengalami kesulitan dalam mempelajari kejadian "langka" / fenomena ekor?