Katakanlah kita memiliki jaringan saraf maju umpan tunggal dengan input k dan satu output. Ini menghitung fungsi dari , cukup mudah untuk melihat bahwa ini memiliki setidaknya kekuatan komputasi yang sama dengan A C 0 . Hanya untuk bersenang-senang, kita akan memanggil sekumpulan fungsi yang dapat...
Latar Belakang: Dalam pembelajaran mesin, kami sering bekerja dengan model grafis untuk mewakili fungsi kepadatan probabilitas dimensi tinggi. Jika kita membuang batasan yang mengintegrasikan kepadatan (jumlah) ke 1, kita mendapatkan fungsi energi terstruktur grafik yang tidak dinormalisasi...
Diketahui bahwa untuk pembelajaran PAC, ada kelas konsep alami (misalnya himpunan bagian dari daftar keputusan) yang terdapat kesenjangan polinomial antara kompleksitas sampel yang diperlukan untuk pembelajaran teori informasi oleh pelajar yang tidak terikat secara komputasi, dan kompleksitas...
Lemma Johnson-Lindenstrauss memungkinkan seseorang untuk mewakili titik-titik dalam ruang dimensi tinggi menjadi titik-titik dalam dimensi lebih rendah. Ketika menemukan ruang dimensi rendah yang paling cocok, teknik standar adalah menemukan dekomposisi nilai singular dan kemudian mengambil...
Saya memiliki dataset ribuan titik dan alat untuk mengukur jarak antara dua titik, tetapi titik data tidak memiliki dimensi. saya ingin algoritma untuk menemukan pusat cluster di dataset ini. Saya membayangkan bahwa karena data tidak memiliki dimensi, pusat cluster mungkin terdiri dari beberapa...
Biarkan menjadi distribusi lebih dari bitstring / pasangan label dan biarkan menjadi kumpulan fungsi bernilai boolean . Untuk setiap fungsi , misalkan: dan biarkan: OPT (C, D) = \ min_ {f \ dalam C} \ err (f, D) Katakan bahwa suatu algoritma A secara agnostik mempelajari C atas distribusi apa...
Dana Angluin ( 1987 ; pdf ) mendefinisikan model pembelajaran dengan pertanyaan keanggotaan dan pertanyaan teori (berlawanan dengan contoh fungsi yang diusulkan). Dia menunjukkan bahwa bahasa reguler yang diwakili oleh DFA minimal negara dapat dipelajari dalam waktu polinomial (di mana fungsi yang...
Saya kenal dengan algoritma gradient descent yang dapat menemukan minimum lokal (maksimum) dari fungsi yang diberikan. Apakah ada modifikasi keturunan gradien yang memungkinkan untuk menemukan minimum absolut (maksimum), di mana fungsinya memiliki beberapa ekstrema lokal? Adakah teknik umum,...
Beberapa latar belakang: Saya tertarik untuk menemukan batas bawah (atau hasil kekerasan) "kurang dikenal" untuk masalah Belajar dengan Kesalahan (LWE), dan generalisasi seperti Belajar dengan Kesalahan atas Cincin. Untuk definisi spesifik, dll., Ini adalah survei yang bagus oleh Regev:...
Sudah diketahui umum bahwa untuk kelas konsep dengan VC dimensi , cukup untuk mendapatkan O \ kiri (\ frac {d} {\ varepsilon} \ log \ frac {1} {\ varepsilon} \ kanan) contoh berlabel untuk PAC learn \ mathcal {C} . Tidak jelas bagi saya apakah algoritma pembelajaran PAC (yang menggunakan banyak...
Pada cs.stackexchange saya bertanya tentang perpustakaan scala algebird di github, berspekulasi tentang mengapa mereka mungkin membutuhkan paket aljabar abstrak. Halaman github memiliki beberapa petunjuk: Implementasi Monoids untuk algoritme aproksimasi yang menarik, seperti filter Bloom,...
Inilah masalah dengan cita rasa yang mirip dengan belajar junta: Input: Fungsi f:{0,1}n→{−1,1}f:{0,1}n→{−1,1}f: \{0,1\}^n \rightarrow \{-1,1\} , diwakili oleh oracle keanggotaan, yaitu oracle yang diberikan xxx , mengembalikan f(x)f(x)f(x) . Sasaran: Temukan subkelompok SSS dari...
Sudah terkenal bahwa untuk pembelajaran PAC klasik, diperlukan untuk mencapai batas kesalahan ε whp, di mana d adalah dimensi VC dari kelas konsep.Ω(d/ε)Ω(d/ε)\Omega(d/\varepsilon)εε\varepsilonddd Apakah diketahui bahwa diperlukan dalam kasus
Secara khusus, saya meminta sumber daya untuk mempelajari tentang sistem pembelajaran mesin yang dapat memperbarui jaringan kepercayaan masing-masing (atau yang setara) selama operasi. Saya bahkan telah menemukan beberapa, meskipun saya gagal untuk membookmark mereka. Seperti yang Anda bayangkan,...
Klasifikasi pembelajaran mesin apa yang paling bisa diparalelkan? Jika Anda memiliki masalah klasifikasi yang sulit, waktu yang terbatas, tetapi LAN komputer yang layak untuk digunakan, klasifikasi apa yang akan Anda coba? Secara tidak langsung kelihatannya bagi saya seperti beberapa...
Saya cukup akrab dengan teori di balik VC-Dimension, tetapi saya sekarang sedang melihat kemajuan (10 tahun terakhir) dalam teori pembelajaran statistik: rata-rata (lokal) Rademacher rata-rata, Massma's Finite Class Lemma Class, Numbering Covering, Chaining, Dudley's Teorema, Pseudodimension,...
Baru-baru ini saya telah membaca sejumlah makalah CoLT yang layak. Meskipun saya tidak bergumul dengan makalah individual (setidaknya tidak lebih dari biasanya saya bergumul dengan makalah teori lainnya), saya tidak merasa memiliki pemahaman yang luas tentang bidang ini secara keseluruhan. Apakah...
Background––––––––––––––Background_\underline{\bf Background} Pada tahun 2005, Regev [1] memperkenalkan masalah Learning with Errors (LWE), generalisasi dari Learning Parity with Error error. Asumsi kekerasan masalah ini untuk pilihan parameter tertentu sekarang mendasari bukti keamanan untuk...
Saya mencari dimensi VC dari sistem set berikut. Universe sedemikian rupa sehingga U ⊆ R 3 . Dalam sistem himpunan R, setiap himpunan S ∈ R berkorespondensi dengan sphere dalam R 3 sehingga himpunan S mengandung elemen dalam U jika dan hanya jika sphere yang sesuai berisinya dalam R 3 .U= { p1,...
Secara khusus saya maksudkan keluarga bahasa yang menerima string panjang yang sewenang-wenang - bukan konjungsi atas n bit atau daftar keputusan atau bahasa "sederhana" lainnya yang terkandung dalam {0,1} ^ n. Saya bertanya tentang bahasa reguler "automata-theoretic" sebagai lawan dari bahasa...