Definisi model pembelajaran PAC

8

Model pembelajaran yang mungkin kira-kira benar (PAC) didefinisikan sebagai:

Konsep kelas dikatakan PAC-dapat dipelajari jika ada algoritma dan fungsi polinomial sedemikian rupa sehingga untuk setiap dan δ> 0 , untuk semua distribusi D pada X dan untuk setiap konsep target c∈C , berikut ini berlaku untuk ukuran sampel m≥poly (1 / ε, 1 / δ, n, size (c)) :CSEBUAHhalHaily(·,·,·,·)ε>0δ>0DXcCmhalHaily(1/ε,1/δ,n,ssayaze(c))

Pr[R(hs)ε]1-δ

di mana adalah kesalahan generalisasi atas sampel ukuran berisi contoh variabel berikut distribusi dan adalah biaya maksimal dari representasi komputasi dari .R(hs)SmXDssayaze(c)cC

Saya tahu adalah polinomial. Tapi apa bentuk eksplisit dari ? Apa variabelnya? Apa tingkatannya?halHaily(1/ε,1/δ,n,ssayaze(c))halHaily(1/ε,1/δ,n,ssayaze(c))

Asterion
sumber

Jawaban:

6

Tidak ada batasan pada selain itu sebagai polinomial, atau lebih umum, fungsi yang dibatasi secara polinomi (yaitu, fungsi yang dibatasi oleh polinomial); perbedaannya tidak masalah dalam hal ini. Tanpa kehilangan umum, Anda dapat mengasumsikan bahwa untuk beberapa , .halHaily(,,,)SEBUAH,B>0halHaily(x,y,z,w)=SEBUAH(xyzw)B

Definisi tersebut mencoba memodelkan situasi yang hanya membutuhkan sedikit sampel untuk mempelajari konsep tersebut. Untuk menghitung "kecil", pertama-tama kita perlu memutuskan sehubungan dengan jumlah yang akan menjadi kecil (dalam hal ini, ), dan kedua, seberapa kecil adalah " kecil". Dalam hal ini, kita mendefinisikan "kecil" sebagai fungsi yang tumbuh paling banyak secara polinomi dalam . Dalam kasus lain, kami memiliki persyaratan yang lebih ketat, misalnya kami ingin "kecil" menjadi polinomial di .ϵ,δ,n,size(c)1/ϵ,1/δ,n,size(c)log1ϵ,log1δ,n,size(c)

Definisi standar dalam teori kompleksitas adalah definisi waktu polinomial. Kami mengatakan bahwa algoritma untuk menyelesaikan beberapa masalah adalah efisien jika pada input ukuran itu berjalan dalam polinomial waktu dalam , yaitu, waktu berjalannya dibatasi oleh beberapa polinomial dalam . Dalam terminologi Anda, kami dapat menyatakan ini sebagai untuk beberapa polinomial . Seperti sebelumnya, jika untuk beberapa polinomial , maka sebenarnya untuk beberapa , dan tanpa kehilangan generalitas kami dapat mengasumsikan bahwannT(n)nT(n)poly(n)nT(n)halHaily(n)halHaily()T(n)SEBUAHnBSEBUAH,B>0halHaily(n)=SEBUAHnB. Tapi kita tidak ingin memutuskan terlebih dahulu pada nilai-nilai . Kami senang selama beberapa nilai kerja.SEBUAH,BSEBUAH,B

Kasing Anda mirip, hanya polinomial yang memungkinkan untuk bergantung pada beberapa kuantitas daripada hanya satu kuantitas.

Yuval Filmus
sumber