Batas bawah untuk belajar dalam kueri keanggotaan dan model sampel balik

11

Dana Angluin ( 1987 ; pdf ) mendefinisikan model pembelajaran dengan pertanyaan keanggotaan dan pertanyaan teori (berlawanan dengan contoh fungsi yang diusulkan). Dia menunjukkan bahwa bahasa reguler yang diwakili oleh DFA minimal negara dapat dipelajari dalam waktu polinomial (di mana fungsi yang diusulkan adalah DFA) dengan keanggotaan-kueri dan paling banyak teori-kueri ( adalah ukuran contoh tandingan terbesar yang disediakan oleh tutor). Sayangnya, dia tidak membahas batas bawah.nO(mn2)n1m

Kita dapat menggeneralisasi model sedikit dengan mengasumsikan guru les magis yang dapat memeriksa kesetaraan antara fungsi arbitrer dan memberikan contoh tandingan jika berbeda. Kemudian kita dapat bertanya seberapa sulit untuk belajar kelas yang lebih besar daripada bahasa biasa. Saya tertarik dengan generalisasi ini dan pembatasan asli untuk bahasa reguler.

Adakah batas bawah yang diketahui tentang jumlah kueri dalam model keanggotaan dan contoh-balik?

Saya tertarik pada batas bawah pada jumlah pertanyaan keanggotaan, pertanyaan teori, atau pertukaran antara keduanya. Saya tertarik pada batas bawah untuk setiap kelas fungsi, bahkan untuk kelas yang lebih rumit daripada bahasa biasa.

Jika tidak ada batas bawah: Apakah ada barier yang dikenal untuk membuktikan kueri batas bawah dalam model ini?


Pertanyaan-pertanyaan Terkait

Apakah ada peningkatan pada algoritma Dana Angluin untuk mempelajari set reguler

Artem Kaznatcheev
sumber

Jawaban:

11

Ya, beberapa batas bawah diketahui. Misalnya, dengan asumsi , Anda bahkan tidak bisa dengan benar belajar membaca-tiga kali rumus DNF dalam waktu polinomial. Ada keseluruhan makalah yang mengembangkan hasil kekerasan tersebut menggunakan sesuatu yang disebut "masalah representasi".NPcoNP

Untuk menjawab pertanyaan terkait-Anda: Schapire, dalam disertasinya , selain membuktikan bahwa "pembelajaran yang lemah" = "pembelajaran yang kuat," juga meningkatkan batasan Angluin dan memberikan algoritma yang menggunakan kueri ekuivalensi dan permintaan keanggotaan untuk mempelajari DFA.O ( n 2 + n log m )O(n)O(n2+nlogm)

Salah satu cara mudah untuk mendapatkan batas bawah adalah teori informasi. Anda dapat mengetahui berapa banyak target berbeda yang ada dan berapa banyak bit yang diberikan kueri, dll. Batas atas ini mendekati tetapi tidak ada. Ada juga masalah yang perlu dipikirkan tentang bagaimana "contoh tandingan" sampai pada pelajar. Contoh tandingan yang dipilih dengan baik dapat memberikan cukup banyak informasi.

Pembaruan untuk diskusi di atas : Angluin dan Dohrn membahas pembelajaran pertanyaan dengan contoh tandingan acak dalam makalah baru - baru ini .

Lev Reyzin
sumber
Terima kasih atas jawabannya! Apakah Anda keberatan jika saya memberikan jawaban Anda untuk pertanyaan terkait saya pada pertanyaan terkait (dengan tautan di sini)? Atau apakah Anda berencana untuk membuat akun CS.SE? Saya sangat setuju dengan paragraf 3, saya bermain-main dengan menuntut agar tutor memberikan contoh tandingan yang minimal dan belajar tampaknya menjadi lebih mudah.
Artem Kaznatcheev
Tidak masalah! Dan jangan ragu untuk memposting ke pertanyaan CS.SE yang ditautkan.
Lev Reyzin
Saya membaca bagian yang relevan dari tesis Schapire (bagian 5.4.5) dan merangkum perbaikannya , semoga saya mendapatkan intinya. Saya akan melihat lebih dekat pada kertas batas bawah yang Anda kutip di akhir minggu: D.
Artem Kaznatcheev
Keren. Saya akan mengangkatnya jika saya memiliki akun CS.SE :)
Lev Reyzin