Ketelitian mengarah pada wawasan

41

Di MathOverflow, Timothy Gowers mengajukan pertanyaan berjudul " Mendemonstrasikan kekakuan itu penting ". Sebagian besar diskusi di sana tentang kasus-kasus yang menunjukkan pentingnya pembuktian, yang mungkin tidak perlu diyakinkan oleh orang-orang di CSTheory. Dalam pengalaman saya bukti perlu lebih ketat dalam ilmu komputer teoretis daripada di banyak bagian matematika kontinu, karena intuisi kita sering ternyata salah untuk struktur diskrit, dan karena dorongan untuk membuat implementasi mendorong argumen yang lebih rinci. Seorang ahli matematika mungkin puas dengan bukti keberadaan, tetapi seorang ilmuwan komputer teoretis biasanya akan mencoba menemukan bukti konstruktif. The Lovász Local Lemma adalah contoh yang bagus [1].

Karena itu saya ingin tahu

Adakah contoh spesifik dalam ilmu komputer teoretis di mana bukti yang kuat dari pernyataan yang dipercayai benar telah menyebabkan wawasan baru tentang sifat dari masalah yang mendasarinya?

Contoh terbaru yang tidak langsung dari algoritma dan teori kompleksitas adalah sintesis bukti-teoretis , turunan otomatis dari algoritma yang benar dan efisien dari pra dan pasca kondisi [2].


Edit:Jenis jawaban yang saya pikirkan adalah seperti yang ditulis oleh Scott dan Matus. Seperti yang disarankan Kaveh, ini adalah triple dari sesuatu yang orang ingin buktikan (tetapi yang tidak selalu tidak terduga oleh "fisika", "handwaving", atau "intuitif" argumen), bukti, dan konsekuensi untuk "masalah mendasar" yang mengikuti dari bukti yang tidak diantisipasi (mungkin membuat bukti diperlukan ide-ide baru yang tidak terduga, atau secara alami mengarah ke suatu algoritma, atau mengubah cara kita berpikir tentang area). Teknik yang dikembangkan saat mengembangkan bukti adalah blok bangunan ilmu komputer teoretis, sehingga untuk mempertahankan nilai pertanyaan yang agak subyektif ini, ada baiknya berfokus pada pengalaman pribadi, seperti yang diberikan oleh Scott, atau argumen yang didukung oleh referensi, seperti yang dilakukan matus. Apalagi saya Saya berusaha menghindari pertengkaran tentang apakah sesuatu memenuhi syarat atau tidak; Sayangnya, sifat pertanyaannya pada hakekatnya bisa problematis.

Kami sudah memiliki pertanyaan tentang hasil "mengejutkan" dalam kompleksitas: Hasil Mengejutkan dalam Kompleksitas (Bukan pada Daftar Blog Kompleksitas) jadi idealnya saya mencari jawaban yang berfokus pada nilai bukti yang kuat , belum tentu ukuran terobosan.

András Salamon
sumber
2
Tidakkah kita melihat / melakukan ini setiap hari?
Dave Clarke
Apa sebenarnya yang dimaksud dengan "masalah mendasar"? Apakah Anda bermaksud menyarankan hanya masalah di mana ada masalah yang lebih dalam daripada pernyataan tertentu? Saya telah memikirkan masalah apa pun yang melibatkan bukti konstruktif dari keberadaan suatu algoritma (misalnya, tes primality AKS untuk menetapkan bahwa PRIMES ada di P) akan mengarah pada "wawasan baru" melalui bukti yang kuat, tetapi jika Anda hanya berbicara tentang pernyataan yang lebih kecil dalam masalah, itu tidak masuk akal.
Philip White
Hanya untuk memastikan saya memahami pertanyaan Anda, apakah Anda meminta tiga (pernyataan S, bukti P, wawasan I), di mana pernyataan S diketahui / diyakini benar, tetapi kami memperoleh wawasan baru (saya) ketika seseorang datang dengan bukti P baru untuk S?
Kaveh
[lanjutan] Misalnya dalam kasus LLL, kami memiliki bukti tidak konstruktif untuk LLL (S), tetapi bukti konstruktif baru arXive (P) memberi kami wawasan baru (I).
Kaveh
Hmm ... Bagaimana dengan memulai dengan algoritma spesifik dan kemudian menggunakannya sebagai titik data untuk digeneralisasi? Seperti, orang merancang beberapa algoritma serakah, dan akhirnya bidang mengembangkan gagasan tentang masalah dengan substruktur yang optimal.
Aaron Sterling

Jawaban:

34

András, seperti yang mungkin Anda ketahui, ada begitu banyak contoh tentang apa yang Anda bicarakan sehingga hampir mustahil untuk mengetahui dari mana harus memulai! Namun, saya pikir pertanyaan ini sebenarnya bisa menjadi pertanyaan yang bagus, jika orang memberikan contoh dari pengalaman mereka sendiri di mana bukti dugaan yang diyakini secara luas dalam subarea mereka menghasilkan wawasan baru.

Ketika saya masih mahasiswa, masalah TCS nyata pertama yang saya tangani adalah ini: apa algoritma kuantum tercepat untuk mengevaluasi OR pada AND dari variabel Boolean masing-masing? Sangat jelas bagi saya dan semua orang yang saya ajak bicara bahwa yang terbaik yang dapat Anda lakukan adalah menerapkan algoritma Grover secara rekursif, baik ke OR maupun ke AND. Ini memberi batas atas O (logn log (n)). (Sebenarnya Anda dapat mengurangi faktor log, tapi mari kita abaikan itu untuk saat ini.)

Namun, untuk frustrasi yang luar biasa, saya tidak dapat membuktikan batas bawah yang lebih baik daripada yang sepele vi (n 1/4 ). "Going physicist" dan "handwaving the answer" tidak pernah tampak lebih menarik! :-D

Tetapi kemudian, beberapa bulan kemudian, Andris Ambainis keluar dengan metode musuh kuantumnya , yang aplikasi utamanya pada awalnya adalah Ω (√n) batas bawah untuk OR-of-ANDs. Untuk membuktikan hasil ini, Andris membayangkan memberi makan suatu algoritma kuantum suatu superposisi dari input yang berbeda; ia kemudian mempelajari bagaimana keterikatan antara input dan algoritma meningkat dengan setiap query yang dibuat algoritma. Dia menunjukkan bagaimana pendekatan ini memungkinkan Anda kompleksitas permintaan kuantum yang lebih rendah bahkan untuk "berantakan," masalah non-simetris, dengan hanya menggunakan sifat-sifat kombinatorial yang sangat umum dari fungsi f yang berusaha dihitung oleh algoritma kuantum.

Jauh dari sekadar mengkonfirmasi bahwa kompleksitas kueri kuantum dari satu masalah yang menjengkelkan adalah apa yang diharapkan semua orang, teknik-teknik ini ternyata mewakili salah satu kemajuan terbesar dalam teori komputasi kuantum sejak algoritma Shor dan Grover. Mereka sejak itu telah digunakan untuk membuktikan lusinan batas bawah kuantum lainnya, dan bahkan digunakan untuk mendapatkan batas bawah klasik baru .

Tentu saja, ini "hanyalah hari lain di dunia matematika dan TCS yang indah." Bahkan jika setiap orang "sudah tahu" X itu benar, membuktikan X sangat sering membutuhkan teknik-teknik baru yang kemudian diterapkan jauh di luar X, dan khususnya untuk masalah-masalah di mana jawaban yang tepat adalah apriori yang jelas .

Scott Aaronson
sumber
27

Pengulangan paralel adalah contoh yang bagus dari daerah saya:

Lxq1q2a1a2a1a2q1,q2xLxLs

s1s=1015kq1(1),,q1(k)q2(1),,q2(k)a1(1),,a1(k)a1(1),,a1(k)k

skksΩ(k/log|Σ|)Σ

Σk

Kemudian, ada ekstensi yang menjadi mungkin: Anup Rao mampu mengadaptasi analisis untuk menunjukkan bahwa ketika sistem bukti asli adalah {\ em game proyeksi}, yaitu, jawaban dari prover pertama menentukan paling banyak satu jawaban yang dapat diterima dari pepatah kedua, tidak ada ketergantungan pada alfabet sama sekali, dan konstanta dalam eksponen dapat ditingkatkan. Ini penting karena sebagian besar kekerasan hasil perkiraan didasarkan pada game proyeksi, dan game unik adalah kasus khusus dari game proyeksi. Ada juga peningkatan kuantitatif dalam game pada ekspander (oleh Ricky Rosen dan Ran Raz), dan banyak lagi.

Lalu, ada konsekuensi jangka panjang. Hanya beberapa contoh: Sebuah lemma teoritik informasi dari makalah Raz digunakan dalam banyak konteks lain (dalam kriptografi, dalam ekuivalensi pengambilan sampel dan pencarian, dll). Teknik "sampling berkorelasi" yang digunakan Holenstein diterapkan dalam banyak karya lain (dalam kompleksitas komunikasi, dalam PCP, dll).

Dana Moshkovitz
sumber
3
Ini adalah contoh yang bagus!
Suresh Venkat
20

Contoh bagus lainnya dari kekakuan (dan teknik baru) yang diperlukan untuk membuktikan pernyataan yang diyakini benar: analisis yang lebih lancar. Dua kasus di titik:

  • Algoritma simpleks
  • Algoritma k-means

kO(nckd)n

Suresh Venkat
sumber
13

Saya pikir contoh berikut menelurkan banyak penelitian yang memiliki hasil seperti yang Anda cari, setidaknya jika saya mengikuti semangat contoh LLL Anda.

Robert E. Schapire. Kekuatan kemampuan belajar yang lemah. Pembelajaran Mesin, 5 (2): 197-227, 1990.

ϵ>0,δ>01δϵϵδδδγ

Bagaimanapun, banyak hal menjadi sangat menarik setelah karya Schapire. Solusinya menghasilkan mayoritas-mayoritas di atas hipotesis di kelas asli. Lalu datang:

Yoav Freund. Meningkatkan algoritma pembelajaran yang lemah oleh mayoritas. Informasi dan Komputasi, 121 (2): 256--285, 1995.

Makalah ini memiliki 'teguran' dari hasil Schapire, tetapi sekarang hipotesis yang dibangun hanya menggunakan mayoritas tunggal. Sejalan dengan ini, keduanya kemudian menghasilkan teguran lain, yang disebut AdaBoost:

Yoav Freund dan Robert E. Schapire. Generalisasi teoritik keputusan tentang pembelajaran online dan aplikasi untuk meningkatkan. Jurnal Ilmu Komputer dan Sistem, 55 (1): 119-139, 1997.

Pertanyaan pembelajaran yang lemah / kuat dimulai sebagai perhatian teoretis, tetapi urutan 'teguran' ini menghasilkan algoritma yang indah, salah satu hasil paling berpengaruh dalam pembelajaran mesin. Saya bisa menggunakan segala macam garis singgung di sini tetapi akan menahan diri. Dalam konteks TCS, hasil ini menarik banyak kehidupan dalam konteks (1) algoritma bobot multiplikatif dan (2) hasil set hard-core. Tentang (1), saya hanya ingin mengklarifikasi bahwa AdaBoost dapat dilihat sebagai contoh dari bobot multiplikasi / menampi hasil kerja Warmuth / Littlestone (Freund adalah seorang siswa Warmuth), tetapi ada banyak wawasan baru dalam meningkatkan hasil. Tentang (2), saya

Untuk akurasi sejarah, saya juga harus mengatakan bahwa tanggal pada kutipan saya mungkin tidak seperti yang diharapkan beberapa orang, karena untuk beberapa di antaranya ada versi konferensi sebelumnya.

Kembali ke sifat pertanyaan Anda. Nilai kunci dari 'rigor' di sini adalah dalam menyediakan kelas hipotesis yang dapat dipelajari (mayoritas tertimbang di atas kelas hipotesis asli) dan algoritma yang efisien untuk menemukannya.

matus
sumber
12

Contoh ini sesuai dengan jawaban Dana dan Scott.

ndd2n1d2n1/(d1)2n1/(d1)1n1/(d1)d12n1/(d1)2n1/(d1)d2O(n1/(d1))

dAC0

Ryan Williams
sumber
11

Rasborov dan Rudich paper "Natural Bukti" menawarkan bukti ketat (formalisasi) pernyataan sangat jelas "Ini benar-benar sulit untuk membuktikan bahwa P ≠ NP."

Jeffε
sumber
2
"Sangat sulit untuk membuktikan bahwa P ≠ NP" tidak setara dengan "bukti alami yang kemungkinan besar tidak akan membuktikan P ≠ NP". Ada hambatan lain seperti Relativization dan Algebrization. Sebenarnya, mungkin ada lebih banyak lagi hambatan.
Mohammad Al-Turkistany
7
Relativization hanya "Sulit untuk membuktikan P ≠ NP." Algebraization datang kemudian, tapi itu adalah formalisasi "Ini benar-benar benar-benar sulit untuk membuktikan P ≠ NP." (Ha ha hanya serius.)
Jeffε
6

Gagasan bahwa beberapa masalah algoritmik membutuhkan sejumlah langkah eksponensial, atau pencarian yang teliti atas semua kemungkinan, dimunculkan sejak tahun 50-an dan mungkin sebelumnya. (Tentu saja, gagasan naif yang saling bersaing bahwa komputer dapat melakukan segalanya juga merupakan hal biasa.) Terobosan utama Cook dan Levin adalah menempatkan gagasan ini di atas dasar yang keras. Ini, tentu saja, mengubah segalanya.

Pembaruan: Saya baru menyadari bahwa jawaban saya seperti jawaban yang baik dari bahasa Turkis mengalamatkan judul pertanyaan "keras menuju wawasan" tetapi mungkin bukan kata-kata spesifik yang tentang "bukti kuat untuk sebuah teorema".

Gil Kalai
sumber
0

Alan Turing memformalkan gagasan algoritma (komputasi efektif) menggunakan mesin Turing. Dia menggunakan formalisme baru ini untuk membuktikan bahwa masalah Henti tidak dapat diputuskan (yaitu masalah Henti tidak dapat diselesaikan dengan algoritma apa pun). Ini mengarah pada program penelitian panjang yang membuktikan ketidakmungkinan masalah Hilbert ke-10. Matiyasevich pada tahun 1970 membuktikan bahwa tidak ada algoritma yang dapat memutuskan apakah persamaan Diophantine integer memiliki solusi integer.

Mohammad Al-Turkistany
sumber
1
@ Kaveh, Apa itu MRDP?
Mohammad Al-Turkistany
1
Ada set enumerable (RE) rekursif yang tidak dapat dihitung (seperti masalah Putting). Matiyasevich membuktikan bahwa setiap himpunan enumerable rekursif adalah Diophantine. Ini segera menyiratkan ketidakmungkinan masalah 10 Hilbert.
Mohammad Al-Turkistany
1
@ Kaveh, Mengapa Anda tidak mendapatkan jawaban pertama untuk tes "keras" Anda? Sejauh yang saya tahu, bukti alami bukan satu-satunya penghalang yang mencegah kita membuktikan P vs NP.
Mohammad Al-Turkistany
1
PNPPNP
Saya pikir ini jawaban yang bagus.
Gil Kalai