Apa yang dimaksud Turing ketika mengatakan bahwa "mesin tidak dapat menimbulkan kejutan" adalah karena kekeliruan?

29

Saya menemukan pernyataan di bawah ini oleh Alan M. Turing di sini :

"Pandangan bahwa mesin tidak dapat menimbulkan kejutan adalah karena, saya percaya, pada kekeliruan yang menjadi fokus para filsuf dan matematikawan. Ini adalah asumsi bahwa segera setelah sebuah fakta disajikan di benak semua konsekuensi dari fakta tersebut muncul pikiran bersamaan dengan itu. Ini adalah asumsi yang sangat berguna dalam banyak keadaan, tetapi orang terlalu mudah lupa bahwa itu salah. "

Saya bukan penutur bahasa Inggris asli. Adakah yang bisa menjelaskannya dalam bahasa Inggris?

turing-machines computability computation-models smwikipedia
sumber
2
mungkin, ini lebih cocok untuk portal filsafat daripada ilmu sains seperti CS
Bulat
3
@Bulat Saya akan mengatakan hal yang sama - dan mengarahkan kembali ke Pembelajar Bahasa Inggris - tetapi kemudian saya menyadari bahwa ada beberapa konten yang berhubungan dengan CS yang dapat dijelaskan dalam jawaban, yang mungkin tidak akan diambil pada, di bagian lain dari Stack Exchange.
David Richerby
7
Contoh yang baik adalah iterasi transformasi z: = z² + c , di mana z dan c adalah bilangan kompleks. Apa yang terjadi jika saya mengambil titik awal pada bidang z dan beralih, apakah jumlahnya akan menjadi tak terbatas atau tidak? Orang biasa akan berkata, ya, ini akan memberi Anda dua wilayah atau mungkin beberapa lagi di mana nilainya menjadi nol dan sisanya akan menjadi tak terbatas. Relatif tidak mengejutkan. Kemudian Mandelbrot datang dan benar-benar memplot area di pesawat yang ditentukan oleh "mesin" sederhana ini. Sebagai hasilnya keluar dari printer dotmatrix, "mesin" sederhana ini membuktikan dirinya ... aneh.
David Tonhofer
Facebook dan media sosial lainnya adalah contoh yang bagus untuk ini ... Banyak konsekuensi dari algoritme mereka bukanlah sesuatu yang diharapkan oleh pembuatnya (atau siapa pun juga).
aslum
Seorang individu yang agak aneh pernah menyebut ini menggunakan metafora api: "Semakin besar Anda membangun api unggun pengetahuan Anda, semakin banyak kegelapan terungkap ke mata Anda yang terkejut"
JacobIRR

Jawaban:

30

Matematikawan dan filsuf sering berasumsi bahwa mesin (dan di sini, ia mungkin berarti "komputer") tidak dapat mengejutkan kita. Ini karena mereka berasumsi bahwa begitu kita mempelajari suatu fakta, kita segera memahami setiap konsekuensi dari fakta ini. Ini sering merupakan asumsi yang berguna, tetapi mudah untuk melupakan bahwa itu salah.

Dia mengatakan bahwa sistem dengan deskripsi yang sederhana dan terbatas (misalnya, mesin Turing) dapat menunjukkan perilaku yang sangat rumit dan ini mengejutkan sebagian orang. Kita dapat dengan mudah memahami konsep mesin Turing tetapi kemudian kita menyadari bahwa mereka memiliki konsekuensi yang rumit, seperti ketidakpastian masalah penghentian dan sebagainya. Istilah teknis di sini adalah bahwa "pengetahuan tidak ditutup berdasarkan deduksi". Artinya, kita bisa tahu beberapa fakta  , tapi tidak tahu  , meskipun menyiratkan  .ABAB

Jujur, saya tidak yakin argumen Turing sangat bagus. Mungkin saya mendapat manfaat menulis hampir 70 tahun setelah Turing, dan pemahaman saya adalah bahwa ahli matematika tipikal tahu lebih banyak tentang logika matematika daripada yang mereka lakukan pada zaman Turing. Tetapi bagi saya, para ahli matematika sebagian besar cukup akrab dengan gagasan sistem sederhana yang memiliki perilaku kompleks. Misalnya, setiap ahli matematika tahu definisi suatu kelompok , yang hanya terdiri dari empat aksioma sederhana. Tetapi tidak seorang pun - hari ini atau kemudian - akan berpikir, "Aha. Saya tahu empat aksioma, oleh karena itu saya tahu setiap fakta tentang kelompok." Demikian pula, aksioma Peano memberikan deskripsi yang sangat singkat tentang bilangan asli tetapi tidak seorang pun yang membacanya berpikir, "Benar, saya tahu setiap teorema tentang bilangan asli, sekarang. Mari

David Richerby
sumber
22
Secara historis, awal abad ke-20 memiliki keyakinan akademis yang kuat dalam "memecahkan" matematika. Misalnya, program Hilbert, dan Whitehead + Russel's Principia Mathematica . Pekerjaan Godel menyelesaikan pencarian itu secara negatif, tetapi saya membayangkan butuh beberapa waktu bagi akademisi untuk sepenuhnya merangkul gagasan ini; bahkan sepenuhnya mengakui kebenaran Godel, orang masih akan mengingat ide-ide besar Hilbert. Saya pikir Turing menulis hanya dua dekade setelah Godel akan berbicara kepada audiensnya dengan konteks ini dalam pikiran.
BurnsBA
7
Saya akan mempertanyakan apakah sebagian besar ahli matematika tahu "lebih banyak tentang logika matematika" daripada Turing. Tetapi jelas bahwa hampir semua manusia kontemporer memiliki pengalaman yang jauh lebih praktis tentang apa yang dapat dilakukan mesin (dan khususnya komputer) daripada yang dilakukannya.
alephzero
4
@ alephzero Bukan itu yang saya katakan! Saya mengatakan bahwa rata-rata ahli matematika hari ini lebih tahu tentang logika matematika daripada rata-rata ahli matematika selama masa Turing.
David Richerby
14
Argumen Anda tampaknya bukan argumen Turing yang tidak baik, tetapi bahwa argumen itu tidak perlu atau diarahkan pada seorang stroberi. Saya sangat curiga Turing memiliki orang-orang nyata membuat argumen seperti ini kepadanya, jadi saya tidak berpikir dia membuat stroberi dari ketiadaan. Seperti yang dikatakan kadal Diskrit dalam komentar, Turing hanya mengatakan bahwa argumen tertentu terhadap mesin yang mengejutkan kita itu buruk. Jawaban Anda hanya mengatakan bahwa argumen ini buruk telah menjadi semakin jelas dari waktu ke waktu. Yang mengatakan, orang (meskipun biasanya bukan ahli) masih membuat argumen dalam nada ini hari ini.
Derek Elkins
Ini adalah tidak adanya penutupan epistemik.
Dan D.
19

Sebagai contoh - diberikan aturan catur, siapa pun harus segera mencari strategi terbaik untuk bermain catur.

Tentu saja itu tidak berhasil. Bahkan orang tidak sama, dan komputer mungkin mengungguli kita karena kemampuan mereka yang lebih baik untuk membuat kesimpulan dari fakta.

Bulat
sumber
1
Tidak yakin itu contoh yang bagus. Orang - orang siap dengan strategi catur, segera setelah mereka benar memahami aturan, dan meskipun strategi ini jelas cacat dan tidak berguna terhadap pemain yang lebih berpengalaman dan mesin modern, mereka akan cukup baik terhadap mesin catur komputer awal.
leftaroundabout
1
Maksud saya persis bahwa tidak hanya orang berbeda, tetapi komputer juga berbeda, jadi komputer bodoh di era Turing tidak berarti bahwa mereka akan selalu bodoh. Anda mungkin perlu tahu, bahwa Turing meninggal jauh sebelum komputer mulai bermain catur.
Bulat
1
Saya pikir ini adalah contoh yang baik, dan menangkap esensi paragraf Turing.
copper.hat
@leftaroundabout Jadi ..., apakah catur seri ketika dimainkan secara optimal atau menang dengan putih, atau dengan hitam? Lebih penting lagi: Penemuan yang relatif baru bahwa endgame yang sangat panjang mungkin mengarah pada revisi aturan 50 langkah - penemuan semacam itu akan dianggap sebagai "kejutan" dalam arti kutipan
Hagen von Eitzen
12

Ini adalah ide munculnya , yaitu ketika perilaku kompleks dihasilkan dari interaksi aturan yang relatif sederhana. Ada banyak contoh ini di alam, seperti yang ditunjukkan oleh tautan itu. Koloni serangga, kawanan burung, sekolah ikan, dan tentu saja, kesadaran. Dalam sekawanan burung atau sekawanan ikan, setiap individu di gerombolan hanya membuat keputusan berdasarkan yang lain di sekitarnya, tetapi ketika Anda menempatkan sekelompok individu tersebut bersama-sama mengikuti semua aturan itu, Anda mulai melihat perilaku yang lebih terkoordinasi daripada Anda harapkan tanpa rencana tingkat yang lebih tinggi. Jika Anda pergi di Youtube dan menonton demonstrasi kawanan robot, Anda melihat bahwa mereka semua menghindari saling memukul dan bekerja serempak. Anehnya ini tidak perlu dicapai dengan memiliki satu komputer pusat yang mengkoordinasikan perilaku masing-masing robot, tetapi sebaliknya dapat dilakukan dengan menggunakan robot segerombolan di mana, seperti serangga atau burung atau ikan, masing-masing robot membuat keputusan lokal yang mengarah untuk koordinasi yang muncul.

Peragaan menarik lainnya dari perilaku yang muncul adalah Permainan Kehidupan Conway . Aturan untuk gim ini sangat sederhana, tetapi dapat memberikan hasil yang sangat menarik

Argumen yang menggoda terhadap kemampuan komputer untuk mendapatkan kecerdasan manusia adalah untuk mengatakan bahwa karena mereka hanya dapat melakukan dengan tepat apa yang diprogram untuk dilakukan, mereka hanya harus menunjukkan kecerdasan yang kami programkan bersama mereka. Jika ini benar, maka kita juga tidak akan mengharapkan perilaku neuron yang relatif sederhana untuk meningkatkan kecerdasan manusia. Namun sejauh yang dapat kita katakan, ini adalah kasus dan kesadaran adalah sifat muncul dari pemrosesan saraf. Saya yakin Turing akan senang melihat apa yang menjadi mungkin hari ini dengan menggunakan jaringan saraf tiruan

mowwwalker
sumber
2
Terima kasih telah menyebutkan kemunculannya. Anda menambahkan beberapa optimisme pada pesimisme saya tentang AI melalui perhitungan .
smwikipedia
9

Orang-orang mungkin berasumsi bahwa jika saya menulis sebuah program, dan saya memahami algoritme sepenuhnya, dan tidak ada bug, maka saya harus tahu seperti apa output dari program itu, dan itu seharusnya tidak mengejutkan saya.

Turing berkata (dan saya setuju) bahwa ini bukan masalahnya: Hasilnya bisa mengejutkan. Solusi untuk masalah salesman keliling bisa mengejutkan. Cara terbaik untuk membangun penambah penuh bisa mengejutkan. Langkah terbaik dalam permainan catur bisa mengejutkan.

gnasher729
sumber
Ini menjelaskan mengapa komputer bisa mengejutkan yang merupakan bagian pertama dari kutipan, tetapi Anda tidak membahas bagian dari kutipan yang menjelaskan mengapa argumen tertentu yang tidak dapat mengejutkan mesin adalah salah.
Kadal diskrit