Mengapa kita membutuhkan akal sehat dalam AI?

Mari kita perhatikan contoh ini:

Ini hari ulang tahun John, mari kita beli layang-layang.

Kita manusia kemungkinan besar akan mengatakan layang-layang adalah hadiah ulang tahun, jika ditanya mengapa itu dibeli; dan kami menyebut alasan ini sebagai akal sehat .

Mengapa kita membutuhkan ini pada agen yang secara artifisial cerdas? Saya pikir itu dapat menyebabkan sejumlah besar masalah, karena banyak kesalahan manusia kita disebabkan oleh asumsi yang tidak jelas ini.

Bayangkan seorang AI mengabaikan melakukan hal-hal tertentu karena menganggap itu telah dilakukan oleh orang lain (atau AI lain), menggunakan akal sehatnya.

Bukankah itu membawa kesalahan manusia ke dalam sistem AI?

Pengetahuan akal sehat adalah kumpulan premis yang semua orang, dalam konteks tertentu (karenanya pengetahuan akal sehat mungkin merupakan fungsi dari konteks), diterima begitu saja. Akan ada banyak miskomunikasi antara manusia dan AI jika AI tidak memiliki pengetahuan akal sehat. Oleh karena itu, pengetahuan akal sehat adalah dasar untuk interaksi manusia-AI .

Ada juga premis-premis yang diterima oleh setiap manusia tanpa tergantung pada negara, budaya atau, secara umum, konteks. Misalnya, setiap manusia (hampir sejak kelahirannya) memiliki mekanisme untuk berpikir tentang fisika naif, seperti ruang, waktu, dan interaksi fisik. Jika AI tidak memiliki pengetahuan ini, maka ia tidak dapat melakukan tugas yang membutuhkan pengetahuan ini.

Setiap tugas yang membutuhkan mesin untuk memiliki pengetahuan akal sehat (dari manusia rata - rata ) diyakini AI-lengkap , yaitu, membutuhkan kecerdasan tingkat manusia (atau umum). Lihat bagian 3 artikel Common Sense Knowledge (2009), oleh Christian Andrich, Leo Novosel dan Bojan Hrnkas.

Tentu saja, masalah yang muncul saat manusia berkomunikasi karena asumsi atau tempat yang berbeda mungkin juga muncul antara manusia dan AI (yang memiliki pengetahuan akal sehat).

Kita membutuhkan pengetahuan akal sehat semacam ini jika kita ingin komputer memahami bahasa manusia. Sangat mudah bagi sebuah program komputer untuk menganalisis struktur gramatikal dari contoh yang Anda berikan, tetapi untuk memahami maknanya kita perlu mengetahui konteks yang mungkin, yang Anda sebut sebagai "akal sehat" di sini.

Ini banyak ditekankan dalam Roger Schank et al. Pekerjaannya pada pemahaman komputer akan cerita, dan mengarah pada banyak penelitian tentang representasi pengetahuan, skrip, rencana, tujuan. Salah satu contoh dari karya Schank adalah Mary lapar. Dia mengambil Panduan Michelin. - ini sepertinya non-sequitur: jika Anda lapar, mengapa mengambil buku? Sampai Anda menyadari bahwa itu adalah panduan restoran, dan bahwa Mary mungkin berencana untuk pergi ke restoran untuk makan. Jika Anda tahu bahwa pergi ke restoran adalah solusi potensial untuk masalah kelaparan, maka Anda tidak memiliki masalah memahami fragmen cerita ini.

Setiap cerita membutuhkan akal sehat untuk dipahami, karena tidak ada cerita yang sepenuhnya eksplisit. Hal-hal umum "dipahami" dan tidak disebutkan secara eksplisit. Cerita-cerita berhubungan dengan pengalaman manusia, dan sebuah cerita yang akan membuat semuanya eksplisit mungkin akan dibaca seperti program komputer. Anda juga perlu akal sehat untuk memahami bagaimana karakter dalam cerita berperilaku, dan bagaimana mereka dipengaruhi oleh apa yang terjadi. Sekali lagi, ini sangat subjektif, tetapi itu perlu. Beberapa akal sehat secara umum dapat diterapkan, aspek lain tidak akan berlaku. Ini adalah masalah yang kompleks, itulah sebabnya para peneliti berjuang dengan itu selama setidaknya setengah abad penelitian AI.

Tentu saja ini akan memperkenalkan "kesalahan manusia" ke dalam sistem AI. Semua ini sangat subyektif dan spesifik budaya. Pergi ke restoran di AS berbeda dengan pergi ke restoran di Prancis - inilah mengapa pergi ke luar negeri bisa menjadi tantangan. Dan membaca cerita saya mungkin akan berbeda dari Anda. Tetapi jika Anda ingin mensimulasikan kecerdasan manusia, Anda tidak dapat melakukannya tanpa potensi "kesalahan" manusia.

Saya akan menjawab pertanyaan ini dalam beberapa bagian:

Mengapa sistem AGI perlu memiliki akal sehat?

Manusia di alam liar dan berkomunikasi menggunakan akal sehat lebih dari yang mereka lakukan dengan logika yang ketat, Anda dapat melihat ini dengan mencatat bahwa lebih mudah untuk menarik emosi seseorang daripada logika. Jadi setiap sistem yang berupaya mereplikasi kognisi manusia (seperti dalam AGI) juga harus meniru kecenderungan ini untuk menggunakan akal sehat.

Secara lebih sederhana, kami berharap bahwa sistem AGI kami dapat berbicara kepada kami dalam bahasa akal sehat hanya karena itulah yang paling kami pahami (kalau tidak, kami tidak akan mengerti AGI kami yang ramah kan?). Teori yang tidak masuk akal dan logika yang ketat mungkin secara teknis benar, tetapi tidak menarik bagi pemahaman kita.

Bukankah tujuan AGI adalah menciptakan sistem yang paling maju secara kognitif? Mengapa sistem AGI "paling sempurna" perlu menangani ketidaksempurnaan dan ketidaktepatan seperti itu masuk akal?

Pertama, itu mungkin hanya muncul sebagai kasus bahwa logika akal sehat adalah "irasional". Mungkin ada cara matematika yang konsisten untuk memodelkan akal sehat sedemikian rupa sehingga semua seluk-beluk akal sehat diwakili dalam cara yang keras.

Kedua, studi awal Intelegensi Buatan dimulai dalam studi ilmu kognitif, di mana para peneliti mencoba mereplikasi "algoritma pikiran", atau lebih tepatnya: prosedur yang dapat ditentukan yang mereplikasi pemikiran manusia. Sampai sejauh itu, studi AI bukan untuk menciptakan "agen kognitif paling tinggi" tetapi untuk hanya meniru pemikiran / perilaku manusia. Begitu kita bisa meniru perilaku manusia, kita mungkin bisa mencoba menciptakan sesuatu yang super-manusia dengan memberinya lebih banyak daya komputasi, tetapi itu tidak dijamin.

Saya masih tidak melihat mengapa akal sehat diperlukan dalam sistem AGI. Bukankah AGI tentang menjadi sistem komputasi yang paling cerdas dan kuat? Mengapa harus peduli atau menyesuaikan diri dengan batas-batas pemahaman manusia, yang membutuhkan akal sehat?

Mungkin kemudian Anda memiliki sedikit pemahaman yang tidak selaras tentang apa yang diperlukan AGI. AGI tidak berarti kekuatan komputasi yang tidak terikat (secara fisik tidak mungkin karena kendala fisik pada perhitungan seperti batas Bremermann ) atau kecerdasan tidak terikat (mungkin secara fisik tidak mungkin karena kendala sebelumnya). Biasanya hanya berarti "kecerdasan umum" buatan, makna umum luas dan umum.

Pertimbangan tentang agen tidak terikat dipelajari secara lebih rinci dalam bidang-bidang seperti ilmu komputer teoretis (teori tipe I percaya), teori keputusan, dan bahkan mungkin teori set, di mana kami dapat mengajukan pertanyaan tentang agen dengan kekuatan komputasi yang tidak terikat. Kita dapat mengatakan bahwa ada pertanyaan bahkan sistem AGI dengan kekuatan tak terbatas tidak dapat menjawab karena Masalah Pemutusan , tetapi hanya jika asumsi pada bidang tersebut memetakan ke struktur AGI yang diberikan, yang mungkin tidak benar.

Untuk pemahaman yang lebih baik tentang apa yang mungkin diperlukan AGI dan tujuannya, saya dapat merekomendasikan dua buku: Inteligensi Buatan: Ide yang Sangat oleh John Haugeland untuk pendekatan yang lebih pragmatis (sama pragmatisnya dengan filosofi AI, dan Tentang Asal Usul Objek oleh Brian Cantwell Smith untuk pendekatan yang lebih cenderung filosofis.

Selain itu, koleksi Zen koan's: The Gateless Gate, termasuk bagian berikut ini: (dikutip dan diedit dari wikipedia )

Seorang bhikkhu bertanya kepada Zhaozhou, seorang guru Zen China, "Apakah anjing memiliki sifat Buddha atau tidak?" Zhaozhou menjawab, "Wo"

Wú (無) diterjemahkan menjadi "tidak ada", "nonesuch", atau "tidak ada", yang dapat diartikan untuk menghindari menjawab ya atau tidak. Orang yang tercerahkan ini tidak berusaha menjawab dengan ketat setiap pertanyaan, tetapi hanya merespons dengan cara yang masuk akal. Tidak masalah apakah anjing tersebut memiliki sifat-Buddha atau tidak (apa pun sifat-Buddha itu), sehingga sang guru default untuk membebaskan pertanyaan daripada menyelesaikannya.

Mungkin akan membantu untuk memberikan contoh tentang apa yang bisa salah tanpa akal sehat: Pada awal novel "The Two Faces of Tomorrow" oleh James Hogan, seorang pengawas konstruksi di Bulan mengajukan permintaan dengan sistem otomatis, meminta agar sepotong besar peralatan konstruksi dikirimkan ke situsnya sesegera mungkin. Sistem menjawab bahwa itu akan tiba dalam dua puluh menit. Dua puluh menit kemudian, supervisor terbunuh ketika peralatan menabrak situs konstruksinya. Sistem telah menentukan bahwa cara tercepat untuk mengirimkan peralatan ke situs itu adalah dengan memasangnya pada driver massal dan meluncurkannya di lokasi tersebut. Seandainya sistem tersebut diberikan akal sehat, itu akan menyimpulkan hambatan tidak tertulis tambahan pada permintaan, seperti 'peralatan harus tiba utuh', ' kedatangan peralatan tidak boleh menyebabkan kerusakan atau kehilangan nyawa, dan sebagainya. (sisa novel menggambarkan percobaan yang dirancang untuk menghasilkan sistem baru dengan akal sehat)

Apakah ini akal sehat, atau apakah ini bahasa alami yang dipahami?

Dikatakan bahwa pemahaman bahasa alami adalah salah satu tugas AI yang paling sulit. Ini adalah salah satu contoh yang menunjukkan mengapa. Bagian pertama kalimat terkait dengan bagian kedua, yaitu bagaimana cara kerja kalimat.

Sekarang pertanyaan yang relevan adalah bagaimana kedua bagian saling terkait. Ada beberapa hubungan standar yang kita temui, misalnya tatanan sementara. Dalam contoh khusus ini, sifat hubungan lebih dekat dengan sebab-akibat.

Anda melihat efek ini ketika kami menyisipkan kata untuk membuat hubungan ini eksplisit:

Ini hari ulang tahun John, jadi mari kita membelikannya layang-layang. atau Mari kita beli layang-layang John, karena ini hari ulang tahunnya.

Ini adalah teknik bagi manusia untuk membuat hubungan implisit ini eksplisit.

Sekarang, sebagai catatan penasaran, Anda juga perlu pengetahuan budaya untuk memahami bagaimana ulang tahun dapat menjadi penyebab hadiah. Tidak ada akal sehat yang membantu hal itu.