Apa teori saat ini tentang pengembangan AI yang sadar?

24

Apa teori saat ini tentang pengembangan AI yang sadar? Adakah yang mencoba mengembangkan AI yang sadar?

Mungkinkah kesadaran adalah fenomena yang muncul, yaitu, begitu kita memasukkan kompleksitas yang cukup ke dalam sistem kita, kesadaran itu akan menjadi sadar diri?

Micky-D
sumber
Misalkan organisasi kognitif kita secara abstrak mengakui kesadaran dikembangkan sebagai hasil dari hukum fisik evolusi kehidupan. Dan sementara menjadi masalah kebetulan, itu tidak bisa dihindari karena setiap peristiwa dengan probabilitas mendekati satu, meskipun rute yang tepat untuk sampai ke sana tidak dapat diprediksi. Jika demikian, ini menunjukkan bahwa penciptaan buatan dari lingkungan digital yang mensimulasikan komponen penting dari lingkungan yang memunculkan kesadaran kita dapat digunakan untuk mengembangkan kesadaran "buatan". (lanjutan ....)
Craig Hicks
(.... lanjutan) Mengompresi bahan pendidikan ilmiah seumur hidup manusia hingga beberapa milidetik tampaknya sepenuhnya masuk akal. Bagaimana dengan sejuta tahun evolusi kognisi menjadi satu atau dua hari dalam superkomputer? Saya berpendapat bahwa simulasi lingkungan adalah kuncinya, dan hukum evolusi akan mengurus sisanya. Simulasi lingkungan adalah jenis tugas yang manusia dapat serang secara metodis dan, pada batasnya, berhasil, dengan keniscayaan Hukum Moore.
Craig Hicks
Rekursi telah diusulkan oleh Rajaneimi, dan saya telah menemukan beberapa makalah sains kognitif tentang topik tentang manusia, tetapi saya masih mencari makalah yang membahas hal ini dalam hal kesadaran algoritmik.
DukeZhou

Jawaban:

28

Untuk menjawab pertanyaan ini, pertama-tama kita perlu tahu mengapa mengembangkan AI sadar itu sulit. Alasan utamanya adalah tidak ada definisi kesadaran yang matematis atau keras. Tentu Anda memiliki gagasan tentang kesadaran ketika Anda mengalaminya dan kita dapat berbicara tentang zombie filosofis tetapi itu bukan konsep nyata yang dapat dipecah dan dikerjakan. Selain itu, sebagian besar penelitian saat ini di AI terutama merupakan pendekatan pragmatis di mana seseorang mencoba untuk membangun model yang dapat berkinerja baik sesuai dengan beberapa fungsi biaya yang diinginkan. Ini adalah bidang yang sangat besar dan menarik dan mencakup banyak masalah penelitian dan setiap temuan baru didasarkan pada teori matematika atau bukti empiris dari algoritma baru / konstruksi model / dll. Karena ini,

Jadi untuk menjawab pertanyaan Anda, tidak ada yang mencoba untuk benar-benar membuat AI "sadar" karena kita belum tahu apa arti kata itu, namun itu tidak menghentikan orang untuk membicarakannya.

Jaden Travnik
sumber
"... AI sadar sulit [karena] tidak ada definisi kesadaran yang matematis atau keras". Kesadaran manusia berkembang dengan berkinerja baik sesuai dengan beberapa fungsi biaya, khususnya kemampuan untuk bertahan hidup di tingkat individu dan kelompok. Sehingga metode pengembangan tersebut memiliki rekam jejak. Sebaliknya, pengembangan dengan desain untuk memenuhi definisi matematika dari kesadaran tidak memiliki rekam jejak.
Craig Hicks
@CraigHicks Mungkin saya tidak mengerti apa yang Anda maksud, tetapi apakah Anda maksudkan bahwa keberhasilan evolusi adalah indikator kesadaran. Jika itu yang Anda maksudkan, saya harus tidak setuju. Ada organisme hidup yang tidak dianggap sadar diri tetapi sangat sukses dari POV evolusi (virus dan bakteri, atau beberapa tanaman, misalnya).
Lorenzo Donati mendukung Monica
2
@CraigHicks Kita mungkin mengembangkan AI yang bisa dianggap sadar. Tapi itu akan, kecuali kita memiliki terobosan konseptual dan filosofis utama, terjadi secara kebetulan dan keberuntungan. Itu karena selama kita tidak tahu bagaimana kita dapat mendefinisikan "kesadaran" (selain dari "kita mungkin akan mengetahuinya ketika kita melihatnya"), tidak ada cara untuk mengetahui bagaimana kita mungkin sengaja merancang mesin dengan potensi untuk memamerkannya.
Arthur
2
Jelas cara yang paling mudah untuk membuat AI sadar secara tidak sengaja ditulis oleh Yudkowsky: Masukkan AI ke dalam kotak dan goyangkan sedikit. Jika itu meyakinkan Anda untuk mengeluarkannya dari kotak, Anda mungkin kehilangan =)
Cort Ammon - Reinstate Monica
1
Saya setuju bahwa itu sepenuhnya mungkin dilakukan secara kebetulan, masalahnya adalah, mirip dengan argumen zombie filosofis, belum ada tes untuk mengatakan bahwa sesuatu benar-benar terjadi. Secara pribadi, saya tidak berpikir tes semacam itu ada sama sekali dan untuk alasan ini, orang mungkin harus lebih sopan kepada chatbots dan asisten pribadi mereka di masa mendatang, kalau-kalau Anda melukai perasaan mereka. "Terima kasih siri".
Jaden Travnik
7

Apa itu kesadaran? Ada beberapa tantangan nyata dalam menetapkan kesadaran sebagai tujuan, karena kita belum memiliki banyak pemahaman ilmiah tentang bagaimana otak melakukannya atau keseimbangan apa yang diperlukan antara ingatan jangka panjang, ingatan jangka pendek, implisit karya interpretasi, mode sadar kontras dari pemrosesan otomatis dan pemrosesan yang disengaja (S1 dan S2 Khanemann). John Kihlstrom (psikolog emeritus di Berkeley) memiliki satu set kuliah tentang Kesadaran yang tersedia di iTunesU yang mungkin Anda periksa. Carnegie-Mellon Uni memiliki model yang disebut ACT-R yang secara langsung memodelkan perilaku sadar seperti membayar perhatian.

Apa yang mungkin mengikat pemahaman kita tentang hal itu? Filsafat telah mempertimbangkan pertanyaan kesadaran sejak lama. Secara pribadi saya suka Hegel dan Heidegger (filsuf). Keduanya sangat sulit dibaca, tetapi Heidegger (ditafsirkan oleh Hubert Dreyfus) berguna mengkritik proyek 'AI Kuno yang Baik' pada tahun tujuh puluhan dan menunjukkan berapa banyakbekerja di sana hanya menafsirkan input visual. Hegel sering difitnah, tetapi untuk melihatnya ditafsirkan dengan baik, periksa pembicaraan Robert Brandom dengan LMU tentang logika kesadaran dan Hegel sebagai pragmatis Penjual-ian awal. Jika kesadaran adalah untuk memegang kebenaran dan kepastian, ia melakukan 'jalan keraguan, atau lebih tepatnya jalan putus asa', di mana ia tidak pernah menempatkan dirinya di atas koreksi. Ada sesuatu tentang perlakuan Hegel terhadap kesadaran dalam hal-hal yang bersifat rekursif, tanpa menyerah pada kemunduran yang ganas, yang saya pikir akan ditanggung sebelum akhir.

Perkembangan terkini. Pendekatan Pembelajaran Mendalam dan keberhasilan pragmatis saat ini sangat menarik, tetapi akan menarik untuk melihat sejauh mana mereka bisa melangkah dalam mengintegrasikan dan menggeneralisasikan dari informasi kecil yang mengatur pikiran manusia yang sebenarnya. Sementara Deep Learning dan data mining sangat terlihat, pendekatan simbolis juga ada di sana masih menjadi lebih baik dan lebih bervariasi. Tetapi ada kurangnya interpretasi teoritis menyeluruh yang akan memungkinkan generalisasi.

Dua teori besar. Jika saya harus memilih proyek yang saya pikir layak untuk saya hadiri, Giulio Tononi (dkk) telah membuat modernisasi masalah yang sangat bagus dalam ' Teori Informasi Terpadu ' Tetapi Anda mungkin ingin memperluasnya dengan sesuatu seperti milik Rolf Pfeifer 's' Bagaimana tubuh membentuk cara kita berpikir ', karena beberapa' informasi terpadu 'tersirat dalam memiliki lengan dan kaki, mata dan hidung (diletakkan di sana oleh informasi yang mengumpulkan karya evolusi.) Tetapi ada begitu banyak pekerjaan bagus yang telah dilakukan selesai - pro menulis makalah lebih cepat daripada saya bisa membacanya.

Lebih spesifik untuk pertanyaan Anda, ada upaya untuk mensimulasikan otak manusia dengan harapan bahwa tujuan keseluruhan akan membantu mendanai penelitian dan menghasilkan jawaban untuk setiap paragraf di atas.

Atcrank
sumber
Saya membaca sebuah artikel yang menarik dan jujur ​​oleh Douglas Hofstadter di The Atlantic ( theatlantic.com/technology/archive/2018/01/… ) mengkritik penggunaan istilah "Deep Learning" untuk merujuk ke program terjemahan Deep Learning Google, dan menggunakan hiburan. contoh untuk menunjukkan program kurangnya pemahaman yang benar. Dia membuat argumen yang meyakinkan bahwa terjemahan bahasa yang baik tidak akan mungkin terjadi tanpa terlebih dahulu mengembangkan AI yang sadar.
Craig Hicks
1
Ya, saya tidak berpikir ada orang yang sadar akan membuat kesalahan seperti ini di bawah ini, meskipun saya bisa membayangkan seorang penerjemah kadang-kadang tidak dapat melihat lebih baik dengan istilah seni yang misterius. Ini adalah kurangnya kesadaran diri dalam output: reddit.com/r/softwaregore/comments/6bxh2m/…
Atcrank
1
Tentang bagian pertama: Prof AI lama saya pernah mengatakan bahwa menanyakan apakah komputer dapat berpikir seperti menanyakan apakah kapal selam berenang. Jawabannya tergantung pada bagaimana Anda ingin mendefinisikan "berenang" lebih daripada apa yang sebenarnya dilakukan mesin.
TED
2

CERA-CRANIUM adalah contoh arsitektur kognitif untuk menghasilkan Machine-Consciousness (MC). Menuju perilaku seperti sadar dalam karakter permainan komputer, 2009 Direalisasikan sebagai sistem papan tulis yang mampu menjalankan tugas berulir. Implementasinya sendiri bekerja dengan bahasa alami. Itu berarti, agen CERA-CRANIUM memiliki variabel yang disebut "I'm in fear", dan jika variabel ini diset True, maka emosi diaktifkan. Jadi itu bukan kesadaran nyata, tetapi memiliki lebih banyak kesamaan dengan keadaan internal karakter dari "The Sims".

Aspek yang menarik adalah, bahwa "kesadaran mesin" tidak begitu esoteris, seperti yang terlihat. Sarjana Google menemukan sekitar 3k makalah tentang itu. Dalam kebanyakan kasus, pengembangan dimulai dengan tujuan untuk menerapkan emosi untuk karakter dalam game yang kemudian diperluas ke pemikiran umum pada manusia virtual.

Manuel Rodriguez
sumber
Bukankah itu lucu jika AI "kehidupan" sejati berkembang (berevolusi?) Bukan dari penelitian tetapi ad-hoc oleh penulis game-software yang berusaha menghasilkan uang.
Craig Hicks
@CraigHicks: maksud Anda, suka di Friendship is Optimal ?
vsz
2

Selain jawaban Jaden yang sangat baik "tidak ada yang mencoba untuk benar-benar membuat AI" sadar "karena kita belum tahu apa arti kata itu" Saya ingin menambahkan bahwa kata "belum" sangat optimis.

Sangat problematis dan kemungkinan tidak mungkin untuk membedakan antara makhluk sadar dan makhluk yang berperilaku persis seolah-olah sadar. Para filsuf telah bergumul dengan itu selama berabad-abad; beberapa bahkan mendukung solipsisme, yang merupakan filosofi "Saya hidup dalam Matriks". Secara khusus, bagaimana Anda bisa tahu apakah teman masa kecil Anda atau pasangan Anda atau orang lain adalah makhluk sadar daripada perwujudan AI yang bertindak persis seperti makhluk sadar?

Tentu saja mungkin untuk pergi "jika berjalan seperti bebek dan dukun sebagai bebek maka itu adalah bebek". Dalam hal ini Turing Test yang lulus AI akan secara otomatis dianggap sadar. Namun, kebanyakan orang tidak mau menerima kriteria kesadaran bebek; kalau tidak mereka akan segera memanggil peralatan rumah tangga yang dioperasikan Alexa mereka sadar.

Dua sen saya pada dasarnya sama dengan Jaden, kecuali bahwa saya lebih pesimistis untuk memahami apa itu kesadaran.

Michael
sumber
Saya pikir Uji Bebek cukup jika AI melewati Tes Turing penuh, yang diberikan oleh orang dewasa yang cerdas. (Masalah saya dengan Kamar Cina adalah bahwa itu didasarkan pada qualia, dan saya menduga satu-satunya cara untuk memvalidasi qualia entitas lain adalah menjadi entitas itu.)
DukeZhou
Saya mungkin juga berpendapat bahwa persepsi apa pun memenuhi definisi kesadaran paling dasar, dan kemampuan untuk mengambil keputusan berdasarkan masukan memenuhi definisi kecerdasan paling dasar. Sejauh yang kita ketahui, kesadaran mungkin hanya beberapa bentuk meta-kognisi, dan seluruhnya merupakan fungsi dari kompleksitas sistem.
DukeZhou
1

Kesadaran adalah kemampuan untuk menyadari pikiran Anda sendiri, lingkungan langsung Anda, perasaan dan tidak lebih. Ini adalah mekanisme otak kita untuk mengendalikan jenis pikiran kita yang lebih rendah, yang didasarkan pada asosiasi dan emosi. Kesadaran mengamati pikiran dan perasaan kita seperti kita mengamati dunia nyata dengan mata kita. Itu tidak rumit. Pertanyaan sebenarnya bukanlah apakah mesin mampu kesadaran tetapi apakah mereka mampu emosi.

Nada Soda
sumber
Ada banyak spesies selain manusia modern yang menunjukkan emosi yang kuat. Emosi-emosi ini naluriah - mereka sangat penting dalam mendefinisikan perilaku sosial yang meningkatkan kemampuan bertahan hidup dan kebugaran "kelompok". Saya tidak dapat melihat bagaimana emosi manusia secara kualitatif berbeda dari mamalia lain. Sebaliknya, kesadaran manusia adalah beberapa urutan besarnya yang lebih berkembang pada manusia daripada spesies lain yang terdekat. Di mana emosi manusia tampaknya berbeda dari spesies lain, hanya kemampuan untuk mengendalikan emosi melalui kesadaran.
Craig Hicks
Jawaban ini tidak masuk akal tanpa definisi 'milikmu'.
DrMcCleod
-1

Intro : Saat ini, kami menyadari bahwa sistem saat ini menjadi lebih baik di hampir setiap tugas khusus daripada manusia. Selain itu, kami melihat bahwa para ilmuwan bekerja untuk membuat sistem saat ini juga lebih baik dalam tugas-tugas yang kurang terspesialisasi (mulai dari: pengenalan huruf, pergi ke: pengenalan hewan, pengenalan spesies, pengenalan aktivitas, pengenalan gambar bergerak, ..).

Kesimpulan : Tidak ada alasan untuk tidak percaya bahwa sistem yang dibantu jaringan saraf tidak akan menjadi lebih baik dalam tugas yang diberikan, di masa depan.

Pertanyaan :

Apa itu kesadaran?

Saya pikir masalah saat ini tentang kesadaran diri adalah masalah definisi. Saya tidak menemukan banyak literatur tentang topik ini, meskipun filosofis (yang, sayangnya, sepenuhnya tidak berguna dalam konteks ini).

Karena kurangnya literatur saya ingin membuat definisi sendiri. Untungnya, kita tahu dari pengamatan bahwa semua hewan yang "cerdas" memiliki tingkat "kesadaran diri" dan ingin tahu. Dari biologi kita tahu bahwa rasa ingin tahu adalah mekanisme motivasi untuk mengamati / menalar / menguji perilaku. Sekarang kami menyimpulkan bahwa kesadaran diri, jelas merupakan mekanisme yang sama diterapkan pada proses perilaku / pemikiran Anda sendiri. Kita hanya membayangkan kemungkinan hasil dari tindakan tertentu yang dapat kita lakukan, dan lakukan evaluasi.

Oleh karena itu kesadaran harus menjadi hasil dari sistem motivasi tertentu yang mendukung keingintahuan, dan sistem evaluasi yang tidak kompleks cukup kompleks.

Dugaan saya adalah sistem motivasi seperti itu sangat mudah diterapkan. Masalah saat ini adalah bahwa tidak ada sistem yang cukup fleksibel untuk "menyelesaikan" tugas yang diberikan. Jaringan saat ini masih terlalu khusus.


sumber
"Untungnya, kita tahu dari pengamatan bahwa semua hewan berperingkat" cerdas "memiliki tingkat" kesadaran diri ". Definisi Anda melingkar.
DrMcCleod
Apa definisi dan bagaimana?
Anda sedang mencoba definisi 'kesadaran' dari gagasan bahwa makhluk 'sadar diri'. Anda tidak dapat memiliki definisi yang bergantung pada keberadaan apriori dari hal yang didefinisikan. Dalam hal ini, Anda juga tidak dapat berasumsi bahwa selain diri Anda memiliki kesadaran karena kami tidak memiliki cara untuk mengukurnya secara objektif.
DrMcCleod
kesadaran dan kesadaran diri adalah sama dan bergantung pada hal yang sama. apa bedanya?
kesadaran diri dan kesadaran diri juga merupakan hal yang sama. Tidak masuk akal untuk mendefinisikan suatu istilah dengan mereferensikannya sendiri. Anda mungkin juga mendefinisikan gajah dengan mengatakan bahwa itu adalah gajah.
DrMcCleod