Apakah kesadaran diperlukan untuk tugas AI?

Kesadaran sulit untuk didefinisikan , tetapi untuk pertanyaan ini mari kita definisikan sebagai "benar-benar mengalami input indrawi sebagai lawan dari hanya menempatkan sekelompok data melalui mesin mati." Manusia, tentu saja, memiliki pikiran; untuk komputer normal, semua hal yang mereka "lihat" hanyalah lebih banyak data. Sebagai alternatif, dapat dikatakan bahwa manusia adalah makhluk hidup , sedangkan komputer tradisional tidak.

Mengesampingkan pertanyaan apakah mungkin membuat mesin mahluk hidup, apakah itu benar-benar membuat perbedaan jika AI mahluk hidup atau tidak? Dengan kata lain, adakah tugas-tugas yang dibuat tidak mungkin - bukan hanya lebih sulit - oleh kurangnya perasaan?

Tidak ada yang tahu.

Mengapa: karena tidak mungkin untuk menentukan secara formal apakah sesamamu manusia benar-benar sadar (mereka mungkin secara filosofis disebut 'Zombie' ). Tidak ada tes yang diketahui oleh fisika modern yang cukup untuk memutuskan. Karena itu mungkin saja Anda adalah satu-satunya makhluk hidup, dan semua orang adalah robot.

Akibatnya, kami tidak dapat menentukan tugas mana yang membutuhkan perasaan.

Perhatikan bahwa status ontologis Zombies kontroversial: beberapa filsuf AI (mis. Daniel Dennett) mengklaim bahwa Zombi tidak mungkin secara logis sementara yang lain seperti David Chalmers akan mengklaim bahwa Zombie akan dipaksa untuk menyatakan bahwa mereka mengalami qualia (yaitu mahluk hidup) meskipun mereka tidak. Berikut ini adalah makalah yang sangat mudah dibaca oleh Flanagan dan Polger yang juga menjelaskan mengapa versi neurologis yang lebih kuat dari tes Turing tidak cukup untuk mendeteksi Zombie.

EDIT: Sebagai tanggapan terhadap komentar tentang apakah ada tes obyektif untuk membedakan sentience dari non-sentience:

Tidak ada yang tahu. Apa yang kita lakukan percaya adalah bahwa ini akan membutuhkan sesuatu selain apa fisika modern saat ini dapat memberitahu kita. David Chalmers berspekulasi bahwa qualia harus diperkenalkan sebagai bentuk baru unit fisik, ortogonal dengan yang lain dengan cara yang sama seperti muatan listrik ortogonal jarak.

Dengan tidak adanya tes objektif, kita harus bergantung pada varian tes Turing, yang tidak lebih menjamin kesadaran subjek daripada mereka melakukan kecerdasan.

Tidak.

Menurut pengalaman, pengalaman melihat adalah non-kausal. Apa pun yang non-kausal tidak dapat menjadi persyaratan dari proses fisik; seorang qualia tidak mampu membeli robot kemampuan untuk melakukan sesuatu yang sebaliknya tidak bisa.

Mungkin.

Meskipun qualia tidak diperlukan untuk tugas AI yang diberikan, itu tidak berarti bahwa AI yang cukup maju tidak memerlukan qualia. Bisa jadi tugas yang disebut AI-menyelesaikan membutuhkan robot yang, meskipun tidak menggunakan qualia, menghasilkannya pula.

Iya.

Qualia mungkin merujuk pada beberapa sifat non-fisik yang plin-plan, tetapi itu istimewa karena kita tahu itu ada secara fisik juga. Fakta bahwa saya dapat mendiskusikan kualia saya secara sadar (atau, jika Anda tidak percaya kepada saya, fakta Anda dapat) menyiratkan bahwa kualia saya (atau Anda) memang memiliki efek fisik.

Masuk akal bahwa jika kita menerima kualia orang lain atas dasar kita sendiri, itu pasti karena dasar fisik kita sendiri ¹ . Dengan demikian orang dapat berargumentasi bahwa ² robot yang memiliki kapasitas fisik yang setara harus memerlukan qualia.

¹ karena subyektif secara fisik non-kausal, jadi tidak dapat menyebabkan kita menerima apa pun.

² selama Anda tidak membuat asumsi yang sangat aneh bahwa qualia entah bagaimana terikat pada manifestasi fisik langsungnya, yang paling baik lemah sejak kita mengembangkan yang salah, Anda masih akan mengklaimnya sebagai yang benar dengan kepastian yang sama.

Mari kita gunakan tes sederhana berdasarkan akal sehat: seberapa sering Anda melihat manusia memecahkan masalah yang membutuhkan penggunaan akal ketika mereka tidak sadar? Ya, Anda dapat menemukan contoh genius seperti Ramanujan yang memecahkan masalah kompleks selama atau setelah keadaan mimpi, tetapi itu melibatkan kesadaran parsial. Anda tidak melihat orang-orang seperti Einstein mengemukakan teori relativitas saat dalam keadaan koma; Bapak Pendiri tidak menulis Deklarasi Kemerdekaan saat berjalan sambil tidur; pada kenyataannya, Anda bahkan tidak dapat menemukan contoh ibu rumah tangga menyusun daftar belanja mereka selama seminggu selama tidur delta-gelombang yang mendalam. Ini didasarkan pada definisi intelijen yang keras, membutuhkan penggunaan akal; tidak ada yang mengatakan, "Lalat itu cerdas" atau "tupai itu cerdas" justru karena tidak ada yang mampu menggunakan alasan. Ini adalah bar yang sangat tinggi untuk AI, tetapi itu adalah definisi akal sehat yang digunakan oleh orang biasa sebagai masalah kepraktisan, dalam percakapan sehari-hari. Demikian juga, dalam praktiknya, setiap orang menganggap kesadaran diperlukan untuk melatih kecerdasan semacam itu.

Sebaliknya, kita dapat menemukan kriteria lain yang masuk akal untuk menilai keberatan terhadap argumen ini, terutama yang solipsist, berdasarkan 3 elemen: 1) kepraktisan; 2) efek keberatan terhadap orang-orang yang memegangnya dengan tulus; dan 3) efek tindakan yang didasarkan pada keyakinan tersebut terhadap orang lain. Ini akan membawa saya beberapa paragraf untuk membuat kasus ini, tetapi panjang diperlukan jika saya ingin membuat kasus ini secara lengkap, menyeluruh. Memang benar bahwa kita tidak dapat membuktikan bahwa manusia lain memiliki kesadaran, jika standar kita adalah bukti mutlak. Faktanya, kita tidak dapat memberikan bukti absolut untuk apa pun; selalu ada ruang untuk beberapa keberatan, tidak peduli seberapa konyol atau sepele. Seperti yang ditunjukkan oleh beberapa filsuf, mungkin semua kenyataan yang kita tahu itu hanyalah mimpi, atau hasil dari beberapa konspirasi lama, yang terlibat seperti plot film Jim Carrey The Truman Show. Kunci untuk memenuhi keberatan semacam itu adalah bahwa mereka membutuhkan kemunduran yang tak terbatas dari keberatan yang semakin tidak dapat dipertahankan, yang kemungkinan jatuh dengan setiap langkah tambahan yang diperlukan untuk membenarkan keraguan yang tidak masuk akal tersebut; Saya selalu bertanya-tanya apakah kita bisa menghasilkan "Metrik Konyol" untuk Pembelajaran Mesin berdasarkan kardinalitas keberatan semacam itu (atau pilih-pilih perangkat fuzzy). Jika kita membiarkan kritik mengecam pintu dengan segala macam keberatan yang tidak masuk akal, mustahil menutup debat apa pun. Umat ​​manusia akan lumpuh dalam kelambanan karena tidak ada yang akan dianggap layak; tetapi seperti yang dikatakan band rock Rush, "Jika Anda memilih untuk tidak memutuskan, Anda masih harus membuat pilihan." Pada titik tertentu kita harus menerapkan tes untuk memutuskan hal-hal seperti itu, bahkan tanpa adanya bukti absolut; penolakan untuk melakukan tes juga merupakan pilihan. Menyelesaikan argumen semacam ini seperti permainan Go permainan Cina - setelah pemain lain dikepung dan tidak memiliki gerakan lagi untuk membuat, permainan sudah berakhir; jika bukti seseorang telah membantah dan mereka tidak memiliki justifikasi lebih lanjut, maka kita dapat menyimpulkan bahwa mereka bertindak tidak masuk akal. Ada orang berlarian mengklaim Holocaust tidak pernah terjadi, atau Masyarakat Bumi Rata, dll., Tetapi keberadaan mereka seharusnya dan tidak menghentikan kita dari mengambil tindakan yang bertentangan dengan ide-ide mereka. Kita dapat menyanggah keberatan engkol seperti Flat Earth Society tanpa keraguan yang masuk akal karena pada akhirnya, mereka tidak bisa menjawab semua bantahan kita. Saya senang bahwa qualia dan Zombies Filosofis dibesarkan karena mereka membuat percakapan yang menarik dan makanan untuk berpikir, tetapi solipsisme ditindaklanjuti sesering ide-ide dari Masyarakat Bumi Rata justru karena bukti tidak lengkap kami Kita dapat menyanggah keberatan engkol seperti Flat Earth Society tanpa keraguan yang masuk akal karena pada akhirnya, mereka tidak bisa menjawab semua bantahan kita. Saya senang bahwa qualia dan Zombies Filosofis dibesarkan karena mereka membuat percakapan yang menarik dan makanan untuk berpikir, tetapi solipsisme ditindaklanjuti sesering ide-ide dari Masyarakat Bumi Rata justru karena bukti tidak lengkap kami Kita dapat menyanggah keberatan engkol seperti Flat Earth Society tanpa keraguan yang masuk akal karena pada akhirnya, mereka tidak bisa menjawab semua bantahan kita. Saya senang bahwa qualia dan Zombies Filosofis dibesarkan karena mereka membuat percakapan yang menarik dan makanan untuk berpikir, tetapi solipsisme ditindaklanjuti sesering ide-ide dari Masyarakat Bumi Rata justru karena bukti tidak lengkap kamijangan memiliki berjalan menentangnya.

Seperti yang ditunjukkan GK Chesterton (alias "Rasul Common Sense") dalam Ortodoksi klasiknya, keragu-raguan radikal dari jenis yang diajarkan banyak filsuf klasik bukanlah jalan menuju kebijaksanaan tetapi ke kegilaan; begitu kita melampaui keraguan yang masuk akal, kita akhirnya bertindak tidak masuk akal. Dia mengatakan bahwa tanpa adanya bukti absolut kita dapat kembali pada bentuk bukti sekunder lain: apakah filsafat seseorang menuntun seseorang ke Hanwell, institusi mental Inggris yang terkenal itu. Chesterton membuat alasan yang baik bahwa ketika orang benar-benar bertindak berdasarkan ide-ide seperti solipsisme (bukan hanya memperdebatkannya dengan cara bertele-tele di ruang kelas yang tertutup ivy) mereka menjadi gila Argumen Filosofis Zombie dekat dengan solipsisme, yang sebenarnya merupakan salah satu diagnostik kriteria untuk bentuk skizofrenia tertentu. Dehumanisasi yang terjadi ketika keraguan radikal diterapkan pada qualia juga terkait erat dengan perilaku sosiopat, Meskipun GKC tidak mengutip contoh menakutkannya secara langsung, Rene Descartes sendiri adalah bukti hidup. Dia adalah seorang ahli matematika yang brilian yang masih bersorak untuk meragukan semua kecuali keberadaannya sendiri, dengan pepatah terkenal "Saya pikir, karena itu saya." Tetapi Descartes juga biasa membawa manekin saudara perempuannya yang sudah meninggal bersamanya ke kafe-kafe Eropa, di mana ia terlihat sedang mengobrol dengannya. Inti dari semua ini adalah bahwa kita dapat menilai nilai suatu gagasan dengan bagaimana hal itu memengaruhi kesejahteraan orang percaya, atau dengan bagaimana mereka pada gilirannya memengaruhi orang lain melalui pilihan etis berdasarkan kepercayaan tersebut. Ketika orang benar-benar bertindak atas keraguan radikal dari jenis yang diekspresikan dalam solipsisme dan penolakan terhadap kualitas bersama, sering kali berdampak buruk pada mereka dan orang lain yang berhubungan dengan mereka. Dia adalah seorang ahli matematika yang brilian yang masih bersorak untuk meragukan semua kecuali keberadaannya sendiri, dengan pepatah terkenal "Saya pikir, karena itu saya." Tetapi Descartes juga biasa membawa manekin saudara perempuannya yang sudah meninggal bersamanya ke kafe-kafe Eropa, di mana ia terlihat sedang mengobrol dengannya. Inti dari semua ini adalah bahwa kita dapat menilai nilai suatu gagasan dengan bagaimana hal itu memengaruhi kesejahteraan orang percaya, atau dengan bagaimana mereka pada gilirannya memengaruhi orang lain melalui pilihan etis berdasarkan kepercayaan tersebut. Ketika orang benar-benar bertindak atas keraguan radikal dari jenis yang diekspresikan dalam solipsisme dan penolakan terhadap kualitas bersama, sering kali berdampak buruk pada mereka dan orang lain yang berhubungan dengan mereka. Dia adalah seorang ahli matematika yang brilian yang masih bersorak untuk meragukan semua kecuali keberadaannya sendiri, dengan pepatah terkenal "Saya pikir, karena itu saya." Tetapi Descartes juga biasa membawa manekin saudara perempuannya yang sudah meninggal bersamanya ke kafe-kafe Eropa, di mana ia terlihat sedang mengobrol dengannya. Inti dari semua ini adalah bahwa kita dapat menilai nilai suatu gagasan dengan bagaimana hal itu memengaruhi kesejahteraan orang percaya, atau dengan bagaimana mereka pada gilirannya memengaruhi orang lain melalui pilihan etis berdasarkan kepercayaan tersebut. Ketika orang benar-benar bertindak atas keraguan radikal dari jenis yang diekspresikan dalam solipsisme dan penolakan terhadap kualitas bersama, sering kali berdampak buruk pada mereka dan orang lain yang berhubungan dengan mereka. Tetapi Descartes juga biasa membawa manekin saudara perempuannya yang sudah meninggal bersamanya ke kafe-kafe Eropa, di mana ia terlihat sedang mengobrol dengannya. Inti dari semua ini adalah bahwa kita dapat menilai nilai suatu gagasan dengan bagaimana hal itu memengaruhi kesejahteraan orang percaya, atau dengan bagaimana mereka pada gilirannya memengaruhi orang lain melalui pilihan etis berdasarkan kepercayaan tersebut. Ketika orang benar-benar bertindak atas keraguan radikal dari jenis yang diekspresikan dalam solipsisme dan penolakan terhadap kualitas bersama, sering kali berdampak buruk pada mereka dan orang lain yang berhubungan dengan mereka. Tetapi Descartes juga biasa membawa manekin saudara perempuannya yang sudah meninggal bersamanya ke kafe-kafe Eropa, di mana ia terlihat sedang mengobrol dengannya. Inti dari semua ini adalah bahwa kita dapat menilai nilai suatu gagasan dengan bagaimana hal itu memengaruhi kesejahteraan orang percaya, atau dengan bagaimana mereka pada gilirannya memengaruhi orang lain melalui pilihan etis berdasarkan kepercayaan tersebut. Ketika orang benar-benar bertindak atas keraguan radikal dari jenis yang diekspresikan dalam solipsisme dan penolakan terhadap kualitas bersama, sering kali berdampak buruk pada mereka dan orang lain yang berhubungan dengan mereka.

Secara tidak langsung, komunitas AI juga menghadapi risiko yang cukup serius - mungkin godaan permanen - untuk membuat kesalahan yang berlawanan, dengan menganggap kualifikasi, kesadaran, dan sejenisnya untuk produk Machine Learning tanpa bukti yang memadai. Baru-baru ini saya mendengar sebuah kasus yang dibuat dengan alasan logis yang sangat buruk oleh para akademisi yang disegani mengenai efek bahwa pabrik memiliki "kecerdasan," berdasarkan pada definisi yang sangat lemah dan kebingungan yang jelas dengan pengaturan sendiri. Kami tidak dapat memberikan bukti absolut bahwa sebuah batu tidak memiliki kecerdasan, yang merupakan masalah lama untuk menyangkal negatif. Syukurlah, hanya sedikit pria yang benar-benar bertindak berdasarkan keyakinan seperti itu saat ini, karena ketika mereka melakukannya, mereka akhirnya kehilangan akal. Jika kita menanggapi argumen semacam itu dengan serius, kita mungkin melihat undang-undang disahkan untuk melindungi jenis Pet Rocks yang populer di ' 70-an (saya masih kesal bahwa milik saya dicuri LOL). Akan jauh lebih mudah, bagaimanapun, untuk membuat kesalahan yang sama dengan menganggap kesadaran, kecerdasan, dan kualitas-kualitas lain semacam itu pada mesin canggih, karena pemikiran angan-angan, keangkuhan, kepercayaan tinggi para penemu, pengaruhnya. fiksi ilmiah dan perselingkuhan modern dengan teknologi. Di masa depan, saya memiliki sedikit keraguan bahwa kita akan memiliki Cargo Cult of AI - mungkin dilindungi secara hukum seperti semacam spesies yang terancam punah, dengan hak-hak sipil, tetapi tidak memiliki kesadaran, jiwa, atau kecerdasan aktual selain batu. Jangan mengutip saya tentang ini, tapi saya percaya Rod Serling pernah menulis cerita untuk efek ini. kecerdasan dan kualitas-kualitas lain semacam itu pada mesin canggih, karena angan-angan, keangkuhan, kepercayaan para penemu, pengaruh fiksi ilmiah, dan hubungan cinta modern dengan teknologi. Di masa depan, saya memiliki sedikit keraguan bahwa kita akan memiliki Cargo Cult of AI - mungkin dilindungi secara hukum seperti semacam spesies yang terancam punah, dengan hak-hak sipil, tetapi tidak memiliki kesadaran, jiwa, atau kecerdasan aktual selain batu. Jangan mengutip saya tentang ini, tapi saya percaya Rod Serling pernah menulis cerita untuk efek ini. kecerdasan dan kualitas-kualitas lain semacam itu pada mesin canggih, karena angan-angan, keangkuhan, kepercayaan para penemu, pengaruh fiksi ilmiah, dan hubungan cinta modern dengan teknologi. Di masa depan, saya memiliki sedikit keraguan bahwa kita akan memiliki Cargo Cult of AI - mungkin dilindungi secara hukum seperti semacam spesies yang terancam punah, dengan hak-hak sipil, tetapi tidak memiliki kesadaran, jiwa, atau kecerdasan aktual selain batu. Jangan mengutip saya tentang ini, tapi saya percaya Rod Serling pernah menulis cerita untuk efek ini. - mungkin dilindungi secara hukum seperti semacam spesies yang terancam punah, dengan hak-hak sipil, tetapi tidak memiliki kesadaran, jiwa, atau kecerdasan aktual selain batu. Jangan mengutip saya tentang ini, tapi saya percaya Rod Serling pernah menulis cerita untuk efek ini. - mungkin dilindungi secara hukum seperti semacam spesies yang terancam punah, dengan hak-hak sipil, tetapi tidak memiliki kesadaran, jiwa, atau kecerdasan aktual selain batu. Jangan mengutip saya tentang ini, tapi saya percaya Rod Serling pernah menulis cerita untuk efek ini.

Cara terbaik untuk menghindari nasib ini adalah dengan tetap berpegang pada interpretasi dan definisi akal sehat dari hal-hal ini, yang kami terus menjauh dari sebagian besar karena mereka menetapkan bar yang sangat tinggi untuk AI yang kita mungkin tidak pernah bisa melampaui dalam hidup kita , jika pernah. Mungkin AI bahkan tidak mungkin secara logis, pada tingkat teknologi apa pun; Saya ingat beberapa bukti yang dapat ditafsirkan untuk efek itu. Standar yang tinggi tetapi masuk akal ini mungkin semakin sulit untuk dipertahankan jika Chesterton dan rekan-rekannya seperti Hilaire Belloc dan Arnold Lunn benar dalam penilaian mereka bahwa penggunaan akal telah benar-benar hancur dalam peradaban Barat, setidaknya sejauh Enlightenment; Buku Lunn 1931 The Flight from Reason adalah buku klasik dalam hal ini dan belum dapat dibantah. Tren historis ini adalah topik yang luas dalam dirinya sendiri - tetapi cukup untuk mengatakan bahwa penolakan alasan dan obsesi dengan teknologi keduanya secara langsung relevan dalam cara yang jelas untuk bidang AI Jika Penerbangan dari Alasan masih berlangsung, maka kami akan semakin tergoda untuk menggunakan keberatan yang tidak bercela dan mudah untuk menurunkan penggunaan akal dan kualitas yang sangat diperlukan seperti kesadaran dalam definisi kami tentang AI, tetapi muncul dengan kriteria yang semakin lemah untuk membuktikannya; secara bersamaan, teknologi kami akan terus meningkat, sehingga meningkatkan sisi "Kecerdasan Buatan". maka kita akan semakin tergoda untuk menggunakan keberatan yang tidak bercela dan mudah untuk menurunkan penggunaan akal dan kualitas yang tak tergantikan seperti kesadaran dalam definisi AI kita, tetapi muncul dengan kriteria yang semakin lemah untuk membuktikannya; secara bersamaan, teknologi kami akan terus meningkat, sehingga meningkatkan sisi "Kecerdasan Buatan". maka kita akan semakin tergoda untuk menggunakan keberatan yang tidak bercela dan mudah untuk menurunkan penggunaan akal dan kualitas yang tak tergantikan seperti kesadaran dalam definisi AI kita, tetapi muncul dengan kriteria yang semakin lemah untuk membuktikannya; secara bersamaan, teknologi kami akan terus meningkat, sehingga meningkatkan sisi "Kecerdasan Buatan".

Jangan salah paham: jika saya tidak berpikir kita bisa melakukan beberapa hal yang sangat menarik dengan AI, saya tidak akan berada di sini. Tetapi kebanyakan dari mereka dapat dicapai tanpa pernah mereplikasi kecerdasan manusia yang sebenarnya, dengan menyelesaikan seluruh kelas masalah tangensial yang sulit untuk dipikirkan manusia, tetapi yang tidak memerlukan kesadaran atau penggunaan alasan yang menandai kecerdasan manusia. Kemampuan pengenalan gambar dari jaring saraf convolutional adalah salah satu contoh, misalnya; jika kita menginginkan kecerdasan manusia, kita selalu dapat memproduksinya melalui cara termudah, paling ekonomis dan teruji waktu, dengan memiliki bayi. Mungkin bentuk tangensial AI ini sudah cukup bagi kita untuk saat ini. Kami tidak dapat menyuntikkan penggunaan alasan ke dalam mesin kami jika kami tidak memiliki cukup alasan sendiri untuk memutuskan apakah alasan diperlukan untuk AI, atau bahkan untuk mengetahui apa itu terdiri. Kita tidak bisa merekayasa atau mencela kesadaran untuk AI sampai kita sadar akan signifikansinya. Saya bertaruh, bagaimanapun, bahwa semua orang yang membaca utas ini dan menimbang respons yang cerdas melakukannya dalam keadaan sadar. Bahwa dalam dan dari dirinya sendiri harus menjawab pertanyaan kita dengan memuaskan untuk saat ini.

Sejauh definisi yang Anda berikan:

benar-benar mengalami input indera yang bertentangan dengan hanya menempatkan banyak data melalui mesin mati.

Baik komputer dan manusia mengalami input sensorik. Anda bisa menghubungkan komputer ke bola mata manusia dan menjalankannya dengan rutinitas penyaringan yang sama dengan yang dilakukan otak manusia (menghilangkan keburaman saat Anda menggerakkan mata Anda, dan dari objek yang tidak fokus, dll).

Saya akan mengemukakan bahwa definisi kesadaran yang lebih akurat adalah kemampuan dan kecenderungan untuk merefleksikan diri. Baik komputer dan otak manusia memiliki aktivitas otonom. Tidak hanya mekanis tetapi juga dalam reaksi kita. Perbedaan antara komputer bawah sadar dan pikiran manusia yang sadar diri adalah bahwa kita juga memiliki kemampuan untuk 'melihat' pola-pola itu dalam diri kita sendiri dan mempertimbangkannya.

Jadi, tidak, kesadaran tidak diperlukan untuk tugas AI apa pun. Pengenalan gambar adalah tugas AI yang tidak membutuhkan kesadaran, baik pada manusia atau sebaliknya. Otak Anda menyortir 'sapuan' warna dari mata Anda menjadi benda-benda diskrit dengan cara yang sebagian besar otonom.

tl; kesadaran adalah referensi diri.

Dua jenis tugas membutuhkan kesadaran:

1. kesadaran

2. Tugas apa pun yang membutuhkan dinamika ekstrim, di mana penyelesaian masalah memerlukan analogi antara berbagai keadaan 3D dan pengetahuan sebelumnya tentang cara mengatasi masalah minimal

Namun, begitu pengetahuan tentang bagaimana menyelesaikan masalah yang diberikan diperoleh, optimasi lebih lanjut akan menghilangkan kebutuhan akan kesadaran.

Jika Anda memberikan kekhususan yang cukup untuk suatu masalah, Anda menghilangkan kebutuhan akan pemecah masalah umum. Dan kemudian satu-satunya kebutuhan yang tersisa untuk kesadaran adalah demi dirinya sendiri.

Dalam arti yang sangat khusus, saya akan mengatakan ya.

Satu-satunya tugas yang dimungkinkan oleh perasaan adalah perasaan dan pemikiran yang sebenarnya dalam dan dari dirinya sendiri. Pada titik ini, sentience tidak berperan dalam tugas apa pun yang kami minta diselesaikan AI; kami dengan cepat mendekati titik untuk dapat mengajarkan mesin 'mati' untuk melakukan hampir semua hal yang dapat dilakukan oleh AI, dalam arti praktis.

Sentience bahasa sehari-hari sering diterjemahkan menjadi 'kemampuan untuk berpikir sambil memahami bahwa diri sendiri dan setiap entitas lain adalah agen akting yang berbeda'atau sesuatu di sepanjang garis itu. Secara harfiah berarti sesuatu yang lebih sejalan dengan kesadaran diri dan definisi kesadaran yang Anda miliki di atas. Maksud saya adalah bahwa kita siap mendekati titik di mana AI 'mati' dapat dengan sangat baik meniru cara berpikir pertama, hanya dengan benar-benar belajar dan menafsirkan data dengan sangat baik.

                              _{Apakah robot melihat penggabungan tulang, atau makhluk yang dulu?}

Dengan demikian, mesin yang benar-benar mahluk hidup akan lebih unggul dalam kemampuan (dibandingkan dengan AI 'mati' yang benar-benar canggih) hanya dalam hal kemampuan untuk 'benar-benar' mengalami informasi.

Ini berjalan sangat baik secara paralel dengan apa yang disebut "Argumen Pengetahuan" yang pada dasarnya memperdebatkan masalah ini. Versi yang saya dengar yang melekat pada saya adalah bahwa ada seorang gadis yang sangat pintar di sebuah ruangan dengan akses ke semua jenis informasi. Dia suka warna biru. Atau begitulah menurutnya; dia tidak pernah melihatnya. Dia memiliki semua informasi di dunia yang tersedia tentang warna dan cara kerjanya, dll. Tetapi apakah dia benar-benar tahu apa warna biru sampai dia melihatnya?

Usaha besar lain yang bersejarah dalam bidang ini adalah lukisan terkenal:

Judulnya diterjemahkan: "Ini bukan pipa". Dan idenya adalah bahwa ini, jujur, bukan pipa. Saat ini ada banyak piksel di layar Anda dalam konfigurasi tertentu - kita semua bisa 'melihat' sebuah pipa, tetapi apa artinya itu?

Pada akhirnya, saya pikir AI 'mati' yang sangat cerdas bisa melakukan apa saja yang bisa 'hidup', dengan yang terakhir unggul di dalam dan 'liveness' itu sendiri.

Makhluk tanpa perasaan tidak bisa menderita. Jika, misalnya, kami ingin bersukacita dalam penderitaan orang lain, hanya AI yang hidup saja yang cukup.

Misalkan kita memiliki beberapa sadis yang tidak dapat puas atau produktif kecuali mereka harus menghasilkan banyak penderitaan. Dan katakan kita hanya peduli untuk meminimalkan penderitaan manusia dan hewan. Apa yang kita perlukan untuk pekerjaan ini adalah sesuatu yang bukan manusia dan bukan hewan yang bisa menderita. AI yang sadar akan melakukannya, yang tidak sadar tidak akan melakukannya.

Pernyataan itu dibuat dalam komentar bahwa kesadaran tidak dapat dibuktikan, selain mungkin dengan introspeksi. Tetapi jelas ini bukan masalah karena orang sadis bersukacita dalam menyiksa orang lain, dan orang lain itu tidak dapat membuktikan bahwa mereka juga sadar.