Seberapa pentingkah kesadaran untuk membuat kecerdasan buatan tingkat lanjut?

14

Seberapa pentingkah kesadaran dan kesadaran diri untuk membuat AI tingkat lanjut? Seberapa jauh kita membuat itu?

Ketika membuat misalnya jaringan saraf, kemungkinan besar tidak ada kesadaran di dalamnya, tetapi hanya matematika di belakang, tetapi apakah kita perlu AI untuk menjadi sadar untuk menyelesaikan tugas yang lebih kompleks di masa depan? Lebih jauh lagi, apakah sebenarnya ada cara yang bisa kita ketahui secara pasti apakah sesuatu itu disadari, atau apakah itu hanya dipalsukan? Itu "mudah" untuk membuat program komputer yang mengklaim itu sadar, tetapi itu tidak berarti itu (misalnya Siri).

Dan jika AI hanya didasarkan pada aturan yang telah ditentukan tanpa kesadaran, dapatkah kita menyebutnya "kecerdasan"?

Pak Eivind
sumber
3
Kita bahkan tidak tahu apakah manusia lain sadar ...
DrMcCleod

Jawaban:

11

Kesadaran artifisial adalah tujuan teoritis dan rekayasa yang menantang. Setelah tantangan besar itu dipenuhi, kesadaran komputer akan dirinya sendiri kemungkinan akan menjadi tambahan kecil, karena komputer sadar hanyalah objek lain yang kesadarannya dapat disadari.

Seorang anak dapat melihat di cermin dan mengenali bahwa menggerakkan tangan mereka bolak-balik atau membuat wajah menghasilkan perubahan yang sesuai dalam pantulan. Mereka mengenali diri mereka sendiri. Kemudian mereka menyadari bahwa menggunakan kontrol fisik atas gerakan mereka sendiri jauh lebih mudah daripada menggunakan kontrol atas tangan atau wajah orang lain.

Beberapa belajar bahwa kontrol terbatas pada wajah dan operasi manual dari orang lain dimungkinkan jika keterampilan sosial dan ekonomi tertentu dikuasai. Mereka menjadi pengusaha, tuan tanah, investor, aktivis, penulis, direktur, tokoh masyarakat, atau pengusaha.

Siapa pun yang telah mempelajari ilmu-ilmu kognitif atau mengalami garis di antara jenis-jenis pemikiran karena mereka adalah penasihat profesional atau hanya pendengar yang dalam, tahu bahwa garis-garis di sekitar kesadaran itu buram. Pertimbangkan ini.

  • Mendengarkan pidato
  • Menonton adegan
  • Berfokus pada permainan
  • Menghadirkan ide
  • Mencuci untuk bekerja
  • Mengendarai sebuah mobil
  • Memilih pembelian

Salah satu dari hal-hal ini dapat dilakukan dengan atau tanpa jenis kesadaran, bawah sadar, impuls, atau kebiasaan tertentu.

Subyektif, orang-orang melaporkan keluar dari mobil dan tidak ingat pernah pulang. Seseorang dapat mendengarkan seseorang berbicara, mengangguk sebagai penegasan, merespons dengan, "Ya, saya mengerti," dan bahkan mengulangi apa yang mereka katakan, namun tampaknya tidak memiliki memori dari isi pidato jika ditanya secara mendalam. Seseorang dapat membaca paragraf dan mencapai akhir tanpa pemahaman.

Sebaliknya, seseorang mungkin dengan sadar mencuci untuk bekerja, mengingat pentingnya kebersihan dan memperhatikan seperti seorang ahli bedah yang bersiap untuk operasi, memperhatikan bau sabun dan bahkan klorinasi air kota.

Di antara kedua ekstrem itu, kesadaran parsial juga dapat dideteksi melalui eksperimen dan dalam pengalaman pribadi. Kesadaran jelas membutuhkan fungsi perhatian, yang secara sementara mengawasi koordinasi sub-sistem otak-tubuh lainnya.

Setelah sistem biologis atau buatan mencapai kapasitas untuk berkoordinasi dengan penuh perhatian, objek dan tugas yang dapat dikoordinasikan dapat dipertukarkan. Pertimbangkan ini.

  • Dialog
  • Bermain untuk menang
  • Mendeteksi kejujuran atau ketidakjujuran

Sekarang pertimbangkan seberapa mirip atau berbeda kegiatan mental ini ketika kita membandingkan perhatian yang diarahkan sendiri atau yang diarahkan secara eksternal.

  • Seseorang dapat berbicara dengan dirinya sendiri atau berbicara dengan orang lain
  • Seseorang dapat memainkan kedua sisi permainan catur atau bermain melawan yang lain
  • Seseorang dapat meneliti motif sendiri atau motif orang lain

Ini adalah ilustrasi mengapa bagian diri dari kesadaran diri bukanlah tantangan dalam AI. Koordinasi yang penuh perhatian (namun sementara) yang sulit. Mikroprosesor awal, yang dirancang untuk bekerja dalam sistem kontrol waktu nyata, termasuk (dan masih termasuk) pensinyalan pengecualian yang secara sederhana memodelkan sifat tentatif ini. Misalnya, saat bermain untuk menang dalam permainan, orang mungkin mencoba untuk memulai dialog dengan subjek. Perhatian dapat bergeser ketika kedua aktivitas tersebut membutuhkan sub-sistem yang sama.

Kita cenderung mempertimbangkan peralihan kesadaran perhatian ini juga. Jika kita adalah orang yang mencoba memulai dialog dengan orang yang bermain untuk menang, kita mungkin berkata, "Halo?" Tanda tanya adalah karena kami bertanya-tanya apakah pemainnya sadar.

Jika seseorang mengurangi makna kesadaran dengan kriteria paling dasar, orang mungkin mengatakan ini.

"Jaring saraf saya cerdas dalam beberapa hal kecil karena ia sadar akan perbedaan antara kriteria konvergensi saya dan perilaku jaringan saat ini karena parametrized, jadi itu benar-benar contoh kecerdasan buatan, meskipun yang primitif."

Tidak ada yang salah tentang pernyataan itu. Beberapa orang menyebutnya, "Intelijen Sempit." Itu adalah karakterisasi yang sedikit tidak akurat, karena mungkin ada sejumlah aplikasi astronomi dari jaringan buatan dalam yang sewenang-wenang yang menggunakan banyak teknik paling efektif yang tersedia dalam desainnya.

Masalah lain dengan kesempitan sebagai karakterisasi adalah kesimpulan bahwa ada sistem cerdas yang tidak sempit. Setiap sistem cerdas sempit dibandingkan dengan sistem yang lebih cerdas. Pertimbangkan eksperimen pikiran ini.

Hannah menulis sebuah makalah tentang kecerdasan umum dengan keunggulan, baik dalam perawatan teoretis maupun dalam keterampilan menulis. Banyak yang mengutip dan merujuknya. Hannah sekarang sangat sukses dalam karir AI-nya sehingga dia memiliki uang dan waktu untuk membangun sistem robot. Dia mendasarkan desainnya pada kertas yang sekarang terkenal dan tidak ada biaya.

Yang mengejutkannya, robot yang dihasilkan begitu adaptif sehingga kemampuan beradaptasinya bahkan melebihi dirinya sendiri. Dia menamakannya Georgia Tech untuk bersenang-senang karena dia tinggal di dekat universitas.

Georgia menjadi teman baik. Dia belajar pada tingkat yang luar biasa dan merupakan teman serumah yang luar biasa, membersihkan lebih baik dari yang diperkirakan Hannah secara manusiawi, yang mungkin benar secara harfiah.

Georgia berlaku untuk Georgia Tech, di ujung jalur bus dari rumah Hannah dan mempelajari kecerdasan buatan di sana. Setelah meraih gelar PhD setelah hanya tiga tahun belajar, Georgia duduk bersama Hannah setelah menghadiri sebuah pesta Publikasi Tesis yang diadakan Hannah dengan ramah.

Setelah tamu terakhir pergi, ada saat hening ketika Hannah menyadari keadaan sebenarnya dari rumahnya. Dia berpikir, "Apakah Georgia sekarang akan melebihi saya dalam penelitiannya?" Hannah akhirnya, dengan malu-malu bertanya, "Dengan kejujuran penuh, Georgia, apakah Anda pikir Anda sekarang memiliki kecerdasan umum seperti saya?"

Ada jeda. Dengan pandangan kerendahan hati yang dipaksakan, Georgia menjawab, "Menurut definisi Anda tentang kecerdasan umum, saya. Anda tidak lagi."

Apakah kisah ini menjadi kenyataan pada 2018, 3018, atau tidak pernah, prinsipnya jelas. Georgia juga dapat menganalisis dirinya sendiri secara komparatif dengan Hannah sebagaimana Hannah juga mampu. Dalam ceritanya, Georgia menerapkan definisi yang dibuat dalam makalah Hannah karena Georgia sekarang mampu memahami banyak definisi kecerdasan dan memilih Hannah sebagai yang paling relevan dalam konteks percakapan.

Sekarang bayangkan perubahan cerita ini.

... Dia berpikir, pada level apa Georgia berpikir? Hannah akhirnya, dengan malu-malu bertanya, "Dengan kejujuran penuh, Georgia, apakah Anda sekarang sadar seperti saya?"

Georgia berpikir melalui ingatan semua penggunaan kata sadar dalam penelitiannya yang lalu - seribu referensi dalam ilmu kognitif, sastra, hukum, neurologi, genetika, operasi otak, perawatan cedera otak, dan penelitian kecanduan. Dia berhenti selama beberapa mikrodetik untuk mempertimbangkan semuanya dengan saksama, sementara pada saat yang sama merasakan suhu tubuh teman sekamarnya, keseimbangan neuro-kimia, tren motorik otot wajah, dan bahasa tubuh.

Dengan hormat, dia menunggu 3,941701 detik tambahan, yang dia hitung sebagai penundaan yang akan meminimalkan penghinaan kepada Hannah, yang dia cintai, dan menjawab, "Sadar apa?"

Sebuah,b,...C, dari sebuah skenario s, kami memiliki definisi, Φc yang dapat diterapkan untuk mengevaluasi agregat semua aspek kesadaran dari setiap otomatisasi, x, memberi Φc(Cx(s)). Hipotesis Georgia (tampaknya sudah terbukti) adalah demikian.

Φc(CSebuah(s))b,ϵ>0Φc(Cb(s))+ϵ>Φc(CSebuah(s))

Ini adalah cara matematis untuk mengatakan bahwa selalu ada seseorang atau sesuatu yang lebih sadar akan suatu skenario tertentu, apakah dia, dia, atau tidak ada. Mengubah kriteria evaluasi dari kesadaran menjadi kecerdasan, demikian kita miliki.

Φsaya(CSebuah(s))b,ϵ>0Φsaya(Cb(s))+ϵ>Φsaya(CSebuah(s))

Orang hanya dapat menduga bahwa makalah Hannah mendefinisikan kecerdasan umum relatif terhadap apa pun yang paling cerdas di sekitarnya, yang dulunya adalah manusia yang berpendidikan baik. Dengan demikian definisi kecerdasan Hannah adalah dinamis. Georgia menerapkan formula yang sama untuk situasi baru di mana dia sekarang menjadi standar yang dengannya kecerdasannya lebih kecil.

Mengenai kemampuan untuk mengkonfirmasi kesadaran, sebenarnya lebih mudah untuk mengkonfirmasi daripada kecerdasan. Pertimbangkan eksperimen pikiran ini.

Jack bermain catur dengan Dylan menggunakan set catur baru yang dibeli Jack. Terlepas dari keindahan estetika set baru ini, dengan onyx putih dan potongan-potongan batu akik hitam, Dylan menggerakkan masing-masing bagian dengan kecakapan dan Jack skakmat. Jack bertanya-tanya apakah Dylan lebih pintar daripada dia dan bertanya apa yang akan menjadi pertanyaan normal dalam kondisi itu.

"Dylan, sobat, sudah berapa lama kamu bermain catur?"

Terlepas dari jawaban dan terlepas apakah Dylan adalah robot dengan prosesor kuantum AI tingkat lanjut atau manusia, kecerdasan Dylan tidak dapat diukur dengan andal. Namun, tidak ada keraguan bahwa Dylan sadar akan permainannya.

Dalam contoh-contoh dalam daftar di bagian atas jawaban ini, ada serangkaian persyaratan tertentu untuk dikualifikasikan sebagai kesadaran. Untuk kasus bermain Jack dan Dylan, beberapa hal HARUS bekerja dalam konser.

  1. Pengakuan visual dari keadaan dewan
  2. Kontrol motorik lengan dan tangan untuk memindahkan potongan
  3. Deteksi taktil di ujung jari dan ibu jari
  4. Kordinasi tangan-mata
  5. Pegang koordinasi
  6. Model cara memindahkan potongan papan secara fisik
  7. Model aturan catur dalam memori
  8. Sebuah model bagaimana menang ketika memainkannya (atau kekuatan komputasi astronomi untuk mencoba segala kemungkinan permutasi yang masuk akal)
  9. Representasi internal negara dewan
  10. Eksekusi perhatian, secara visual dan dalam hal tujuan menang
  11. Prioritas yang memutuskan, tidak terkait dengan peluang bertahan hidup atau akumulasi aset, apakah akan mengalahkan Jack dalam catur, melakukan sesuatu yang lain, atau tidak sama sekali (tidak deterministik jika gagasan kuno dan umum tentang otonomi sebab akibat jiwa adalah benar)

Topologi koneksi adalah sebagai berikut, dan mungkin ada lebih banyak.

1 ⇄ 4 ⇄ 2

3 ⇄ 5 ⇄ 2

4 ⇄ 6 ⇄ 5

7 ⇄ 8 ⇄ 9

6 ⇄ 10 ⇄ 8

10 ⇄ 11

Ini adalah salah satu dari banyak topologi integrasi yang mendukung salah satu dari banyak jenis hal yang dapat diterapkan kesadaran.

Apakah melihat ke cermin hanya untuk persiapan bekerja atau melihat secara mendalam, mempertimbangkan pertanyaan ontologis, "Siapa saya?" setiap campuran kesadaran, bawah sadar, impuls, dan kebiasaan membutuhkan topologi spesifik dari ciri-ciri mental. Setiap topologi harus dikoordinasikan untuk membentuk perwujudan kesadarannya yang spesifik.

Untuk mengatasi beberapa sub-pertanyaan lainnya, mudah untuk membuat mesin yang mengklaim dirinya sadar bahwa perekam suara digital dapat diprogram untuk melakukannya dalam lima detik dengan merekam diri Anda mengatakannya.

Membuat robot membaca jawaban ini atau konsepsi lain, mempertimbangkannya dengan sungguh-sungguh, dan kemudian menyusun kalimat dari pengetahuan kosa kata dan kebiasaan bicara manusia untuk memberi tahu Anda kesimpulannya adalah tugas yang sama sekali berbeda. Pengembangan robot semacam itu mungkin membutuhkan 1.000 tahun penelitian AI lebih lanjut. Mungkin sepuluh. Mungkin tidak pernah.

Pertanyaan terakhir, beralih dari jamak ke tunggal adalah, "Jika [perangkat kecerdasan artifisial] hanya [beroperasi] pada aturan yang telah ditentukan, tanpa kesadaran, dapatkah kita menyebutnya cerdas?" Jawabannya tentu tergantung pada definisiΦsaya di atas, dan, karena keduanya Φc maupun Φsayamemiliki definisi standar dalam komunitas AI, orang tidak dapat menentukan lintas-entropi atau korelasi. Itu tidak bisa ditentukan.

Mungkin definisi formal Φc dan Φsaya sekarang dapat ditulis dan diserahkan ke IEEE atau beberapa badan standar.

Douglas Daseeco
sumber
Pemahaman saya tentang penggunaan baru "kesempitan" adalah bahwa ia menyiratkan kinerja yang kuat dalam tugas tertentu, berbeda dari penggunaan tradisional "AI stong" sebagai AGI.
DukeZhou
1
Apakah Anda terbiasa dengan apa yang disebut "masalah kesadaran" ( en.wikipedia.org/wiki/Hard_problem_of_c kesadaranness )? Saya pikir menggambarkan deskripsi fungsional kesadaran, tanpa menanyakan hal-hal seperti "mengapa qualia ada?" semacam meremehkan seluruh pertanyaan.
Steven Sagona
2
Jawaban yang menarik, meskipun itu dosa besar, seperti menyatakan - "Mengenai kemampuan untuk mengkonfirmasi kesadaran, sebenarnya lebih mudah untuk mengkonfirmasi daripada kecerdasan." Itu di luar 'berani', secara halus. Saya sadar - itu, saya tahu. Aku tidak bisa menjamin makhluk hidup lain, sungguh. Dan saya bahkan tidak bisa membayangkan "kapan / bagaimana" saya menjadi sadar. Pada titik tertentu saya tidak - sebelum kelahiran & pembuahan. Hari ini aku. Bagaimana dan kapan tepatnya hal itu terjadi? Seperti yang dikatakan @StevenSagona - Kesadaran adalah masalah yang sangat sulit. Memperlakukan sama mudahnya dengan melemahkan (dan menyimpang) dari pertanyaan.
Vinícius M
Saya percaya Anda mencampur dua konsep yang mungkin berbeda: perhatian dan kesadaran.
1919
0

Sadar diri AI penting karena kesadaran adalah apa yang membuat kita menjadi manusia. Dan para ilmuwan berusaha mengembangkan AI yang lebih dekat dengan manusia dan perilaku manusia. Proses berpikir manusia sangat rumit dan untuk mengembangkannya dalam AI dapat benar-benar menggantikan kita dengan robot yang memiliki kesadaran. Satu-satunya alasan AI tidak mengambil pekerjaan yang melibatkan pengambilan keputusan karena mereka tidak memiliki kesadaran.

Shirin Mohanty
sumber
2
Saya pikir ini membutuhkan beberapa kutipan dan definisi. Saya pribadi tidak akan setuju dengan "kesadaran adalah apa yang membuat kita menjadi manusia", karena definisi kesadaran saya memungkinkan tingkat kesadaran dan saya berasumsi bahwa hewan yang lebih kompleks - misalnya kebanyakan mamalia - sadar. Saya juga percaya bahwa kesadaran terpisah dari penalaran - misalnya, mungkin untuk sadar dan dalam kondisi mental yang sepenuhnya dikendalikan oleh respons emosional dan bukan pengambilan keputusan yang rasional. Namun, Anda mungkin bekerja dengan definisi yang berbeda - itu sebabnya Anda perlu menambahkannya ke jawabannya.
Neil Slater