Lingkungan simulasi seperti apa yang cukup kompleks untuk mengembangkan AI umum?

Bayangkan mencoba menciptakan lingkungan virtual simulasi yang cukup rumit untuk membuat "AI umum" (yang saya definisikan sebagai AI yang sadar diri) tetapi sesederhana mungkin. Seperti apa lingkungan minimal ini?

yaitu lingkungan yang hanya permainan catur akan terlalu sederhana. Program catur tidak bisa menjadi AI umum.

Lingkungan dengan beberapa agen bermain catur dan mengkomunikasikan hasil mereka satu sama lain. Apakah ini merupakan AI umum? (Jika Anda dapat mengatakan grand master catur yang berpikir tentang catur sepanjang hari memiliki 'AI umum'? Selama waktunya memikirkan catur, apakah ia berbeda dengan komputer catur?).

Bagaimana dengan dunia seperti 3D sim. Itu sepertinya terlalu rumit. Lagi pula mengapa AI umum tidak bisa ada di dunia 2D.

Apa yang akan menjadi contoh lingkungan sederhana tetapi tidak terlalu sederhana sehingga AI (s) dapat memiliki kesadaran diri?

Saya pikir ini adalah salah satu pertanyaan terkait AGI terbaik yang pernah saya lihat di forum ini.

Saya akan melewatkan semua tematik tentang "apa itu AGI", "game simulasi", ... Topik-topik ini telah dibahas selama beberapa dekade dan saat ini, menurut saya, adalah jalan buntu.

Jadi, saya hanya bisa menjawab dengan pengalaman pribadi saya:

Ini adalah teorema dasar dalam komputasi bahwa sejumlah dimensi, termasuk dimensi temporal, dalam ruang ukuran terbatas, dapat direduksi menjadi 1D.

Namun, dalam contoh-contoh praktis, representasi 1D menjadi sulit untuk dianalisis dan divisualisasikan. Ini adalah pekerjaan yang lebih praktis dengan grafik, yang dapat dilihat sebagai perantara antara 1D dan 2D. Grafik memungkinkan representasi semua fakta dan hubungan yang diperlukan.

Sebagai contoh, jika kita mencoba mengembangkan AGI yang dapat bekerja di bidang matematika, ungkapan apa pun (bahwa manusia yang kita tulis dalam representasi 2D dengan rasional, subskrip, integral, ...) dapat direpresentasikan sebagai 1D (sebagai ekspresi ditulis dalam sumber program) tetapi 1D ini harus diuraikan untuk mencapai grafik yang dapat dianalisis atau dieksekusi. Dengan demikian, grafik yang dihasilkan setelah penguraian ekspresi adalah representasi paling praktis.

Contoh lain, jika kita menginginkan agen yang bergerak melintasi dunia 3D, dunia ini dapat dilihat sebagai ruang kosong dengan objek yang memiliki beberapa properti. Sekali lagi, setelah tahap awal analisis adegan dan pengenalan objek (setara dengan parser dalam contoh sebelumnya), kita mencapai grafik.

Jadi, untuk benar-benar bekerja di bidang AGI, saya sarankan lewati masalah analisis adegan, pengenalan objek, pengenalan suara (Narrow AI), dan bekerja langsung di atas grafik yang representatif.

Saya pikir yang paling penting adalah bahwa ia harus disimulasikan dalam beberapa cara. Pikirkan chatbot sadar diri. Maka untuk menjadi "sadar diri" lingkungan bisa menjadi data yang dimasukkan melalui waktu yang dapat dibedakan sebagai "diri" dan "lainnya". Maksud saya, maksud saya "diri" adalah bagian yang dipengaruhi secara langsung dan "lain" adalah bagian yang dipengaruhi secara tidak langsung atau tidak sama sekali. Selain itu mungkin dapat hidup di dalam lingkungan yang cukup abstrak. Alasan mengapa waktu begitu penting adalah tanpa itu algoritma kognitif hanya menyelesaikan masalah matematika.

AI Umum dapat benar-benar ada dalam dunia 2D, hanya saja AI yang digeneralisasi (didefinisikan di sini sebagai "kekuatan yang konsisten di seluruh rangkaian masalah") dalam konteks ini masih akan sangat berbeda dari Kecerdasan Umum Buatan , yang didefinisikan sebagai "suatu algoritma yang dapat melakukan tugas intelektual yang dapat dilakukan manusia. "

Bahkan di sana, definisi AGI tidak jelas, karena "manusia yang mana?" (Kecerdasan manusia adalah spektrum, di mana individu memiliki tingkat kemampuan pemecahan masalah yang berbeda dalam konteks yang berbeda.)

Kesadaran Buatan : Sayangnya, kesadaran diri / kesadaran adalah masalah yang sangat metafisik, berbeda dari kemampuan pemecahan masalah (kecerdasan).

Anda pasti ingin melihat " Kamar Cina " dan bantahan.

Mungkin layak untuk melihat prinsip holografik : "sebuah konsep dalam fisika di mana ruang dianggap sebagai hologram dimensi n-1." Tentunya model dan game dapat disusun dengan cara ini.

Tempat lain untuk mengeksplorasi adalah teori-teori munculnya superintelijen di Permainan Kehidupan Conway yang tak terbatas . (Singkatnya, pemahaman saya adalah bahwa begitu para peneliti menemukan cara untuk menghasilkan angka apa pun dalam automata seluler, kemungkinan timbulnya perasaan yang diberi gameboard dengan ukuran yang cukup setidaknya secara teori bagus.)

Dari jawaban sejauh ini, yang dari @DukeZhou adalah yang paling provokatif. Misalnya, referensi ke kritik Kamar Cina memunculkan pendapat Searle bahwa beberapa bentuk intensionalitas mungkin memerlukan dukungan dalam lingkungan buatan. Ini mungkin menyiratkan perlunya sistem nilai atau sistem kenikmatan-sakit, yaitu sesuatu di mana konsekuensi baik dapat "dialami" atau dicari secara aktif dan konsekuensi buruk dihindari. Atau beberapa potensi kepunahan individu (kematian atau pemutusan hubungan kerja) mungkin perlu dikenali. The kemungkinan "ego-mati"mungkin perlu memiliki nilai negatif yang tinggi. Itu mungkin menyiratkan dunia artifisial harus mencakup "pikiran lain" atau agen lain, yang dapat diamati oleh agen cerdas yang muncul atau belajar (dalam beberapa hal) dan "merenungkan", yaitu mengenali kecerdasan seperti miliknya. Dalam pengertian ini, silogisme Cartesian "karena itu saya pikir saya" akan ditransmutasikan menjadi: Saya (atau lebih tepatnya saya sebagai AI) melihat bukti pemikiran orang lain, dan "ya ampun, 'saya juga bisa". "Orang lain" itu bisa berupa sistem pembelajaran lain (AGI) atau kontak dengan input terpisah dari manusia yang dimediasi oleh lingkungan buatan. Diskusi Wikipedia tentang "tes Turing terbalik"

Penyebutan dimensionalitas harus memprovokasi diskusi tentang apa yang akan menjadi kedalaman representasi yang diperlukan dari "fisika" dunia di luar AI. Beberapa representasi waktu dan ruang tampaknya perlu, yaitu beberapa substruktur dimensi untuk kemajuan ke pencapaian tujuan. The Blocks World adalah masalah mainan awal yang solusinya memicu optimisme di tahun 60-an dan 70-an abad lalu bahwa kemajuan besar sedang dibuat. Saya tidak mengetahui adanya upaya untuk memprogram dalam rasa sakit atau kesenangan dalam program SHRDLU pada masa itu (tidak ada hambatan di jari-jari program), tetapi semua representasi fiksi ilmiah yang menarik dari AI memiliki pengakuan akan konsekuensi buruk "fisik" di "dunia nyata".

Sunting: Saya akan menambahkan kebutuhan untuk "entitas dengan fitur" di lingkungan ini yang bisa "dirasakan" (oleh "orang lain" yang berinteraksi dengan AGI) sebagai input data untuk upaya induksi, identifikasi , dan kesimpulan tentang hubungan. Ini menciptakan dasar untuk "pengalaman" bersama.

Meskipun jawaban yang bagus dari @pasaba por aqui, saya setuju dengan @zooby bahwa grafik mungkin terlalu sederhana. Jika manusia berada di lingkungan di mana pilihannya tenggelam atau mengambil 5000 langkah yang tidak terkait untuk membangun kapal, kita tidak akan pernah menyeberangi lautan. Saya pikir setiap grafik, jika dirancang dengan tangan, tidak akan cukup kompleks untuk memanggil agen sebagai AI umum. Dunia akan membutuhkan cukup di antara negara-negara bahwa itu tidak akan lagi digambarkan sebagai grafik, tetapi setidaknya ruang multidimensi.

Saya pikir ada 2 poin yang harus Anda pertimbangkan. Apa itu "sederhana" dan kapan Anda mengenalinya sebagai "AI umum". Saya tidak menemukan AI sadar diri memuaskan, karena kita tidak bisa mengukur sesuatu yang disebut kesadaran; kita hanya bisa melihat keadaannya dan interaksinya dengan lingkungan.

Untuk 1. Saya berpendapat bahwa dunia tempat kita hidup sebenarnya cukup sederhana. Ada 4 kekuatan alam, beberapa hukum konservasi, dan banyak jenis partikel yang menjelaskan sebagian besar segalanya. Hanya saja ada banyak partikel-partikel ini dan ini telah menyebabkan dunia yang agak rumit. Tentu saja, ini mahal untuk disimulasikan, tetapi kita bisa mengambil beberapa jalan pintas. Orang 200 tahun yang lalu tidak membutuhkan semua mekanika kuantum untuk menjelaskan dunia. Jika kita mengganti proton, neutron, dan gaya kuat dengan atom dalam tabel periodik, kita sebagian besar akan baik-baik saja. Masalahnya adalah kita mengganti 3 undang-undang yang lebih umum dengan 100 contoh spesifik. Agar lingkungan yang disimulasikan cukup kompleks, saya pikir tren ini harus berlaku.

Yang membawa saya ke 2. Saya pikir kita hanya akan benar-benar puas dengan agen yang mengekspresikan AI umum ketika itu dapat dengan sengaja berinteraksi dengan lingkungan dengan cara yang akan membingungkan kita, sementara jelas mendapat manfaat darinya (jadi tidak sengaja). Sekarang itu mungkin cukup sulit atau memakan waktu yang sangat lama, jadi kondisi yang lebih santai adalah membangun alat yang kita harapkan akan dibangun, sehingga menunjukkan penguasaan lingkungannya sendiri. Sebagai contoh, bukti perahu telah ditemukan di suatu tempat antara 100 ribu dan 900 ribu tahun yang lalu, yang hampir sama dengan skala waktu ketika manusia purba berkembang. Namun, meskipun kita menganggap diri kita cerdas, saya tidak yakin kita akan menganggap agen pembuat perahu memiliki kecerdasan umum karena tampaknya seperti penemuan yang cukup sederhana. Tapi saya pikir kita akan puas setelah beberapa penemuan seperti itu.

Jadi saya pikir kita akan membutuhkan dunia seperti Sim, itu sebenarnya jauh lebih rumit daripada permainan. Dengan 1000-an jenis barang, banyak contoh dari setiap item dan derajat kebebasan yang cukup untuk berinteraksi dengan semuanya. Saya juga berpikir kita perlu sesuatu yang terlihat akrab untuk mengakui agen apa pun sebagai cerdas. Jadi dunia 3D, rumit, seperti minecraft akan menjadi dunia paling sederhana di mana kita akan mengenali kemunculan kecerdasan umum.

"Kecerdasan Umum Buatan" adalah sesuatu yang berbeda dari agen yang bertindak cerdas di lingkungan. Karena menurut literatur agen tersebut disebut "AI Sempit". Sistem AGI adalah lingkungan. Itu berarti, tantangan Micromouse terbaru adalah sistem AGI yang memiliki tujuan untuk mengembangkan sistem AI Sempit.

Mengembangkan AGI sama dengan mengembangkan kompetisi robotika. Ini diformalkan dalam buku peraturan dan bertindak sebagai lingkungan untuk belajar, memprogram perangkat lunak dan mendiskusikan hasilnya. Dalam setiap kasus, sistem AGI adalah kompetisi sosial, yang berarti menarik bagi tim untuk berpartisipasi dalam kompetisi. AGI tidak menjawab bagaimana merealisasikan kecerdasan, itu adalah ujian untuk mengukurnya. Apa yang disebut otak manusia, arsitektur kognitif, dan pemecah masalah umum tidak dikembangkan sebagai AI sempit untuk bertindak secara cerdas, tetapi dikembangkan sebagai tes turing untuk mesin yang cerdas.

Bagaimana kita bisa mengukur dengan program komputer jika program komputer lain cerdas? Satu kemungkinan adalah teori simulasi manusia. Itu berarti, kami menguji apakah program komputer berperilaku seperti manusia, dan tes turing memiliki kewajiban, untuk menguji memori jangka pendek, memori jangka panjang dan kemampuan untuk mempelajari hal-hal baru. Dalam bentuknya yang paling mudah, tes turing dapat dilakukan dengan bentuk sederhana yang harus diisi sebagai manusia, tetapi juga memungkinkan untuk mengeluarkan manusia dari lingkaran dan menggunakan komputer untuk menguji kecerdasan komputer lain. . Itulah tujuannya, SOAR, OpenCog dan AIXI dikembangkan.