Apakah AlphaZero adalah contoh AGI?

Dari makalah penelitian DeepMind di arxiv.org:

Dalam tulisan ini, kami menerapkan algoritma yang sama tetapi sepenuhnya generik, yang kami sebut AlphaZero , untuk permainan catur dan shogi serta Go, tanpa pengetahuan domain tambahan selain aturan permainan, menunjukkan bahwa pembelajaran penguatan tujuan umum algoritma dapat mencapai, tabula rasa, kinerja manusia super di banyak domain yang menantang.

Apakah ini berarti AlphaZero adalah contoh AGI (Kecerdasan Umum Buatan)?

Pertanyaan bagus!

• AlphaZero, meskipun merupakan tonggak utama, pasti bukan AGI :)

AlphaGo, meskipun kuat di permainan Go, sangat kuat ("AI kuat-sempit"), didefinisikan sebagai kekuatan dalam satu masalah atau jenis masalah (seperti Go dan game informasi sempurna lainnya yang tidak kebetulan).

• AGI, setidaknya, harus sekuat manusia dalam semua masalah yang dikerjakan atau diselesaikan oleh manusia.

AGI sering dikaitkan dengan kecerdasan super , yang didefinisikan sebagai kecerdasan yang melampaui level manusia.

AGI tidak selalu menyiratkan kecerdasan super, dalam arti bahwa kami akan mempertimbangkan android yang dapat melakukan semua aktivitas manusia dengan kemampuan yang sama dengan manusia sebagai Inteligensi Umum Buatan .

Tetapi secara teknis, AlphaGo adalah kecerdasan super sempit karena melampaui semua kinerja manusia dalam satu masalah.

Asumsi Yang Mungkin Salah

Ada dua asumsi yang dapat diidentifikasi dalam nada tulisan.

• Semua tantangan mental dapat direduksi menjadi game dengan aturan tetap.
• Mesin lebih baik daripada manusia adalah apa yang benar-benar diinginkan atau dibutuhkan manusia.

Ada dua lagi yang bisa diidentifikasi dalam pertanyaan itu.

• Kecerdasan umum ada pada manusia ¹
• Jika ada pada manusia, oleh karena itu layak di komputer.

Keempatnya mungkin benar, tetapi tidak satu pun dari keempatnya yang pasti.

Produktivitas AlphaZero

Jika papan catur kami ada di rak permainan di lemari kami, rumput kami panjang, dan mesin pemotong rumput kami rusak, AlphaZero, jika terhubung ke robot humanoid, tidak akan memiliki aturan permainan yang dikodekan untuk urutan tugas.

• Mendengarkan permintaan pemiliknya,
• Belajar cara menguasai boneka robot,
• Menemukan dan mengidentifikasi semua alat dan suku cadang kami,
• Memperbaiki mesin pemotong rumput, dan
• Memberitahu kami bahwa mesin pemotong rumput siap digunakan.

Oleh karena itu tidak ada nilai konsumen tertentu bagi kami dalam skenario itu. Tidak terlalu umum.

Bahkan jika itu bisa memotong rumput dengan mesin pemotong rumput yang sudah bekerja, itu akan bernilai, yang tidak memerlukan kemampuan untuk memenangkan apa pun melainkan kemampuan untuk mematuhi dan menunjukkan kecerdasan sub-manusia yang diperlukan untuk tidak melindas hamparan bunga.

Bahwa orang-orang pintar dari DeepMind memilih untuk menggunakan bahasa Latin tabula rasa daripada papan tulis kosong adalah penting, tetapi hampir tidak mengesankan seperti membangun sebuah program pembelajaran yang dapat belajar memainkan tiga game dengan baik dengan hanya aturan yang disandikan dan permainan yang sebenarnya sebagai input.

Untuk mempertimbangkan program-program game ini benar-benar berguna dalam ruang produk, orang tidak dapat mengandalkan minat berkelanjutan dalam membeli perangkat lunak yang mengalahkan pembeli setiap saat. Agar produk AI dapat berjalan, fitur pembelajaran harus mampu dari apa yang secara sehari-hari disebut akal sehat, yang membutuhkan pengetahuan domain yang jauh lebih luas dan fleksibel daripada aturan permainan yang sudah ditentukan. Kita bisa menebak bahwa sebagian besar peneliti yang telah mencapai tonggak dalam memenangkan pembelajaran bermain game mendorong ke arah itu. Mereka juga tahu hasil penelitian mereka pada akhirnya harus diproduksi atau mengarah pada penawaran SaaS yang dapat dibeli.

Apa yang akan mengesankan bagi mereka di luar lapangan adalah jika kemajuan ini dapat diarahkan, di ruang pusat data, untuk menghasilkan terapi gen perbaikan untuk menyembuhkan kanker atau herpes atau membalikkan diabetes atau Alzheimer. Kemudian kita bisa memaafkan peneliti karena tidak memberi kita unduhan yang bisa menguasai robot untuk membersihkan kamar mandi kita. Tidak jelas dari surat kabar bahwa AlphaZero telah cukup menunjukkan bahwa itu menunjukkan, "Kinerja manusia super di banyak domain yang menantang."

Apa yang telah mereka lakukan masih mengesankan dan sejalan dengan yang orang lain telah membuat kemajuan juga. Beberapa dari kita akan berani mencoba membuat game yang program pembelajaran gim generik ini tidak akan belajar dengan cepat dan mengalahkan kita dalam beberapa contoh gim.

Uang Muka Dilihat dalam Perspektif

Tentu saja dalam melakukan aritmatika, menyortir surat, dan sekarang bermain game, penemuan manusia memperluas kemampuan manusia telanjang, tanpa alat-alatnya. Kemajuan itu menempatkan sistem komputer dengan kuat dalam bidang alat. Cangkul punggung juga manusia super. Cobalah untuk meletakkan satu kilometer pipa tanpa pipa.

Sebaliknya, manusia memainkan peran sebagai penyedia layanan kesehatan untuk komputer. Jika mereka sakit atau gagal, kami terpaksa mengeluarkan virus dan worm mereka atau mengganti bagian yang gagal. Kalau tidak, rumah dan bisnis kita akan berantakan.

Teknologi, seperti dalam semua hal, harus dilihat dalam perspektif.

Akan lebih bijaksana bagi manusia untuk tidak terlalu terpesona dengan permainan dan mengalahkan satu sama lain dan lebih fokus pada perilaku sosial kolaboratif yang diarahkan pada penyelesaian masalah sosial dan ekonomi dengan alat yang baru ditemukan dan melakukannya dengan cara yang tidak menciptakan masalah baru atau mengundang kekejaman baru.

Catatan kaki

Bahwa apa yang telah digambarkan sebagai kecerdasan umum ada pada manusia tidak dapat disangkal atas dasar bukti yang bertentangan. Banyak yang akan menyebut strategi dan tren ini sebagai bukti keterbatasan kecerdasan manusia.

• Pencegahan nuklir sebagai strategi perdamaian
• Kurangnya moderasi dalam konsumsi sumber daya energi alam terbatas, kritis
• Terus meningkatkan kepadatan pola kecanduan global
• Menyebabkan kepunahan massal keenam di bumi