Apakah kecerdasan seperti manusia adalah tujuan yang cerdas? [Tutup]

Tampaknya selalu menjadi fokus dalam literatur untuk memperkirakan komponen pikiran manusia, dengan asumsi itu menjadi yang paling maju. Jika hewan lain masuk ke lanskap AI, itu hanya untuk mempelajari primata dengan cara yang tidak praktis untuk mempelajari manusia atau mensimulasikan aktivitas saraf siput karena sistem sarafnya sederhana.

Mungkin ada alasan pemikiran lebih maju untuk mempertimbangkan menggunakan bentuk kehidupan yang lebih rendah sebagai model untuk kecerdasan buatan yang diinginkan. Saya telah membaca apa yang dikatakan EO Wilson dan yang lainnya tentang kemampuan kolaboratif spesies lain. Ada kualitas luar biasa dalam organisme sesederhana dan selektif bakteri. Tentu saja, semut adalah spesies model untuk kolaborasi. Lebah madu bisa dibilang paling paham konstruksi, membawa keberlangsungan gaya hidup dan keterkaitan dengan spesies lain ke bentuk seni yang jauh di atas kemampuan kecerdasan manusia.

Menggunakan analogi olahraga untuk mengkarakterisasi opsi, kecerdasan manusia lebih seperti olahraga gladiator pra-pencerahan atau setidaknya hoki es, di mana melukai lawan dianggap sebagai strategi yang cerdas. Yang dilakukan lebah lebih seperti pendakian gunung, konstruksi dengan presisi dan perawatan.

Apa yang dilakukan semut mirip dengan balap estafet, di mana ada sedikit ketertarikan pada tim lawan karena setiap koloni, seperti setiap jalur di jalur itu independen dan jalur ditandai. Semut juga menandai teritori mereka, dan klaim teritorial dihormati sebagai yang terbaik dari negarawan geopolitik Westphalian. Tidak ada kecemburuan kecil atau kompetisi semata-mata demi keunggulan kebanggaan. Dengan semut, seperti halnya dengan pelatih lintasan dan lapangan yang cerdas, tujuannya adalah bahwa setiap kaki perlombaan tampil baik melawan yang terbaik dari para pembalap estafet sebelumnya.

Bakteri adalah pelari jarak jauh. Mereka bertukar DNA dengan satu sama lain, dan mengabaikan semua aturan rasa sakit dan ketakutan. Mereka berperilaku secara berkelanjutan yang tidak menerima apa-apa begitu saja dan menggunakan segalanya untuk bertahan hidup. Dan mereka telah bertahan selama hampir seluruh durasi keberadaan bumi. Mereka kemungkinan akan ada sekitar seratus miliar tahun setelah umat manusia pergi, jika matahari tidak menjadi supernova terlebih dahulu.

Mengapa kita ingin memprogram komputer untuk berperilaku tanpa henti sebagai pesaing? Apakah orang mengunduh program catur pintar sehingga mereka berulang kali dapat kehilangan? Tidak, mereka mengunduh Android OS karena berkolaborasi dan tidak ada biaya. Tidak bisakah kita menemukan game non-zero-sum untuk dimainkan di mana skenario win-win dimungkinkan?

Bukankah kita sudah memiliki cukup agen back-biting, gosip, hyper-critical di sekitar dari dalam spesies kita sendiri? Mengapa tidak mengirim AI ke arah intelijen kolaboratif, seperti semut? Bukankah lebih baik memiliki teman-teman artifisial baru yang ingin berbagi beban tugas kita sehari-hari?

Bukankah kita ingin robot kita di masa depan dibangun seperti lebah madu, berbentuk segi enam? Atau apakah kita ingin robot kita mengikuti contoh kita, membuang 70% material dalam konstruksi vertikal karena desakan irasional pada sudut sembilan puluh derajat, seperti yang hanya dilakukan manusia?

Saya mengambil pandangan yang agak redup tentang manusia sebagai suatu spesies dan telah mengusulkan Turing Test terbalik yang dengannya manusia dievaluasi untuk kemanusiaan yang cukup ( 仁 ). (hanya bercanda, tetapi tidak sepenuhnya;)

Manusia jelas bukan spesies paling sukses di bumi jika Anda menggunakan biomassa:

Saya sepenuhnya setuju bahwa bentuk kehidupan yang kurang kompleks sangat efektif, dan layak ditiru untuk masalah tertentu (lihat contoh algoritma optimasi koloni semut .)

Tapi seperti apa dunia saat dijalankan oleh semut? Apakah itu dunia yang ingin kita tinggali?

Tidak hanya persaingan di alam benar-benar brutal, kebrutalan ini adalah mekanisme di mana spesies menjadi dioptimalkan (evolusi).

Manusia cacat, tetapi kita juga telah mencapai kemenangan besar, dan apa yang dapat memisahkan kita dari binatang adalah bahwa keberhasilan kita juga dapat jatuh ke dalam kategori "kemenangan roh". Di mana ada kekuatan egoisme dan keserakahan yang mendorong masyarakat ke satu arah, kita juga memiliki kekuatan balasan, mendorong ke arah yang berbeda.

Beberapa gim hanyalah zero-sum dan tidak ada cara untuk menyiasatinya, tetapi itu tidak berarti bahwa mereka harus "semua atau tidak sama sekali" (Kami merekomendasikan partoku Sudoku daripada Catur karena alasan ini.)

Ada konsep yang pantas disebut dikenal sebagai Efisiensi Pareto . Spekulasi keuangan, yang sebagian besar dari ekonomi dunia sekarang tampaknya didasarkan pada, tergantung pada prinsip "orang bodoh yang lebih besar" , di mana satu agen mendapat keuntungan sepenuhnya tergantung pada kerugian agen lain. Yang terburuk dari kita tampaknya terfokus pada mekanisme ini dengan mengesampingkan semua yang lain karena tidak memerlukan komitmen nyata, hanya analisis yang lebih kuat dan / atau informasi yang lebih baik, dan likuiditas.

Apa yang tampaknya terbaik untuk kita capai adalah Perbaikan Pareto, yang dengannya agen dapat menjadi lebih baik tanpa mengharuskan agen lain untuk menjadi lebih buruk.

Intinya di sini adalah bahwa dibutuhkan kecerdasan manusia untuk mengidentifikasi dan mendefinisikan kondisi-kondisi ini. (Alam tidak peduli.) Optimalitas pareto telah menjadi kontroversial karena asalnya, tetapi itu sebelum industri teknologi, yang sangat baik dalam menciptakan peluang baru, dan bagi saya itu juga dapat digunakan untuk menyeimbangkan distribusi sumber daya ke coba dan maksimalkan stabilitas sosial. (Yaitu kadang-kadang bisa lebih optimal untuk menjadi sedikit lebih buruk.)

Pandangan suram saya tentang spesies kita bukan berasal dari tidak efisien atau, seringkali, bodoh, tetapi dari gagasan bahwa, pada tahap sejarah ini, kita masih bertindak seolah-olah kita baru saja turun dari pohon, mundur ke kesukuan dan konflik partisan sebagai gantinya. kerja sama.

Bertentangan dengan tesis Anda:

• Saya percaya itu tidak hanya penting untuk mencapai kecerdasan algoritme tingkat manusia, adalah kewajiban kita untuk "memanusiakan" algoritma tersebut sejauh mungkin.

Superintelligence dan AGI masih di cakrawala dan sepenuhnya teoretis, tetapi, jika mereka tercapai dan algoritma ini adalah mekanisme murni, tanpa nilai-nilai yang kita manusia, paling-paling kita hargai, kita mungkin akhirnya menjadi korban proses evolusi lainnya. , ketinggalan zaman oleh bentuk-bentuk baru kehidupan artifisial yang kita tidak memiliki peluang untuk bersaing.

Dalam beberapa hal, dorongan ke arah yang mirip manusia dapat dianggap sebagai perayaan kemanusiaan, lebih canggih, tetapi tidak sepenuhnya berbeda dalam roh daripada David karya Michelangelo.

Meskipun sifat manusia memiliki banyak kekurangan, itu pasti yang paling sukses selama itu ada seperti yang ditunjukkan oleh @DukeZhou. Keberhasilan dapat sepenuhnya dan seluruhnya disinggung pada kenyataan bahwa kita memiliki otak yang sangat berfungsi dan mampu. Dibandingkan dengan spesies lain kita secara fisik (kehebatan fisik) jauh lebih tidak mampu. Jadi jika kita mencoba membuat AI, bukankah seharusnya kita mencoba memodelkan otak kita sendiri, sistem kecerdasan terbaik yang ada?

Satu hal yang Anda lewatkan adalah bahwa manusia jauh lebih damai daripada semua hewan lain. Hewan berada dalam perang terus - menerus untuk bertahan hidup, kita manusia telah mampu mengatasi semua itu, dan kita telah hidup di masa paling damai di seluruh milenium. Konflik dapat muncul, ini mungkin disebabkan oleh gen kita. Gen kita berasal dari nenek moyang hewan kita, di mana mereka memvisualisasikan banyak hal sebagai ancaman (termasuk spesies hewan yang sama dari jenis kelamin yang berbeda, proses berpikir yang berlawanan juga dapat dianggap sebagai ancaman). Jadi pasti akan meresap dalam mentalitas kita. Bisakah kita mengubahnya? Mungkin tidak (mungkin itu bertentangan dengan hukum alam dan seleksi alam).

Mari kita lihat 2 kasus di mana tidak ada persaingan:

• Jarawas - Orang-orang ini hidup terpencil di sebuah pulau (bahkan sekarang). Akibatnya mereka masih menjalani gaya hidup pemburu pengumpul, yang dapat dikaitkan dengan fakta bahwa mereka tidak merasa perlu untuk berubah karena mereka tidak melihat ancaman terhadap kehidupan atau posisi mereka. Karena kami bijak, kami tidak menyerang wilayah mereka dengan mengetahui bahwa mereka tidak akan bertahan melawan teknologi modern (juga karena mereka tidak mengancam kami).
• Penduduk asli Amerika : Ketika Eropa dan Asia berperang, orang-orang ini tinggal di sebuah pulau (dengan hanya pertikaian). Akibatnya teknologi mereka hampir tidak berevolusi dan mereka hampir musnah.

Semut dan lebah menjadi kooperatif adalah keliru bagi saya. Ini sepenuhnya karena fakta bahwa semua semut / lebah dalam koloni tertentu adalah saudara kandung (jika tidak mereka secara brutal membantai koloni lain). Mereka juga mempertahankan batas teritorial selama ada banyak sumber daya di dalamnya jika tidak ada perang (saya tidak bisa mengutip sumber apa pun tetapi saya telah mendengar banyak semut menyerang wilayah semut lain).

Bakteri tidak memiliki rasa sakit atau ketakutan, tetapi mengatakan bahwa mereka ada lama karena kerja sama tidak sepenuhnya benar bagi saya. Mereka mungkin memiliki mekanisme bertahan hidup yang efisien.

Maksud dari semua ini adalah tidak ada gambar yang indah dari dunia binatang seperti yang dikatakan @Neil Slater.

Datang ke bagaimana kita harus menciptakan perilaku AI? AI tidak memiliki gen untuk saat ini sehingga mereka tidak memiliki kewajiban terhadap keturunannya dan tidak akan memiliki kecemburuan, itu berarti mereka tidak memiliki blok bangunan dasar dari organisme biologis (dan dengan demikian tidak memiliki kewajiban / kepentingan untuk itu). Tapi saya percaya persaingan bagus di antara AI, kalau tidak bagaimana mereka akan belajar strategi baru? Jadi persaingan tanpa kecemburuan adalah skenario kasus terbaik untuk agen AI (mungkin bukan kasus di dunia hewan). jika tidak ada kompetisi, pengetahuan di antara AI mungkin akan mandek.

Saya bukan ahli dalam Teori Permainan tetapi jika 2 atau lebih agen bersaing satu sama lain, mereka harus mengikuti Teori Permainan untuk memaksimalkan hasil mereka (mungkin menyatakan Efisiensi Pareto seperti yang ditunjukkan @DukeZhou, atau dari sudut pandang fisika energi tidak diciptakan atau dihancurkan. , hanya didistribusikan dari sistem ke sistem). Tapi ada yang menangkap di sini, ada beberapa strategi yang layak tergantung sepenuhnya pada lingkungan . Ini adalah topik yang diteliti oleh ilmuwan komputer Axelrod dan Hamilton di mana mereka menguji berbagai strategi. Versi percobaan mereka yang disederhanakan dapat ditemukan di The Selfish Genebuku bab 12. Eksperimen mereka (disimulasikan pada komputer) tampaknya memberikan beberapa bukti bahwa pria baik (pria yang melakukan bantuan tanpa syarat) tidak selalu kalah dengan pria yang egois. Ini perlu diteliti lebih lanjut jika kita ingin benar-benar membuat koloni AI.

TL; DR : Tidak adil untuk membandingkan AI dengan kerajaan hewan karena mereka tidak memiliki unit bertahan hidup dasar (gen). Manusia sejauh ini adalah yang paling cerdas dan paling damai di antara seluruh dunia hewan. Persaingan tanpa kecemburuan mungkin merupakan tindakan terbaik dalam koloni atau spesies apa pun.

Beberapa karakteristik kecerdasan manusia tentu saja merupakan bagian dari tujuan inti jangka panjang AI. Sebagian besar dari karakteristik ini jelas merupakan sifat dari spesies lain juga. Masalah yang sangat krusial adalah bagaimana sebuah komputer dapat memahami tidak hanya dengan cara yang mirip manusia, tetapi juga merasakannya? Simbol yang dipancarkan dari sensor digital tidak menunjukkan apa yang dirasakan. Semua yang didapat komputer adalah simbol, jadi bagaimana mungkin komputer dapat merasakan sesuatu?

Masalah lain yang sangat krusial adalah bahwa manusia dan mungkin sebagian besar hewan lain sampai taraf tertentu memiliki kecerdasan umum - dapat menerapkan apa yang telah dipelajari di masa lalu ke situasi baru. Dengan manusia ada versi masalah pengetahuan umum yang berlaku untuk bahasa, jadi itu murni masalah yang menyerupai manusia. Tetapi banyak hewan jelas memiliki semacam pengetahuan umum. AI belum menghasilkan mesin dengan pengetahuan umum. Efek malapetaka dari "tepi kasus" untuk perangkat lunak AI mengemudi sendiri kendaraan, adalah bukti yang sangat mengkhawatirkan. Cara mendapatkan kecerdasan umum juga merupakan masalah mendasar.

Jadi untuk meringkas jawaban saya: Pada saat ini, kecerdasan seperti manusia bukanlah tujuan yang cerdas. AI memiliki masalah yang jauh lebih mendasar. Tujuan cerdas saat ini adalah untuk memahami prinsip-prinsip persepsi dan bagaimana mewujudkannya di komputer (dengan asumsi ini mungkin), dan untuk memahami prinsip-prinsip kecerdasan umum dan cara mewujudkannya.

Yaitu, untuk mengetahui bagaimana hewan mengetahui lingkungan mereka, dan bagaimana mereka bereaksi secara memadai terhadap situasi baru berdasarkan pengalaman masa lalu.