Apakah kecerdasan seperti manusia adalah tujuan yang cerdas? [Tutup]

9

Tampaknya selalu menjadi fokus dalam literatur untuk memperkirakan komponen pikiran manusia, dengan asumsi itu menjadi yang paling maju. Jika hewan lain masuk ke lanskap AI, itu hanya untuk mempelajari primata dengan cara yang tidak praktis untuk mempelajari manusia atau mensimulasikan aktivitas saraf siput karena sistem sarafnya sederhana.

Mungkin ada alasan pemikiran lebih maju untuk mempertimbangkan menggunakan bentuk kehidupan yang lebih rendah sebagai model untuk kecerdasan buatan yang diinginkan. Saya telah membaca apa yang dikatakan EO Wilson dan yang lainnya tentang kemampuan kolaboratif spesies lain. Ada kualitas luar biasa dalam organisme sesederhana dan selektif bakteri. Tentu saja, semut adalah spesies model untuk kolaborasi. Lebah madu bisa dibilang paling paham konstruksi, membawa keberlangsungan gaya hidup dan keterkaitan dengan spesies lain ke bentuk seni yang jauh di atas kemampuan kecerdasan manusia.

Menggunakan analogi olahraga untuk mengkarakterisasi opsi, kecerdasan manusia lebih seperti olahraga gladiator pra-pencerahan atau setidaknya hoki es, di mana melukai lawan dianggap sebagai strategi yang cerdas. Yang dilakukan lebah lebih seperti pendakian gunung, konstruksi dengan presisi dan perawatan.

Apa yang dilakukan semut mirip dengan balap estafet, di mana ada sedikit ketertarikan pada tim lawan karena setiap koloni, seperti setiap jalur di jalur itu independen dan jalur ditandai. Semut juga menandai teritori mereka, dan klaim teritorial dihormati sebagai yang terbaik dari negarawan geopolitik Westphalian. Tidak ada kecemburuan kecil atau kompetisi semata-mata demi keunggulan kebanggaan. Dengan semut, seperti halnya dengan pelatih lintasan dan lapangan yang cerdas, tujuannya adalah bahwa setiap kaki perlombaan tampil baik melawan yang terbaik dari para pembalap estafet sebelumnya.

Bakteri adalah pelari jarak jauh. Mereka bertukar DNA dengan satu sama lain, dan mengabaikan semua aturan rasa sakit dan ketakutan. Mereka berperilaku secara berkelanjutan yang tidak menerima apa-apa begitu saja dan menggunakan segalanya untuk bertahan hidup. Dan mereka telah bertahan selama hampir seluruh durasi keberadaan bumi. Mereka kemungkinan akan ada sekitar seratus miliar tahun setelah umat manusia pergi, jika matahari tidak menjadi supernova terlebih dahulu.

Mengapa kita ingin memprogram komputer untuk berperilaku tanpa henti sebagai pesaing? Apakah orang mengunduh program catur pintar sehingga mereka berulang kali dapat kehilangan? Tidak, mereka mengunduh Android OS karena berkolaborasi dan tidak ada biaya. Tidak bisakah kita menemukan game non-zero-sum untuk dimainkan di mana skenario win-win dimungkinkan?

Bukankah kita sudah memiliki cukup agen back-biting, gosip, hyper-critical di sekitar dari dalam spesies kita sendiri? Mengapa tidak mengirim AI ke arah intelijen kolaboratif, seperti semut? Bukankah lebih baik memiliki teman-teman artifisial baru yang ingin berbagi beban tugas kita sehari-hari?

Bukankah kita ingin robot kita di masa depan dibangun seperti lebah madu, berbentuk segi enam? Atau apakah kita ingin robot kita mengikuti contoh kita, membuang 70% material dalam konstruksi vertikal karena desakan irasional pada sudut sembilan puluh derajat, seperti yang hanya dilakukan manusia?

Douglas Daseeco
sumber
3
Anda telah memperoleh pandangan yang sangat cerah tentang persaingan antara koloni serangga sosial. Pernyataan "tidak ada minat pada tim lawan karena setiap koloni, sama seperti setiap jalur di jalur independen" sama sekali tidak benar. Koloni semut akan bersaing dengan dan melawan anggota spesies mereka sendiri, dan pasti melawan spesies lain. Meskipun saya (dan saya pikir banyak orang) akan setuju untuk menilai bentuk-bentuk lain dari kemampuan / kecerdasan yang sama baiknya dengan manusia, masih ada intra-spesies yang kejam , antar-spesies dan seringkali kompetisi antar-hubungan terjadi di semua spesies.
Neil Slater
1
@NeilSlater sangat benar ... Organisme hanya ingin DNA mereka menyebar dan semut dan lebah (pekerja) berbagi 50% dna dengan pekerja lain ... Itu adalah motivasi utama mereka
DuttaA
Seperti yang saya katakan, mereka berbagi gen hanya di koloni mereka dan membunuh semut dari koloni lain bahkan jika dari spesies yang sama ... Manusia tidak berbagi gen kecuali itu adalah anggota keluarga di mana Anda melihat bantuan tanpa pamrih (secara umum) ... Tapi karena kami memiliki otak yang besar (otak yang cakap) kami mengumpulkan pengalaman yang mengubah perilaku genetik kami dan kami mungkin menjadi bermusuhan dengan keluarga ... Saya ingin menjawab pertanyaan Anda tetapi itu akan cukup besar jadi saya akan melakukannya ketika saya mendapatkan waktu
DuttaA
Bakteri / semut / lebah, mereka tidak tahu bahwa apa yang mereka lakukan adalah cerdas, mereka tidak dapat merenungkan kembali apa yang mereka lakukan dan menghasilkan metode yang lebih efisien. Bisakah Anda membuat makhluk sederhana ini mencapai tujuan selain dari apa yang telah mereka capai? Nggak.
Ankur
1
@Ankur Namun, Anda dapat mempelajari prinsip-prinsip cara kerja perilaku sukses mereka, dan menerapkannya secara buatan ke masalah baru. Ini adalah sesuatu yang dilakukan, dan pertanyaan OP menimbulkan beberapa poin menarik, seperti apakah ini cukup untuk mencakup semua kasus penggunaan yang diinginkan untuk AI, dan apakah itu akan menjadi pendekatan yang lebih aman / lebih baik. Saya pikir "tidak" dan "tidak" untuk pertanyaan-pertanyaan itu, tetapi perlu upaya untuk mengumpulkan jawaban.
Neil Slater

Jawaban:

6

Saya mengambil pandangan yang agak redup tentang manusia sebagai suatu spesies dan telah mengusulkan Turing Test terbalik yang dengannya manusia dievaluasi untuk kemanusiaan yang cukup ( ). (hanya bercanda, tetapi tidak sepenuhnya;)

Manusia jelas bukan spesies paling sukses di bumi jika Anda menggunakan biomassa:

masukkan deskripsi gambar di sini

Saya sepenuhnya setuju bahwa bentuk kehidupan yang kurang kompleks sangat efektif, dan layak ditiru untuk masalah tertentu (lihat contoh algoritma optimasi koloni semut .)

Tapi seperti apa dunia saat dijalankan oleh semut? Apakah itu dunia yang ingin kita tinggali?

Tidak hanya persaingan di alam benar-benar brutal, kebrutalan ini adalah mekanisme di mana spesies menjadi dioptimalkan (evolusi).

Manusia cacat, tetapi kita juga telah mencapai kemenangan besar, dan apa yang dapat memisahkan kita dari binatang adalah bahwa keberhasilan kita juga dapat jatuh ke dalam kategori "kemenangan roh". Di mana ada kekuatan egoisme dan keserakahan yang mendorong masyarakat ke satu arah, kita juga memiliki kekuatan balasan, mendorong ke arah yang berbeda.

Beberapa gim hanyalah zero-sum dan tidak ada cara untuk menyiasatinya, tetapi itu tidak berarti bahwa mereka harus "semua atau tidak sama sekali" (Kami merekomendasikan partoku Sudoku daripada Catur karena alasan ini.)

Ada konsep yang pantas disebut dikenal sebagai Efisiensi Pareto . Spekulasi keuangan, yang sebagian besar dari ekonomi dunia sekarang tampaknya didasarkan pada, tergantung pada prinsip "orang bodoh yang lebih besar" , di mana satu agen mendapat keuntungan sepenuhnya tergantung pada kerugian agen lain. Yang terburuk dari kita tampaknya terfokus pada mekanisme ini dengan mengesampingkan semua yang lain karena tidak memerlukan komitmen nyata, hanya analisis yang lebih kuat dan / atau informasi yang lebih baik, dan likuiditas.

Apa yang tampaknya terbaik untuk kita capai adalah Perbaikan Pareto, yang dengannya agen dapat menjadi lebih baik tanpa mengharuskan agen lain untuk menjadi lebih buruk.

Intinya di sini adalah bahwa dibutuhkan kecerdasan manusia untuk mengidentifikasi dan mendefinisikan kondisi-kondisi ini. (Alam tidak peduli.) Optimalitas pareto telah menjadi kontroversial karena asalnya, tetapi itu sebelum industri teknologi, yang sangat baik dalam menciptakan peluang baru, dan bagi saya itu juga dapat digunakan untuk menyeimbangkan distribusi sumber daya ke coba dan maksimalkan stabilitas sosial. (Yaitu kadang-kadang bisa lebih optimal untuk menjadi sedikit lebih buruk.)

Pandangan suram saya tentang spesies kita bukan berasal dari tidak efisien atau, seringkali, bodoh, tetapi dari gagasan bahwa, pada tahap sejarah ini, kita masih bertindak seolah-olah kita baru saja turun dari pohon, mundur ke kesukuan dan konflik partisan sebagai gantinya. kerja sama.

Bertentangan dengan tesis Anda:

  • Saya percaya itu tidak hanya penting untuk mencapai kecerdasan algoritme tingkat manusia, adalah kewajiban kita untuk "memanusiakan" algoritma tersebut sejauh mungkin.

Superintelligence dan AGI masih di cakrawala dan sepenuhnya teoretis, tetapi, jika mereka tercapai dan algoritma ini adalah mekanisme murni, tanpa nilai-nilai yang kita manusia, paling-paling kita hargai, kita mungkin akhirnya menjadi korban proses evolusi lainnya. , ketinggalan zaman oleh bentuk-bentuk baru kehidupan artifisial yang kita tidak memiliki peluang untuk bersaing.

Dalam beberapa hal, dorongan ke arah yang mirip manusia dapat dianggap sebagai perayaan kemanusiaan, lebih canggih, tetapi tidak sepenuhnya berbeda dalam roh daripada David karya Michelangelo.

DukeZhou
sumber
@DouglasDaseeco Saya sebenarnya sangat menyukai pertanyaan Anda b / c Saya 100% setuju dengan Anda mengenai utilitas umum / manfaat dari fungsi "tingkat rendah". Bagian dari proyek saya sendiri melibatkan mengukur kinerja heuristik umum vs algoritma pembelajaran pada set masalah tertentu di mana waktu / sumber daya sangat terbatas, dan, khususnya, di mana topologi masalah saat ini tidak diketahui sebelumnya. Kapan keputusan ekonomi yang sehat tetapi kurang optimal dicapai lebih cepat menghasilkan manfaat agregat daripada keputusan yang lebih optimal yang membutuhkan lebih banyak sumber daya dan waktu?
DukeZhou
@DouglasDaseeco Di depan "mitologi AI", beberapa penulis terkemuka seperti Stephenson dan Gibson baru-baru ini lebih tertarik pada jenis kecerdasan terbatas yang Anda gambarkan. (Stephenson memiliki latar belakang teknik, dan tidak pernah tertarik pada AGI, tetapi Gibson membuat namanya menulis tentang hal itu di buku-buku pertamanya.)
DukeZhou
@DouglasDaseeco Setuju. Perlu juga dicatat bahwa konsensus umum spesies kita tampaknya bahwa genosida adalah laknat, dan kita telah mulai berpikir tentang pentingnya keanekaragaman hayati, dengan beberapa upaya untuk melestarikan spesies yang terancam punah. Pikiran saya adalah bahwa jika kita pernah jatuh dari posisi kita di puncak rantai makanan, itu akan menjadi hal yang sangat baik jika apa pun yang menggantikan kita berbagi tujuan itu, kita mungkin yang membutuhkan perlindungan! (Saya menemukan Philip K. Dick paling menonjol karena hipotesisnya adalah bahwa empati adalah fungsi alami dari kecerdasan yang cukup maju.)
DukeZhou
3

Meskipun sifat manusia memiliki banyak kekurangan, itu pasti yang paling sukses selama itu ada seperti yang ditunjukkan oleh @DukeZhou. Keberhasilan dapat sepenuhnya dan seluruhnya disinggung pada kenyataan bahwa kita memiliki otak yang sangat berfungsi dan mampu. Dibandingkan dengan spesies lain kita secara fisik (kehebatan fisik) jauh lebih tidak mampu. Jadi jika kita mencoba membuat AI, bukankah seharusnya kita mencoba memodelkan otak kita sendiri, sistem kecerdasan terbaik yang ada?

Satu hal yang Anda lewatkan adalah bahwa manusia jauh lebih damai daripada semua hewan lain. Hewan berada dalam perang terus - menerus untuk bertahan hidup, kita manusia telah mampu mengatasi semua itu, dan kita telah hidup di masa paling damai di seluruh milenium. Konflik dapat muncul, ini mungkin disebabkan oleh gen kita. Gen kita berasal dari nenek moyang hewan kita, di mana mereka memvisualisasikan banyak hal sebagai ancaman (termasuk spesies hewan yang sama dari jenis kelamin yang berbeda, proses berpikir yang berlawanan juga dapat dianggap sebagai ancaman). Jadi pasti akan meresap dalam mentalitas kita. Bisakah kita mengubahnya? Mungkin tidak (mungkin itu bertentangan dengan hukum alam dan seleksi alam).

Mari kita lihat 2 kasus di mana tidak ada persaingan:

  • Jarawas - Orang-orang ini hidup terpencil di sebuah pulau (bahkan sekarang). Akibatnya mereka masih menjalani gaya hidup pemburu pengumpul, yang dapat dikaitkan dengan fakta bahwa mereka tidak merasa perlu untuk berubah karena mereka tidak melihat ancaman terhadap kehidupan atau posisi mereka. Karena kami bijak, kami tidak menyerang wilayah mereka dengan mengetahui bahwa mereka tidak akan bertahan melawan teknologi modern (juga karena mereka tidak mengancam kami).
  • Penduduk asli Amerika : Ketika Eropa dan Asia berperang, orang-orang ini tinggal di sebuah pulau (dengan hanya pertikaian). Akibatnya teknologi mereka hampir tidak berevolusi dan mereka hampir musnah.

Semut dan lebah menjadi kooperatif adalah keliru bagi saya. Ini sepenuhnya karena fakta bahwa semua semut / lebah dalam koloni tertentu adalah saudara kandung (jika tidak mereka secara brutal membantai koloni lain). Mereka juga mempertahankan batas teritorial selama ada banyak sumber daya di dalamnya jika tidak ada perang (saya tidak bisa mengutip sumber apa pun tetapi saya telah mendengar banyak semut menyerang wilayah semut lain).

Bakteri tidak memiliki rasa sakit atau ketakutan, tetapi mengatakan bahwa mereka ada lama karena kerja sama tidak sepenuhnya benar bagi saya. Mereka mungkin memiliki mekanisme bertahan hidup yang efisien.

Maksud dari semua ini adalah tidak ada gambar yang indah dari dunia binatang seperti yang dikatakan @Neil Slater.

Datang ke bagaimana kita harus menciptakan perilaku AI? AI tidak memiliki gen untuk saat ini sehingga mereka tidak memiliki kewajiban terhadap keturunannya dan tidak akan memiliki kecemburuan, itu berarti mereka tidak memiliki blok bangunan dasar dari organisme biologis (dan dengan demikian tidak memiliki kewajiban / kepentingan untuk itu). Tapi saya percaya persaingan bagus di antara AI, kalau tidak bagaimana mereka akan belajar strategi baru? Jadi persaingan tanpa kecemburuan adalah skenario kasus terbaik untuk agen AI (mungkin bukan kasus di dunia hewan). jika tidak ada kompetisi, pengetahuan di antara AI mungkin akan mandek.

Saya bukan ahli dalam Teori Permainan tetapi jika 2 atau lebih agen bersaing satu sama lain, mereka harus mengikuti Teori Permainan untuk memaksimalkan hasil mereka (mungkin menyatakan Efisiensi Pareto seperti yang ditunjukkan @DukeZhou, atau dari sudut pandang fisika energi tidak diciptakan atau dihancurkan. , hanya didistribusikan dari sistem ke sistem). Tapi ada yang menangkap di sini, ada beberapa strategi yang layak tergantung sepenuhnya pada lingkungan . Ini adalah topik yang diteliti oleh ilmuwan komputer Axelrod dan Hamilton di mana mereka menguji berbagai strategi. Versi percobaan mereka yang disederhanakan dapat ditemukan di The Selfish Genebuku bab 12. Eksperimen mereka (disimulasikan pada komputer) tampaknya memberikan beberapa bukti bahwa pria baik (pria yang melakukan bantuan tanpa syarat) tidak selalu kalah dengan pria yang egois. Ini perlu diteliti lebih lanjut jika kita ingin benar-benar membuat koloni AI.

TL; DR : Tidak adil untuk membandingkan AI dengan kerajaan hewan karena mereka tidak memiliki unit bertahan hidup dasar (gen). Manusia sejauh ini adalah yang paling cerdas dan paling damai di antara seluruh dunia hewan. Persaingan tanpa kecemburuan mungkin merupakan tindakan terbaik dalam koloni atau spesies apa pun.

Duta
sumber
1
Dalam teori permainan, ekuilibrium Nash adalah titik stabil, dan efisiensi Pareto adalah ukuran utilitas total. Dilema tahanan adalah contoh yang baik di mana keduanya tidak dimaksimalkan sama; titik minimum logis memiliki kedua tahanan membelot, tetapi utilitas total maksimum terjadi ketika kedua tahanan bekerja sama. Sayangnya, banyak sistem kompetitif memiliki perbedaan antara optimum Pareto dan Nash.
Neil Slater
@NeilSlater axelrod menyelidiki dilema tahanan dalam arti yang lebih luas ... rupanya dia memiliki beberapa temuan menarik
DuttaA
0

Beberapa karakteristik kecerdasan manusia tentu saja merupakan bagian dari tujuan inti jangka panjang AI. Sebagian besar dari karakteristik ini jelas merupakan sifat dari spesies lain juga. Masalah yang sangat krusial adalah bagaimana sebuah komputer dapat memahami tidak hanya dengan cara yang mirip manusia, tetapi juga merasakannya? Simbol yang dipancarkan dari sensor digital tidak menunjukkan apa yang dirasakan. Semua yang didapat komputer adalah simbol, jadi bagaimana mungkin komputer dapat merasakan sesuatu?

Masalah lain yang sangat krusial adalah bahwa manusia dan mungkin sebagian besar hewan lain sampai taraf tertentu memiliki kecerdasan umum - dapat menerapkan apa yang telah dipelajari di masa lalu ke situasi baru. Dengan manusia ada versi masalah pengetahuan umum yang berlaku untuk bahasa, jadi itu murni masalah yang menyerupai manusia. Tetapi banyak hewan jelas memiliki semacam pengetahuan umum. AI belum menghasilkan mesin dengan pengetahuan umum. Efek malapetaka dari "tepi kasus" untuk perangkat lunak AI mengemudi sendiri kendaraan, adalah bukti yang sangat mengkhawatirkan. Cara mendapatkan kecerdasan umum juga merupakan masalah mendasar.

Jadi untuk meringkas jawaban saya: Pada saat ini, kecerdasan seperti manusia bukanlah tujuan yang cerdas. AI memiliki masalah yang jauh lebih mendasar. Tujuan cerdas saat ini adalah untuk memahami prinsip-prinsip persepsi dan bagaimana mewujudkannya di komputer (dengan asumsi ini mungkin), dan untuk memahami prinsip-prinsip kecerdasan umum dan cara mewujudkannya.

Yaitu, untuk mengetahui bagaimana hewan mengetahui lingkungan mereka, dan bagaimana mereka bereaksi secara memadai terhadap situasi baru berdasarkan pengalaman masa lalu.

Roddus
sumber
Pemandangan yang sangat umum dari roadkill menunjukkan dengan sangat jelas bahwa banyak hewan menderita efek bencana "kasus tepi". Pernyataan "Simbol yang dipancarkan dari sensor digital tidak menunjukkan apa yang dirasakan." adalah yang menarik dan memunculkan beberapa inti argumen yang pro atau anti AI. Seorang ahli neurobiologi dapat mengatakan "sinyal yang dipancarkan oleh batang mata dan kerucut, dan neuron motorik yang mengontrol otot tidak menunjukkan apa yang dirasakan". Terutama pengalaman sadar pribadi kita yang memberi petunjuk bahwa sesuatu sedang terjadi. Kami tidak mengerti apa itu.
Neil Slater
@Neil Slater Tepat, Jadi kita tidak tahu prinsip-prinsip bagaimana otak organik mendapatkan struktur semantik. Dan ada yang mencatat dalam denyut saraf yang menunjukkan apa yang dirasakan. Tetapi otak organik memang mendapatkan semantik. Anda akan berpikir fakta ini akan mengilhami para guru untuk mencari tahu apa yang salah dengan kamar Cina Searle dan premisnya bahwa simbol kosong secara semantik. Tentu saja. Tapi begitu juga pulsa saraf.
Roddus