Apakah singularitas sesuatu yang dianggap serius?

10

Istilah Singularity sering digunakan dalam media arus utama untuk menggambarkan teknologi visioner. Itu diperkenalkan oleh Ray Kurzweil dalam sebuah buku populer The Singularity Is Near: When Humans Transcend Biology (2005).

Dalam bukunya, Kurzweil memberikan pandangan ke masa depan potensial umat manusia yang meliputi nanoteknologi, komputer, modifikasi genetik dan kecerdasan buatan. Dia berpendapat bahwa hukum Moore akan memungkinkan komputer pertumbuhan eksponensial yang menghasilkan kecerdasan super.

Apakah singularitas teknologi sesuatu yang dianggap serius oleh pengembang AI atau apakah teori ini hanya beban sensasi populer?

philosophy theory superintelligence singularity mythology-of-ai Bucky Rogerson
sumber
Perdebatan seputar Singularitas adalah subtopik dalam apa yang disebut gerakan Neoluddite. Itu adalah perdebatan filosofis tentang kemajuan teknologi dengan pandangan pesimistis. Bill Joy telah menerbitkan esai terkenal di tahun 2000-an di mana ia menentang teknologi. Gerakan neoluddite adalah semacam anti-ideologi untuk pemikiran Silicon Valley yang lebih kuat-lebih cepat-pintar. Singularity adalah perpaduan antara ideologi teknologi pro dan kontra dengan tujuan memoderasi perdebatan.
Manuel Rodriguez
2
Saya pikir Anda akan mengalami kesulitan untuk menemukan basis ilmiah terkait AI yang solid yang menunjukkan Singularity bahkan sangat mungkin.
Andreas Storvik Strauman
Anda mungkin tertarik dengan Tanya Jawab ini: ai.stackexchange.com/questions/7337/…
Neil Slater

Jawaban:

8

Saya dapat mengatakan bahwa di antara peneliti AI yang berinteraksi dengan saya, jauh lebih umum untuk melihatnya sebagai spekulasi liar daripada fakta yang sudah pasti.

Ini didukung oleh survei para peneliti AI , dengan 80% berpikir bentuk-bentuk kuat AI akan muncul dalam "lebih dari 50 tahun" atau "tidak pernah", dan hanya beberapa persen berpikir bahwa bentuk-bentuk AI semacam itu "dekat".

Pengembang Perangkat Lunak tidak sama dengan peneliti AI, dan saya telah menemukan mitos Singularity jauh lebih luas di kalangan pengembang. Ini memiliki dering yang bagus untuk itu: Komputer terus menjadi lebih cepat, pada titik tertentu mereka akan lebih cepat daripada otak, pada saat itu kita hanya mensimulasikan otak. Segera setelah itu, kami mensimulasikan sesuatu yang lebih baik daripada otak.

Saya curiga alasan para peneliti AI kurang optimis berakar pada fakta bahwa kita masih belum memiliki pemahaman yang baik tentang kecerdasan manusia, atau bahkan cukup banyak pemahaman tentang otak untuk mensimulasikannya. Misalnya, dalam dua minggu terakhir kami telah menemukan jenis sel otak yang sebelumnya tidak dikenal . Ini memberi kesan (benar) bahwa bahkan jika kita memiliki komputer yang cukup cepat, kita sama sekali tidak mampu mensimulasikan otak manusia secara akurat. Kami tidak benar-benar tahu apa itu otak manusia.

Bahkan jika kita tahu itu, simulasi tentu saja merugi. Kami mungkin tidak memiliki teknik simulasi yang baik. Bahkan jika kita memiliki teknik yang baik, kita dapat mensimulasikan otak dan menemukan bahwa simulasi kita tidak berperilaku seperti yang diharapkan karena alasan yang tidak kita pahami. Ini sangat mungkin ketika mensimulasikan sistem baru. Dalam beberapa hal, para pendukung Singularitas menyerupai orang yang memprediksi bahwa kontrol cuaca sudah dekat pada tahun 1940-an. Lagi pula, kita bisa mensimulasikan pola cuaca sederhana saat itu, dan menghasilkan ramalan semacam itu berhasil. Seberapa jauh lebih rumit untuk menghasilkan prakiraan yang sempurna?

John Doucette
sumber
2
Pernyataan ini berbunyi seperti awal musim dingin AI yang akan datang di mana peneliti AI menolak impian mereka untuk membangun mesin cerdas dan mengakui bahwa mereka tidak memiliki apa-apa untuk ditawarkan. Saya pikir kita bisa menggambarkan kenyataan sedikit lebih optimis. Dalam proyek otak biru keabadian adalah salah satu tujuan, dan itu dapat dicapai dengan nanobots. Mereka mampu menyalin pikiran dari satu otak ke otak lain. Menurut para futuris, ini akan menjadi kenyataan pada tahun 2030. Setidaknya Uni Eropa percaya bahwa ini masuk akal dan mendukung proyek dengan 1 miliar dolar AS. Apakah jumlah itu cukup serius?
Manuel Rodriguez
2
@ManuelRodriguez Saya pikir ini bukan musim dingin sebagai pandangan teknologi yang realistis dan matang. Kami benar - benar dapat dan benar - benar menyelesaikan banyak masalah sulit dengan AI saat ini. Tidak masuk akal untuk melompat dari itu ke keabadian, nanobots, dan menyalin otak. Mungkin kita akan memiliki hal-hal seperti itu pada akhirnya, tetapi teknologi itu bahkan tidak mendekati fungsional. Dukungan untuk penelitian dasar terhadap mereka bagus, tetapi tidak seperti AI kekurangan dana pada 50-an dan 60-an. Menghabiskan uang tidak berarti kita akan memiliki keabadian dan otak yang dikloning dalam 10 tahun. Idenya menggelikan.
John Doucette
Saya tidak mengatakan bahwa saya secara pribadi percaya pada keabadian dalam 10 tahun. Saya hanya ingin memperjelas bahwa apa yang disebut proyek "Emulasi otak utuh" seperti Proyek Otak Manusia UE (1 miliar USD), prakarsa BRAIN AS (total 4,5 miliar USD) dan Proyek Otak China (200 juta USD) memiliki Singularity sebagai tujuan mereka. Pemerintah tidak akan menghabiskan banyak untuk penelitian jika mereka ragu Nanobots mungkin.
Manuel Rodriguez
@ManuelRodriguez Tentu mereka akan melakukannya. Bahkan proyek gagal yang menghabiskan banyak uang dapat menghasilkan penelitian yang sangat berharga.
hutan
3

Setidaknya ada satu ilmuwan AI yang sangat penting dan serius yang tampaknya percaya pada penciptaan kecerdasan umum artifisial sejati dan kemungkinan superintelijen: Jürgen Schmidhuber, yang merupakan rekan penulis LSTM , di antara banyak kontribusi penting lainnya. Bahkan, dia baru-baru ini mendirikan NNAISENSE untuk tujuan akhir ini, yaitu untuk membangun kecerdasan umum buatan tujuan umum. Dalam ceramahnya Ketika mesin-mesin kreatif menyalip manusia , di TEDxLausanne, Schmidhuber berbicara tentang singularitas (juga dikenal sebagai omega ). Lihat juga artikel web-nya Is History Converging? Lagi? (2012) atau kertas2006: Merayakan 75 tahun AI - History and Outlook: 25 Tahun Selanjutnya (2007).

nbro
sumber
Ini benar, tetapi dia jelas merupakan minoritas dari peneliti AI dalam hal ini. Memang benar Schmidhuber dipercaya dengan baik, tapi saya tidak berpikir sebagian besar peneliti AI mengambil pandangannya tentang elemen AI ini dengan serius.
John Doucette
1
@ JohnDoucette Ya, saya setuju dengan Anda. Saya hanya ingin menunjukkan kasus luar biasa yang menarik ini.
nbro
0

Agar berada di halaman yang sama, Anda harus memberikan referensi tentang "singularitas teknologi", karena terdiri dari berbagai bidang (matematika, statistik, filsafat ilmu pengetahuan, epistemologi, sosiologi, politik, ekonomi, dan beberapa lainnya).

Secara umum, ketika Anda mempertimbangkan konsep yang berkaitan dengan adj + ai (di mana adj = {lemah, kuat, penuh, sempit, ...}), nafas spekulasi cukup besar dan dalam fieri , sehingga sebagai pengembang (di mana untuk pengembang I menganggap Anda bekerja pada masalah yang berhubungan dengan pengkodean, bukan manajer proyek di google x dan sejenisnya) saya tidak akan khawatir, kecuali jika Anda menikmati secangkir teh dengan rekan kerja Anda selama istirahat.

Ale
sumber