Adakah argumen ilmiah / matematis yang mencegah pembelajaran mendalam dari menghasilkan AI yang kuat?

12

Saya membaca The Book of Why karya Judea Pearl , di mana ia menyebutkan bahwa pembelajaran yang mendalam hanyalah teknologi pemasangan kurva yang dimuliakan, dan tidak akan mampu menghasilkan kecerdasan seperti manusia.

Dari bukunya ada diagram ini yang menggambarkan tiga tingkat kemampuan kognitif:

Tiga tingkat kemampuan kognitif

Idenya adalah bahwa "kecerdasan" yang dihasilkan oleh teknologi pembelajaran mendalam saat ini hanya pada tingkat asosiasi. Dengan demikian AI tidak jauh dari level pertanyaan yang diajukan seperti "bagaimana saya bisa membuat Y terjadi" (intervensi) dan "Bagaimana jika saya bertindak berbeda, akankah X masih terjadi?" (Counterfactuals), dan sangat tidak mungkin teknik pemasangan kurva dapat membawa kita lebih dekat ke tingkat kemampuan kognitif yang lebih tinggi.

Saya menemukan argumennya persuasif pada tingkat intuitif, tetapi saya tidak dapat menemukan hukum fisika atau matematika yang dapat meningkatkan atau menimbulkan keraguan pada argumen ini.

Jadi, adakah argumen ilmiah / fisik / kimia / biologis / matematis yang mencegah pembelajaran mendalam dari menghasilkan AI yang kuat (kecerdasan mirip manusia)?

Graviton
sumber
Beberapa jam yang lalu, kami memiliki semacam Quetion yang berbicara tentang neuroscience dan kecerdasan buatan, jadi saya pikir pertanyaan ini sangat cocok dalam aplikasi data, yaitu selain pembelajaran mesin.
quintumnia
1
Salah satu masalah yang dihadapi dalam menjawab ini adalah, adalah bahwa "Belajar Dalam" adalah semacam nama merek, di mana hal-hal dilakukan dengan jaringan saraf yang melampaui pemasangan kurva statistik - misalnya RNN untuk urutan pembelajaran, dan "pembelajaran penguatan dalam" - mungkin juga dianggap bagian dari itu oleh penganutnya. Jika Anda mengizinkan istilah untuk berevolusi seperti ini, sangat sulit untuk menyimpulkan argumen tentang kemampuannya.
Neil Slater
teorema ketidaklengkapan
godel
2
@thecomplexitytheorist: ketidaklengkapan Godel, entscheidungsproblem dan sejenisnya, semua itu berlaku juga bagi pikiran manusia. Sebagai kesimpulan, jika mereka adalah alasan untuk tidak mencapai AI, maka tidak ada manusia yang cerdas. Modus tollens, Godels bukan masalah di jalan menuju AGI
pasaba por aqui
Siapa yang bisa mengatakan bahwa 'Melakukan' dan 'Membayangkan' juga bukan sekadar 'Kurva-Pas' yang terjadi di otak?
Dunk

Jawaban:

3

Komentar Judea Pearl tahun 2018 tentang ACM.org, dalam bukunya To Build Truly Intelligent Machines, Mengajar Mereka Sebab dan Akibat menusuk kebenaran.

Semua pencapaian yang mengesankan dari jumlah pembelajaran yang mendalam hanya untuk penyesuaian kurva.

Rn

  1. Jaringan buatan tidak dapat melakukan logika.
  2. Jaringan buatan adalah pendekatan terbaik untuk AI.

Bagaimana rasionalitas dapat dikecualikan dari daftar ciri-ciri kecerdasan manusia yang penting, yang merupakan arti dari dua pernyataan bersama ini?

Apakah otak manusia adalah jaringan pemoles kurva yang canggih? Kutipan terkenal Marvin Minsky, "Otak kebetulan adalah mesin daging," ditawarkan tanpa bukti, dan juga bukan bukti remehnya otak manusia maupun bukti bahwa otak berada di luar jangkauan kemampuan komputasi Turing. .

Ketika Anda membaca kata-kata ini, apakah jaringan saraf Anda melakukan urutan kurva yang sesuai?

  • Tepi dari batang retina dan kerucut
  • Garis dari tepi
  • Bentuk dari garis
  • Surat dari bentuk
  • Elemen linguistik dari kelompok huruf
  • Struktur linguistik dari elemen
  • Memahami dari struktur linguistik

Kasus ini kuat untuk penegasan bahwa lima yang pertama adalah mekanisme konvergensi pada model, dan semua struktur pembelajaran mesin hanyalah metode untuk menyesuaikan data dengan model.

Dua butir peluru terakhir adalah di mana paradigma itu rusak dan di mana banyak peneliti dan penulis AI telah dengan tepat menyatakan bahwa pembelajaran mesin memiliki keterbatasan yang signifikan ketika hanya didasarkan pada lapisan multi-layer perceptrons dan kernel konvolusi. Selain itu, item peluru terakhir terlalu disederhanakan dalam kondisi saat ini, mungkin dengan perintah besarnya. Bahkan jika Minsky benar bahwa komputer dapat melakukan apa yang otak lakukan, proses membaca dan memahami paragraf ini dapat dengan mudah memiliki ribuan jenis komponen proses unik dalam pola alur kerja internal dengan paralelisme masif. Teknologi pencitraan menunjukkan probabilitas ini. Kami memiliki pemodelan komputer hanya lapisan periferal paling sederhana.

Adakah argumen ilmiah / matematis yang mencegah pembelajaran mendalam dari menghasilkan AI yang kuat? - Tidak. Tapi tidak ada argumen yang menjaminnya.

Pertanyaan lain di sini menyelidiki apakah tukang kurva yang canggih ini dapat melakukan elemen kognisi atau penalaran.

Total tiga dalam gambar pertanyaan, melihat, melakukan, dan membayangkan, tidak sepenuhnya lengkap, akurat, atau berwawasan luas.

  • Setidaknya ada lima paradigma sensorik pada manusia, bukan satu
  • Melakukan indera manusia yang didahului oleh miliaran tahun - bakteri melakukannya
  • Membayangkan bukanlah proses yang jauh lebih tinggi dari skenario replay dari model pengalaman masa lalu dengan beberapa metode untuk menerapkan fungsi yang ditetapkan untuk menggabungkan mereka dan menyuntikkan mutasi acak
  • Kreativitas mungkin hanya berimajinasi pada item sebelumnya, diikuti dengan menyaring hasil imajinasi yang tidak berguna dengan beberapa kriteria kualitas berorientasi pasar, meninggalkan produk-produk kreatif yang mengesankan yang menjual

Bentuk yang lebih tinggi adalah penghargaan, rasa realitas di luar ruang lingkup pengukuran ilmiah, keraguan yang sah, cinta, pengorbanan untuk kebaikan orang lain atau kemanusiaan.

Banyak yang mengakui bahwa keadaan teknologi AI saat ini tidak mendekati pengadaan sistem yang dapat menjawab dengan andal, "Bagaimana saya bisa mewujudkan Y?" atau "Jika saya bertindak berbeda, apakah X masih akan terjadi?"

Tidak ada bukti matematis bahwa beberapa kombinasi elemen pas kurva kecil dapat atau tidak dapat mencapai kemampuan untuk menjawab pertanyaan-pertanyaan itu juga manusia tipikal, kebanyakan karena tidak ada pemahaman yang cukup tentang apa kecerdasan itu atau bagaimana mendefinisikannya dalam istilah matematika.

Mungkin juga bahwa kecerdasan manusia tidak ada sama sekali, bahwa referensi untuk itu didasarkan pada keyakinan agama bahwa kita lebih tinggi sebagai spesies daripada spesies lain. Bahwa kita dapat mengisi, mengkonsumsi, dan memusnahkan sebenarnya bukanlah konsepsi kecerdasan yang sangat cerdas.

Klaim bahwa kecerdasan manusia adalah adaptasi yang membedakan kita dari mamalia lain bertentangan dengan apakah kita beradaptasi dengan baik. Kami belum diuji. Datanglah pembunuh global meteorik berikutnya dengan gelombang kejut yang besarnya sama dengan meteor kawah Chicxulub, diikuti oleh beberapa ribu tahun musim dingin matahari dan kita akan melihat apakah itu adalah keberadaan 160.000 tahun kita atau keberadaan bakteri 4.000.000 tahun bakteri itu. terbukti lebih berkelanjutan. Dalam garis waktu kehidupan, kecerdasan manusia belum membuktikan dirinya signifikan sebagai sifat adaptif.

Apa yang jelas tentang pengembangan AI adalah bahwa jenis sistem lainnya memainkan peran bersama dengan pembelajar yang mendalam berdasarkan pada konsep multi-layer perceptron dan kernel konvolusi yang merupakan pengasuh permukaan yang ketat.

Komponen Q-learning, komponen berbasis perhatian, dan komponen memori jangka pendek-panjang semuanya benar-benar merupakan tukang kelengkapan permukaan juga, tetapi hanya dengan meregangkan definisi pemasangan permukaan secara signifikan. Mereka memiliki sifat adaptif waktu nyata dan negara, sehingga mereka dapat Turing lengkap.

Wadah logika fuzzy, sistem berbasis aturan, algoritme dengan properti Markovian, dan banyak tipe komponen lainnya juga memainkan perannya dan sama sekali bukan tukang permukaan.

Singkatnya, ada poin yang dibuat yang memiliki dasar lebih dari masuk akal atau kualitas intuitif yang menyenangkan, namun, banyak dari penulis ini tidak memberikan kerangka kerja matematika dengan definisi, aplikasi, lemmas, teorema, bukti, atau bahkan eksperimen pemikiran yang dapat diteliti secara formal.

Douglas Daseeco
sumber
1

Ini adalah paradoks, tetapi mesin pembelajaran yang mendalam (didefinisikan sebagai varian NeuralNet) tidak dapat mempelajari apa pun. Ini adalah arsitektur perangkat keras / perangkat lunak yang fleksibel dan dapat dikonfigurasi yang dapat ditentukan untuk menyelesaikan banyak masalah. Tetapi parameter optimal untuk memecahkan masalah diperoleh oleh sistem eksternal, yaitu algoritma back-propagation.

Subsistem back-propagasi menggunakan paradigma pemrograman konvensional, ini bukan Neural Net. Fakta ini bertentangan mutlak dengan pikiran manusia, di mana pembelajaran dan penggunaan pengetahuan dilakukan oleh sistem yang sama (pikiran).

Jika semua hal menarik yang sebenarnya dilakukan di luar NN, sulit untuk mengklaim bahwa NN (dalam varian apa pun) dapat berkembang dalam AGI.

Dimungkinkan juga untuk menemukan beberapa perbedaan lagi. Jaring saraf sangat numerik dalam antarmuka dan internalnya. Dari sudut pandang ini, mereka adalah evolusi mesin vektor dukungan.

Terlalu banyak perbedaan dan batasan untuk mengharapkan AGI.

Catatan: Saya sangat tidak setuju dalam pengundian yang termasuk dalam pertanyaan awal. "Melihat", "melakukan", "pencitraan" adalah level yang benar-benar salah. Ini mengabaikan dari konsep perangkat lunak dasar dan umum sebagai "abstraksi" atau "keadaan program" (pikiran, dalam kata-kata Turing); menerapkan AI sebagai "diramalkan"; dan AGI sebagai "kehendak bebas", "tujuan dan perasaan", ...

pas por aqui
sumber
4
Saya pikir menghilangkan propagasi kembali (atau bagian mana pun dari kerangka pelatihan) dari pertimbangan, dan mengklaim bahwa bagian yang tersisa adalah bagian "Pembelajaran Mendalam" adalah buatan, dan agak menghindari pertanyaan. Saya pikir masuk akal untuk mengasumsikan bahwa OP berarti Belajar Dalam seperti yang dipraktikkan, termasuk proses pelatihan yang tersedia.
Neil Slater
1
@NeilSlater: Jika kita mengatakan DL adalah sejenis NeuralNet (untuk menyatakan kesamaan dengan pikiran manusia dan, sebagai konsekuensinya, kekuatannya yang mungkin untuk mencapai AGI), kami tidak termasuk bagian pembelajaran, itu bukan NN . Jika kita memasukkan subsistem pembelajaran dalam definisi DL, maka itu bukan NN, itu hanya pemrograman konvensional, dengan kekuatan dari setiap program konvensional, dan memiliki kemungkinan yang sama untuk mencapai AGI daripada sistem program atau paradigma lainnya.
pasaba por aqui
Otak manusia belajar dengan menerima dan memproses input dari 'sistem' eksternal secara eksklusif. Parameter optimal untuk memecahkan masalah diperoleh melalui coba-coba, menerapkan aturan dan memproses input dari sistem eksternal. Pelatihan dimulai saat bayi masih di dalam rahim dan berlanjut 24/7 setelahnya. Keadaan AI saat ini hampir pasti tidak sebanding dengan meniru otak manusia; tetapi mengklaim bahwa AI tidak dapat belajar (atau belum belajar dengan cara yang mirip dengan otak manusia) mengasumsikan pengetahuan tentang bagaimana otak manusia 'belajar' dan berfungsi yang belum diketahui oleh ilmu pengetahuan.
Dunk