Saya sekarang membaca buku berjudul Praktek Mesin Langsung dengan Scikit-Learn dan TensorFlow dan dalam Bab 10 buku ini, penulis menulis yang berikut:
Arsitektur jaringan saraf biologis (BNN) 4 masih menjadi subjek penelitian aktif, tetapi beberapa bagian otak telah dipetakan, dan tampaknya neuron sering diatur dalam lapisan yang berurutan, seperti yang ditunjukkan pada Gambar 10-2.
Namun sepertinya tidak ada tautan ke penelitian di sana. Dan penulis tidak mengatakannya dengan tegas mengingat bahwa dia menggunakan " sepertinya neuron sering terorganisir dalam lapisan yang berurutan" .
Apakah ini benar dan seberapa kuat dipercaya? Dari penelitian apa ini?
artificial-neuron
biology
Blaszard
sumber
sumber
Jawaban:
Jawaban singkatnya: ya
Jawabannya sedikit lebih lama: agak
Jawaban panjang:
Convolutional neural networks (CNNs), yang sekarang menjadi standar dalam model pemrosesan gambar, terinspirasi dari pekerjaan yang dilakukan oleh Hubel dan Wiesel pada 1950-60an. Mereka menunjukkan bahwa korteks visual kucing dan mokeys mengandung neuron yang secara individual merespons daerah kecil dari bidang visual.
Untuk memberikan latar belakang, pertama-tama kita harus mulai dari batang dan kerucut di mata. Sel-sel fotosensitif ini terhubung ke beberapa lapisan sel sebelum bahkan meninggalkan retina melalui sel ganglion.
Sel-sel ganglion ini kemudian dihubungkan ke beberapa daerah otak tetapi terutama lobus oksipital yang terletak di bagian belakang otak. Lobus oksipital bertanggung jawab untuk pemrosesan visual dan dipisahkan menjadi lapisan kortikal, yang pertama bernama V1 yang merupakan area visual primer. Sebagian besar pekerjaan oleh Hubel dan Wiesel melibatkan sel dalam V1 dan menunjukkan bagaimana sel-sel ini sensitif terhadap orientasi dan warna dari masing-masing daerah reseptif di retina.
Sel-sel di V1 terhubung ke sel-sel di V2 yang sensitif terhadap rangsangan lebih spesifik seperti gerakan dengan orientasi dan tren sensitivitas spesifik ini terus naik dari V2 ke daerah yang lebih tinggi di otak.
Pendekatan berlapis untuk penglihatan ini telah banyak dieksploitasi di CNN, sedemikian rupa sehingga ketika sensitivitas neuron dalam CNN terlatih ditampilkan, respons (orientasi) yang sama ditemukan.
Ada bukti yang jelas tentang lapisan dalam sistem optik biologis dan struktur berlapis serupa di indera lain. Meskipun ada banyak koneksi antara struktur otak yang berbeda, struktur utama lapisan di otak telah membantu memahami apa yang dilakukan berbagai area otak dan telah membantu menginspirasi banyak (jika tidak semua) kemajuan dalam penelitian jaringan saraf.
sumber
Apakah neuron biologis diorganisasikan dalam lapisan yang berurutan?
Merangkul Realitas Kompleksitas
Mengatakan, "Ya," akan menjadi penyederhanaan yang berlebihan, sama seperti pembelajaran digital yang muncul dari beberapa bentuk rekursi sederhana yang diterapkan pada seperangkat aturan logika predikat orde pertama, seperti berjalan di sepanjang pelangi leprechaun ke pot emas.
Set pertanyaan terakhir adalah apropos: "Apakah ini benar dan seberapa kuat dipercaya? Dari penelitian apa ini?" Anda memerlukan jajak pendapat untuk menentukan seberapa kuat diyakini bahwa neuron di otak berada dalam struktur yang dominan berlapis. Referensi ke lapisan dalam penelitian aktual tampaknya tidak membuat klaim bahwa lapisan berturut-turut dalam sebagian besar kasus jika ada. Ada lapisan yang berurutan pada kulit, tetapi kulit dengan lapisan hanya akan kekurangan pori-pori, rambut, antarmuka dengan lubang tubuh dan banyak fitur lainnya. Di otak manusia (atau otak hewan) kompleksitas tiga dimensi sangat meningkat dari kulit.
Akan lebih baik, dari perspektif peneliti AI, jika
Gambar yang disediakan dalam pertanyaan tidak menggambarkan kesederhanaan seperti itu. Ini sebenarnya menggambarkan yang sebaliknya, bahwa alam jarang begitu transparan dalam seluk-beluknya.
Karakterisasi, "Karena tampaknya neuron sering diatur dalam lapisan yang berurutan," tidak akurat. Karakterisasi di bawah ini yang lebih masuk akal dari irisan tertentu yang ditunjukkan menunjukkan dua daerah yang mungkin berbeda secara terpisah, kisi pada 8% paling kiri dan keterhubungan horisontal sebagian besar pada 92% sisanya.
Seorang insinyur listrik atau ahli matematika mungkin tidak akan menyebut dua bagian lapisan ini. Sisi kiri mungkin dihipotesiskan menjadi matriks dari beberapa bentuk dan 92% kanan mungkin dianggap sebagai sirkuit pemrosesan yang kompleks.
Karakterisasi Struktur 2D
Gambar lain dengan Struktur Chaotic
Jutaan Kali Kompleksitas
Pertimbangkan lebih lanjut bahwa sebagian besar kerumitan disembunyikan dari penonton dalam satu irisan struktur neurologis tiga dimensi. Jika kita secara sewenang-wenang memutuskan bahwa gambar tersebut adalah potongan yang diparalel dengan bidang xz, kita dapat melihat hubungan dalam rencana xz itu, tetapi tidak dalam xy maupun yz. Potongan lain dari arah atau lokasi lain di otak akan seunik jendela sewenang-wenang ke Mandelbrot Set.
Lebih Banyak Kekeliruan Hasil Penelitian
Ungkapan, "Beberapa bagian otak telah dipetakan," juga menyesatkan. Konektivitas umum antara substruktur otak manusia telah dipetakan, bukan sinyal dan kriteria untuk propagasi sinyal dan kekuatan dalam neuron individu. Sirkuit berbeda secara radikal pada tingkat neuron antara dua otak, yang keduanya menunjukkan kecerdasan in vivo (pada makhluk hidup).
Analogi ini seperti orang seukuran mikroba dengan peta benua, kota-kota besar, dan rute pengiriman tetapi tanpa pengetahuan sebelumnya tentang sistem transportasi, tidak ada GPS, dan tidak ada peta terperinci lainnya yang ingin melakukan perjalanan dari menara Eiffel ke pusat kota di Sidney Australia. Ada satu set evolusi sistem transportasi yang tidak mencukupi atau arahan terperinci yang dengannya perjalanan dapat berhasil dilakukan.
Dalam hal mencapai tingkat detail dalam struktur dan fungsi otak manusia yang cukup untuk membangun versi elektroniknya, bagian yang hilang termasuk kurangnya pemahaman
Lapisan dan Hirarki
Adalah umum dalam sains untuk mencari lapisan atau hierarki untuk digunakan dalam pendidikan dan praktik karena mereka dapat membantu dalam memahami struktur anatomi. Kecenderungan itu telah muncul dalam rekayasa perangkat lunak dalam desain sistem operasi, desain bahasa pemrograman, desain aplikasi, dan sekarang desain AI. Ketika bidang teknologi ini berkembang, tren ini sebenarnya jauh dari berorientasi lapisan murni atau desain hierarkis ke lebih dari jaringan yang lebih bebas dari bagian-bagian yang saling berhubungan. Kesederhanaan diinginkan, tetapi terkadang kompleksitas diperlukan.
Mensimulasikan kecerdasan adalah tujuan yang menuntut, dan, kesederhanaan yang gagal pada setengah abad pertama dalam mencoba merancang sistem digital yang cerdas, jelas bahwa solusi yang bekerja akan membutuhkan kompleksitas dan oleh karena itu keahlian yang besar.
Adalah masuk akal untuk mengasumsikan bahwa tidak ada kendala yang memandu evolusi kecerdasan manusia ke arah struktur yang dicirikan terutama oleh lapisan atau struktur hierarkis. Proses evolusi tidak memperhatikan kesederhanaan untuk tujuan memudahkan studi akademis. Tidak ada apa pun tentang ekspresi gen DNA atau cara-cara di mana neuron tumbuh pada janin atau tahap-tahap selanjutnya yang akan menegakkan aturan kesederhanaan pada struktur atau fungsi tersebut.
Seberapa kompleks ekspresi DNA yang mengarah pada fitur otak yang kita anggap kecerdasan? Seberapa rumit sistem saraf yang muncul dari ekspresi itu? Beberapa percaya bahwa umat manusia harus berevolusi sebelum pikiran manusia dapat mensimulasikan diri mereka sendiri. Dugaan seperti itu bisa benar atau salah. Seperti sulit untuk diprediksi, bahkan dalam urutan besarnya.
Analisis Angka Prediksi Optimis
Harapan untuk pertumbuhan eksponensial telah diusulkan untuk harapan hidup, kapasitas panel surya yang digunakan di Jerman, kecepatan CPU (eksekusi instruksi mikroprosesor per detik), kepadatan transistor ("Hukum" Moore), ukuran Partai Komunis, dan banyak metrik lainnya, tetapi meskipun tingkat pertumbuhan di alam dan usaha manusia sering eksponensial pada tahap awal, namun tidak pernah terbukti berkelanjutan. Laju pertumbuhan kira-kira linier untuk periode singkat sesudahnya dan menjadi lebih berbentuk busur-tangen ketika saturasi didekati. Dari saturasi, nilai-nilai metrik cenderung menurun dan meningkat dalam kesesuaian yang kacau dan dimulai dalam rentang waktu yang lama.
Pada bulan April 2005, Gordon Moore (penulis "Hukum" Moore) menyatakan, "[Pertumbuhan eksponensial] tidak dapat berlanjut selamanya. Sifat eksponensial adalah bahwa Anda mendorong mereka keluar dan akhirnya bencana terjadi." Dia kemudian menyatakan, "Dalam hal ukuran [dari transistor] Anda dapat melihat bahwa kita sedang mendekati ukuran atom yang merupakan penghalang mendasar."
Penting untuk dipahami bahwa Moore tidak menciptakan undang-undang. Dia melihat lebih dari dua dekade data dan melihat kepadatan transistor kira-kira sebanding dengan et , di mana t adalah lamanya waktu sejak sirkuit terpadu pertama kali mencapai pasar massal, dan kemudian memperkirakan pertumbuhan eksponensial lebih lanjut berdasarkan pada data tren yang jelas.
Prediksi Realistis
Manusia tidak pernah mencoba sesuatu yang secara mendasar melanggar ambang batas seperti menciptakan simulasi diri. Tanpa pengalaman terkait dari mana untuk mengetahui apakah pertumbuhan eksponensial, pertumbuhan linier, pertumbuhan tangen busur, atau bentuk lain adalah model yang paling memungkinkan, model teraman mungkin yang ditentukan oleh Pisau Cukur Occam, prediksi linear.
Untuk membuat prediksi, seseorang harus mengumpulkan beberapa poin data. Meskipun ini prediksi yang realistis, ini bukan prediksi yang sangat rajin. Mungkin lebih banyak pekerjaan dapat dilakukan untuk menemukan model yang lebih mungkin daripada yang linier, mengembangkan sistem teori dan metrik untuk menentukan kemajuan pada titik waktu mana pun, atau mengumpulkan lebih banyak titik data untuk membuat kuadrat yang paling cocok. Untuk keperluan jawaban ini, kami hanya akan menggunakan dua titik data dan melakukan ekstrapolasi linier.
Pada tahun 1660, Blaise Pascal menulis dalam Pensées-nya ("Pikiran"), "Mesin aritmatika menghasilkan efek yang mendekati lebih dekat ke pikiran daripada semua tindakan hewan. Tapi itu tidak melakukan apa pun yang akan memungkinkan kita untuk mengaitkan kehendak padanya, seperti pada binatang, "jadi pencarian simulasi mekanis kecerdasan manusia sudah berlangsung pada saat itu.
Sejak itu, programmer komputer telah mengembangkan kode yang memenuhi sejumlah kemampuan manusia.
Fitur yang hilang dari simulasi digital saat ini intelijen sistem digital adalah penting dan banyak.
Mengingat daftar ini diringkas dan item-item ini yang belum dicapai dalam perangkat lunak tidak dapat dideskripsikan secara mekanis dalam bahasa alami seperti yang telah diprogram dengan sukses, kita dapat relatif yakin bahwa pada 2017 kita memiliki sistem digital yang hanya dapat dicapai sepersekian luas dari fitur set lengkap yang orang harapkan dari seorang manusia tanpa memanggil orang yang mengalami gangguan mental. Dilihat dari daftar pencapaian, tidak lebih dari 10% dari apa yang dilakukan orang cerdas telah disimulasikan oleh perangkat lunak komputer.
Tanpa alasan untuk meyakini bahwa laju penemuan akan menurun atau meningkat (terlepas dari klaim bahwa kemajuan manusia bersifat eksponensial 1 ) pendekatan linier sederhana menempatkan otak elektronik yang relatif lengkap di cakrawala untuk tahun 5.587.
sumber