Apa kritik tentang kinerja HTM?

Saya baru-baru ini belajar tentang keberadaan memori temporal hirarkis (HTM) ini . Saya sudah membaca dokumen Hierarchical Temporal Memory: Concepts, Theory and Terminology (oleh Jeff Hawkins dan Dileep George), yang tampaknya agak mudah dimengerti, tetapi satu tanda merah adalah bahwa dokumen tersebut tidak ditinjau oleh rekan sejawat atau tidak mencoba menjelaskan mengapa harus demikian. bekerja secara detail.

Saya mencoba mencari-cari beberapa sumber independen. Saya menemukan beberapa makalah yang membandingkan kinerjanya dengan yang lain, tetapi tidak ada yang menjelaskan mengapa kinerjanya baik (atau tidak). Saya perhatikan beberapa komentar yang mengklaim bahwa itu dipandang rendah oleh pakar arus utama, tetapi saya tidak dapat menemukan kritik yang sebenarnya.

Apa kritik tentang kinerja HTM? Karena HTM dimaksudkan sebagai generik, kritik khusus domain apa pun harus dikaitkan dengan masalah yang lebih mendasar.

Selain itu, ada sejumlah besar data pelatihan untuk digunakan, cukup bahkan untuk sesi pelatihan beberapa bulan. Pada dasarnya, kritik apa pun mengenai ukuran atau lama pelatihan tidak relevan.

Kritik terhadap Jeff Hawkins dirangkum dengan baik dalam esai berikut yang diambil dari http://www.theregister.co.uk/2014/03/29/hawkins_ai_feature/

Saya sendiri percaya bahwa teori HTM memiliki potensi besar dan akan menjadi dasar kecerdasan mesin yang sebenarnya. IBM baru-baru ini mengumumkan untuk mendukung teori HTM dan memulai Cortical Learning Center termasuk beberapa ratus anggota.

http://www.technologyreview.com/news/536326/ibm-tests-mobile-computing-pioneers-controversial-brain-algorithms/

Seperti yang ditunjukkan dalam esai, Dillep George, salah seorang pendiri Numenta, membuat startup itu Berganti-ganti, yang menarik banyak dana, dan fakta menunjukkan potensi teori HTM.

Sumber: Kritik terhadap Jeff Hawkins , The Register

Pendekatan media yang cerdas dan percaya diri tampaknya telah membangkitkan perasaan tidak enak di antara akademisi lain yang menunjukkan, dengan benar, bahwa Hawkins belum menerbitkan secara luas, juga tidak memiliki banyak ide sendiri.

Numenta juga memiliki masalah, sebagian karena pandangan istimewa Hawkins tentang bagaimana otak bekerja.

Pada 2010, misalnya, salah seorang pendiri Numenta, Dileep George, pergi untuk mencari perusahaannya sendiri, Vicarious, untuk memetik beberapa buah yang lebih mudah digantung di ladang AI yang menjanjikan. Dari apa yang kita pahami, pemisahan damai ini berasal dari perbedaan pendapat antara George dan Hawkins, ketika George cenderung ke arah pendekatan yang lebih matematis, dan Hawkins ke yang lebih biologis.

Hawkins juga datang untuk sedikit kekalahan dari intelejensia, dengan profesor psikologi NYU Gary Marcus menolak pendekatan Numenta dalam sebuah artikel New Yorker yang dikepalai Steamrolled oleh Big Data.

Akademisi lain yang diwawancarai El Reg untuk artikel ini tidak ingin dikutip, karena mereka merasa kurangnya makalah peer-review Hawkins dikombinasikan dengan kepribadian wirausaha mengurangi kredibilitas seluruh pendekatannya.

Hawkins menepis kritik-kritik ini dan percaya bahwa mereka sampai pada perbedaan pendapat antara dia dan AI inteligensia.

"Ini adalah sistem biologis kompleks yang tidak dirancang oleh prinsip-prinsip matematika [yang] sangat sulit untuk diformalkan sepenuhnya," katanya kepada kami.

Saya sudah belajar HTM sebentar. Agak keren. Perilaku default suatu HTM adalah untuk menganalisis data sementara. Di sisi lain, saat ini, Anda memerlukan jaringan saraf "mewah" (mis. Jaringan saraf berulang) untuk memodelkan masalah urutan-ke-urutan (misalnya obrolan). Tetapi HTM dapat diterapkan secara alami untuk masalah jenis ini!

Saya berencana membuat semacam TV interaktif dengannya, dengan data kontrol dikirim dengan data visual, kemudian membatasi data visual ke data kontrol (itu mungkin, tapi jangan berharap tiba-tiba memimpikan video baru, itu tidak terjadi). Tapi, saya harus mengatakan, hal paling keren tentang itu adalah video yang Anda ajarkan tidak akan keluar pada pemutaran, melainkan akan menunjukkan versi yang paling khas, yaitu bentuk pemahamannya, dan benar-benar membuatnya benar-benar keren. Jadi itu seperti mimpi yang Anda dapatkan dari itu.

Jika Anda menggunakan HTM dengan teks,

1. itu menyimpan surat,
2. kemudian menghasilkan suku kata.
3. kemudian mengambil suku kata ini dan menghasilkan kesamaan dari ini,
4. kemudian membentuk kata-kata dari suku kata umum,
5. maka dibutuhkan kata-kata ini dan menentukan kesamaan apa yang mereka miliki,
6. maka itu mungkin membentuk kata-kata yang lebih besar,
7. kemudian membentuk kelompok kata-kata,
8. kemudian membentuk kelompok kalimat

Jadi, setiap kali, naik satu tingkat, itu "lupa" sedikit lagi, hanya untuk mungkin menggabungkan kelompok-kelompok lebih kuat. Kelompok-kelompok yang lebih tertanam ini akan memutar sedikit berbeda dari rekaman yang diputar di dalamnya. Dan pemutaran ini belum dilihat oleh banyak orang.

Saya bertanya-tanya apakah itu muncul dengan kalimatnya sendiri sepenuhnya.

Itu membuat kalimat tumbuh sedikit lebih lambat, jauh lebih baik. Ini pekerjaan yang jauh lebih sulit daripada tidak melupakan apa pun dan hanya memiliki pemutaran rekaman yang datar. Menurut saya, semakin lambat kalimat Anda tumbuh, semakin baik Anda melakukannya, jadi jika ada lebih banyak cara untuk menemukan tipikal, Anda harus melakukannya.