Mesin Boltzmann Terbatas: bagaimana cara digunakan dalam pembelajaran mesin?

Latar Belakang:

Ya, Mesin Boltzmann Terbatas (RBM) DAPAT digunakan untuk memulai bobot jaringan saraf. Juga BISA digunakan dalam cara "lapis demi lapis" untuk membangun jaringan kepercayaan yang mendalam (yaitu, untuk melatih lapisan ke- di atas lapisan , dan kemudian untuk melatih layer ke- di atas layer ke- , bilas dan ulangi ...)$n$$(n-1)$$n+1$$n$ .

Mengenai cara menggunakan RBM, detail dapat ditemukan dari utas Tutorial Bagus untuk Mesin Boltzmann Terbatas (RBM) di mana beberapa makalah dan tutorial dapat ditemukan.

Pertanyaan saya adalah:

• Apakah RBM benar-benar digunakan dalam proyek industri atau proyek akademik
• Jika ya, bagaimana & proyek mana yang sedang digunakan?
• Adakah perpustakaan populer (seperti tensorflow, Caffe, Theono, dll) menyediakan modul RBM?

Terima kasih telah berbagi. Saya ingin tahu apakah RBM benar-benar bermanfaat dalam praktik.

RBM adalah salah satu cara praktis pertama untuk melatih / mempelajari jaringan yang dalam, memiliki lebih dari satu atau dua lapisan. Dan jaringan kepercayaan yang dalam diajukan oleh Geoffrey Hinton, yang dianggap sebagai salah satu 'bapak pembelajaran mendalam, saya kira, meskipun Yann LeCun adalah' bapak 'utama dalam pembelajaran dalam, saya pikir, atau begitulah cara saya melihatnya. Tentu saja, semuanya sudah ditemukan bertahun-tahun yang lalu oleh Jurgen Schmidhuber :-)

Jadi, RBM terkenal karena 1. salah satu cara pertama melakukan pembelajaran mendalam 2. Geoffrey Hinton.

Namun, dalam praktiknya, mereka pasti digunakan, dan dapat digunakan, dalam penelitian akademis, karena ada banyak orang yang mencoba menemukan beberapa ceruk unik, yang mereka dapat menjadi ahli, dan menjadi ahli di seluruh dunia dalam beberapa ceruk RBM adalah baik niche seperti yang lainnya. Namun, dalam praktiknya, dalam industri, sementara saya tidak akan mengklaim mereka tidak pernah digunakan, tetapi mereka muncul sangat jarang. Ada begitu banyak teknik yang sangat standar, yang melatih sangat cepat dan mudah, seperti regresi logistik, dan feed-forward jaringan saraf convolutional. Untuk tanpa pengawasan, hal-hal seperti GAN benar-benar populer saat ini.

Dimungkinkan untuk menggunakan RBM untuk menangani masalah tipikal yang muncul dalam pengumpulan data (yang dapat digunakan misalnya untuk melatih model pembelajaran mesin). Masalah tersebut termasuk set data yang tidak seimbang (dalam masalah klasifikasi), atau kumpulan data dengan nilai yang hilang (nilai beberapa fitur tidak diketahui). Dalam kasus pertama adalah mungkin untuk melatih RBM dengan data dari kelas minoritas dan menggunakannya untuk menghasilkan contoh untuk kelas ini sementara dalam kasus kedua adalah mungkin untuk melatih RBM secara terpisah untuk setiap kelas dan mengungkap nilai fitur yang tidak diketahui.

Aplikasi khas RBM lainnya adalah pemfilteran kolaboratif ( http://dl.acm.org/citation.cfm?id=1273596 ).

Sejauh perpustakaan populer yang bersangkutan saya pikir deeplearning4j adalah contoh yang baik ( http://deeplearning4j.org ).