Bagaimana saya mengotomatiskan pilihan topologi jaringan saraf untuk masalah yang sewenang-wenang?

Anggaplah saya ingin menyelesaikan masalah dengan jaringan saraf yang baik saya tidak bisa cocok dengan topologi yang sudah ada (perceptron, Konohen, dll) atau saya sama sekali tidak menyadari keberadaan mereka atau saya tidak dapat memahami mereka mekanik dan saya hanya mengandalkan saya sendiri.

Bagaimana saya mengotomatiskan pilihan topologi (yaitu, jumlah lapisan, jenis aktivasi, jenis dan arah koneksi, dll.) Dari jaringan saraf untuk masalah yang sewenang-wenang?

Saya seorang pemula, namun saya menyadari bahwa dalam beberapa topologi (atau, setidaknya dalam perceptrons) sangat sulit jika bukan tidak mungkin untuk memahami mekanisme dalam karena neuron dari lapisan tersembunyi tidak mengekspresikan konteks yang bermakna secara matematis.

Saya pikir dalam hal ini, Anda mungkin ingin menggunakan algoritma genetika untuk menghasilkan topologi daripada bekerja sendiri. Saya pribadi suka NEAT (NeuroEvolution of Augmenting Topologies) .

Makalah NEAT asli melibatkan bobot berevolusi untuk koneksi, tetapi jika Anda hanya menginginkan topologi, Anda dapat menggunakan algoritma pembobotan sebagai gantinya. Anda juga dapat mencampur fungsi aktivasi jika Anda tidak yakin mana yang akan digunakan. Berikut adalah contoh penggunaan backpropagation dan beberapa tipe neuron.

Jawaban lainnya menyebutkan NEAT untuk menghasilkan bobot atau topologi jaringan. Makalah NeuroEvolution: Pentingnya Evolusi Fungsi Transfer dan Jaringan Heterogen , yang juga memberikan ringkasan singkat teknik neuroevolusi, memberikan pendekatan alternatif untuk NEAT. Ini menggunakan Pemrograman Genetika Cartesian untuk mengembangkan beberapa fungsi aktivasi.