Jika saya memiliki jaringan saraf convolutional (CNN), yang memiliki sekitar 1.000.000 parameter, berapa banyak data pelatihan yang diperlukan (anggap saya sedang melakukan penurunan gradien stokastik)? Apakah ada aturan praktis? Catatan tambahan: Ketika saya melakukan penurunan gradien stokastik...
Saya mencoba memahami makalah terkenal "Bermain Atari dengan Pembelajaran Penguatan Jauh" ( pdf ). Saya tidak jelas tentang perbedaan antara zaman dan episode . Dalam algoritma , loop luar lebih dari episode , sedangkan pada gambar sumbu x diberi label zaman . Dalam konteks pembelajaran penguatan,...
Katakanlah saya sedang menulis sebuah algoritma untuk membangun 2-layer autoencoder dan 2-layer neural network. Apakah keduanya sama atau berbeda? Apa yang saya pahami adalah bahwa ketika saya membuat autoencoder bertumpuk, saya akan membangun lapis demi lapis. Untuk jaringan saraf, saya akan...
Saya bingung dengan definisi model non-parametrik setelah membaca tautan ini Model parametrik vs Nonparametrik dan Menjawab komentar dari pertanyaan saya yang lain . Awalnya saya pikir "parametrik vs non-parametrik" berarti jika kita memiliki asumsi distribusi pada model (mirip dengan pengujian...
Adakah alasan bagus untuk memilih nilai biner (0/1) daripada nilai diskrit atau dinormalisasi berkelanjutan , misalnya (1; 3), sebagai input untuk jaringan umpan-maju untuk semua node input (dengan atau tanpa backpropagation)? Tentu saja, saya hanya berbicara tentang input yang dapat diubah...
Dalam jaringan saraf berulang, Anda biasanya akan maju merambat melalui beberapa langkah waktu, "membuka gulungan" jaringan, dan kemudian kembali merambat melintasi urutan input. Mengapa Anda tidak hanya memperbarui bobot setelah masing-masing langkah dalam urutan? (setara dengan menggunakan...
Pertanyaan: apakah mungkin untuk melatih NN untuk membedakan antara angka ganjil dan genap hanya menggunakan sebagai input angka itu sendiri? Saya memiliki dataset berikut: Number Target 1 0 2 1 3 0 4 1 5 0 6 1 ... ... 99 0 100 1 Saya melatih NN dengan dua neuron input (satu menjadi Variabel...
Tampaknya ada banyak kebingungan dalam perbandingan menggunakan di glmnetdalam caretuntuk mencari lambda yang optimal dan menggunakan cv.glmnetuntuk melakukan tugas yang sama. Banyak pertanyaan diajukan, misalnya: Klasifikasi model train.glmnet vs. cv.glmnet? Apa cara yang tepat untuk...
Semua contoh yang saya temukan menggunakan keyakinan mendalam atau jaringan saraf convolutional menggunakannya untuk klasifikasi gambar, deteksi bakteri atau pengenalan suara. Apakah jaringan syaraf yang dalam juga berguna untuk tugas-tugas regresi klasik, di mana fitur-fiturnya tidak terstruktur...
Teorema aproksimasi universal adalah hasil yang cukup terkenal untuk jaringan saraf, pada dasarnya menyatakan bahwa berdasarkan beberapa asumsi, suatu fungsi dapat didekati secara seragam oleh jaringan saraf dengan akurasi apa pun. Apakah ada beberapa hasil analog yang berlaku untuk jaringan saraf...
Dalam convolutional neural networks (CNN), matriks bobot pada setiap langkah mendapatkan baris dan kolom terbalik untuk mendapatkan matriks kernel, sebelum melanjutkan dengan konvolusi. Ini dijelaskan pada serangkaian video oleh Hugo Larochelle di sini : Menghitung peta yang tersembunyi akan...
Dalam beberapa tutorial saya menemukan dinyatakan bahwa "Xavier" inisialisasi berat (kertas: Memahami kesulitan pelatihan deep feedforward neural networks ) adalah cara yang efisien untuk menginisialisasi bobot jaringan saraf. Untuk lapisan yang sepenuhnya terhubung ada aturan praktis dalam...
Struktur pertanyaan ini adalah sebagai berikut: pada awalnya, saya memberikan konsep pembelajaran ensemble , selanjutnya saya memberikan daftar tugas pengenalan pola , kemudian saya memberikan contoh algoritma pembelajaran ensemble dan, akhirnya, memperkenalkan pertanyaan saya. Mereka yang tidak...
Misalnya, seseorang ingin memprediksi harga rumah dan memiliki dua fitur input, panjang dan lebar rumah. Kadang-kadang, satu juga termasuk fitur input polinomial 'diturunkan', seperti area, yang panjang * lebar. 1) Apa gunanya menyertakan fitur turunan? Bukankah seharusnya jaringan saraf...
Dalam sebagian besar contoh yang saya lihat sejauh ini dari jaringan saraf, jaringan digunakan untuk klasifikasi dan node ditransformasikan dengan fungsi sigmoid. Namun, saya ingin menggunakan jaringan saraf untuk menampilkan nilai riil kontinu (secara realistis outputnya biasanya berada pada...
Masalah input berurutan mana yang paling cocok untuk masing-masing? Apakah dimensi input menentukan mana yang lebih cocok? Apakah masalah yang membutuhkan "memori lebih lama" lebih cocok untuk LSTM RNN, sementara masalah dengan pola input siklus (pasar saham, cuaca) lebih mudah diselesaikan oleh...
Saya memiliki pengetahuan dasar tentang bagaimana RNN (dan, khususnya, dengan unit LSTM) bekerja. Saya punya ide gambar arsitektur unit LSTM, yaitu sel dan beberapa gerbang, yang mengatur aliran nilai. Namun, tampaknya, saya belum sepenuhnya memahami bagaimana LSTM memecahkan masalah "gradien...
Menurut pendapat saya, data input yang berkorelasi harus mengarah ke overfitting di jaringan saraf karena jaringan mempelajari korelasi misalnya kebisingan dalam data. Apakah ini
RNN sangat baik untuk menangkap ketergantungan waktu dari data sekuensial. Namun, apa yang terjadi ketika elemen urutan tidak sama spasi dalam waktu? Misalnya, input pertama ke sel LSTM terjadi pada hari Senin, lalu tidak ada data dari Selasa hingga Kamis, dan akhirnya input baru untuk...
Saya sedang mengerjakan proyek kecil di mana kami mencoba memprediksi harga komoditas (Minyak, Aluminium, Timah, dll.) Selama 6 bulan ke depan. Saya punya 12 variabel untuk diprediksi dan saya punya data dari Apr, 2008 - Mei 2013. Bagaimana saya harus pergi tentang prediksi? Saya telah melakukan...