Saya melatih jaringan saraf (detail tidak penting) di mana data target adalah vektor sudut (antara 0 dan 2 * pi). Saya mencari saran tentang cara menyandikan data ini. Inilah yang sedang saya coba (dengan kesuksesan terbatas): 1) Pengodean 1-of-C: I bin pengaturan kemungkinan sudut menjadi 1000...
Saya telah menggunakan theano untuk bereksperimen dengan LSTM, dan bertanya-tanya apa metode optimasi (SGD, Adagrad, Adadelta, RMSprop, Adam, dll) bekerja paling baik untuk LSTM? Apakah ada makalah penelitian tentang topik ini? Juga, apakah jawabannya tergantung pada jenis aplikasi yang saya...
Dengan semua pembicaraan media dan hype tentang pembelajaran mendalam hari ini, saya membaca beberapa hal mendasar tentang hal itu. Saya baru saja menemukan bahwa itu hanyalah metode pembelajaran mesin untuk mempelajari pola dari data. Tetapi pertanyaan saya adalah: di mana dan mengapa metode ini...
Saya sedang berurusan dengan Model Linear Hierarchical Bayesian , di sini jaringan menggambarkannya. YYY merupakan penjualan harian suatu produk di supermarket (diamati). XXX adalah matriks regresi yang diketahui, termasuk harga, promosi, hari dalam seminggu, cuaca, hari libur. 1SSS adalah...
Saya sedang mengerjakan klasifikasi tahap tidur. Saya membaca beberapa artikel penelitian tentang topik ini banyak dari mereka menggunakan metode SVM atau ensemble. Apakah ide yang baik untuk menggunakan jaringan saraf convolutional untuk mengklasifikasikan sinyal EEG satu dimensi? Saya baru dalam...
Saya memiliki jaringan saraf yang diatur untuk memprediksi sesuatu di mana variabel output adalah ordinal. Saya akan jelaskan di bawah ini dengan menggunakan tiga kemungkinan keluaran A <B <C. Cukup jelas bagaimana menggunakan jaringan saraf untuk menampilkan data kategori: output hanyalah...
Saya mencoba memahami arsitektur Recurrent neural network (RNN) yang berbeda untuk diterapkan pada data deret waktu dan saya agak bingung dengan nama-nama berbeda yang sering digunakan ketika menggambarkan RNN. Apakah struktur memori jangka pendek panjang (LSTM) dan Gated Recurrent Unit (GRU) pada...
Saya memiliki model jaringan saraf yang dalam dan saya perlu melatihnya pada dataset saya yang terdiri dari sekitar 100.000 contoh, data validasi saya berisi sekitar 1000 contoh. Karena butuh waktu untuk melatih setiap contoh (sekitar 0,5 untuk setiap contoh) dan untuk menghindari overfitting, saya...
Saya mendapat sedikit kebingungan pada algoritma backpropagation yang digunakan dalam multilayer perceptron (MLP). Kesalahan disesuaikan dengan fungsi biaya. Dalam backpropagation, kami mencoba untuk menyesuaikan berat lapisan yang tersembunyi. Kesalahan keluaran yang bisa saya mengerti, yaitu, e...
Saya memiliki masalah yang sangat sederhana tetapi saya tidak dapat menemukan alat yang tepat untuk menyelesaikannya. Saya memiliki beberapa urutan vektor dengan panjang yang sama. Sekarang saya ingin melatih LSTM RNN pada sampel kereta dari urutan ini dan kemudian membuatnya untuk memprediksi...
Saya memahami lapisan convolutional dan pooling, tetapi saya tidak dapat melihat alasan untuk lapisan yang sepenuhnya terhubung di CNN. Mengapa tidak lapisan sebelumnya terhubung langsung ke lapisan
Pertanyaannya mungkin terdengar agak aneh karena saya baru dalam inferensi statistik dan jaringan saraf. Ketika dalam masalah klasifikasi menggunakan jaringan saraf kita mengatakan bahwa kita ingin mempelajari fungsi yang memetakan ruang input , ke ruang output
Saya sering mendengar orang berbicara tentang jaringan saraf sebagai sesuatu yang tidak Anda mengerti apa artinya atau apa artinya. Sebenarnya saya tidak mengerti apa yang mereka maksud dengan itu! Jika Anda memahami cara kerja back-propagation, lalu bagaimana ini adalah kotak hitam? Apakah itu...
RNN dapat digunakan untuk prediksi, atau pemetaan urutan ke urutan. Tetapi bagaimana RNN dapat digunakan untuk klasifikasi? Maksud saya, kami memberikan seluruh label satu
Untuk menggunakan SVM atau Neural Network perlu mengubah (menyandikan) variabel kategorikal menjadi variabel numerik, metode normal dalam hal ini adalah dengan menggunakan nilai biner 0-1 dengan nilai k-th kategori ditransformasikan menjadi (0,0, .. ., 1,0, ... 0) (1 ada di posisi k-th). Apakah ada...
Saya ingin tahu seberapa penting bias node bagi efektivitas jaringan saraf modern. Saya dapat dengan mudah memahami bahwa ini penting dalam jaringan yang dangkal dengan hanya beberapa variabel input. Namun, jaring saraf modern seperti dalam pembelajaran yang mendalam sering memiliki sejumlah besar...
Kami mendefinisikan zaman sebagai telah melalui keseluruhan dari semua sampel pelatihan yang tersedia, dan ukuran mini-batch sebagai jumlah sampel yang kami rata-rata menemukan pembaruan untuk bobot / bias yang diperlukan untuk turun gradien. Pertanyaan saya adalah apakah kita harus menggambar...
Saya telah melalui dokumen konvolusi keras dan saya telah menemukan dua jenis konveksi Conv1D dan Conv2D. Saya melakukan beberapa pencarian web dan ini adalah apa yang saya mengerti tentang Conv1D dan Conv2D; Conv1D digunakan untuk urutan dan penggunaan Conv2D untuk gambar. Saya selalu mengira...
Mengatasi masalah regresi, saya mulai memikirkan representasi fitur "hari dalam seminggu". Saya ingin tahu pendekatan mana yang lebih baik: satu fitur; nilai 1/7 untuk hari Senin; 2/7 untuk hari Selasa ... 7 fitur: (1, 0, 0, 0, 0, 0, 0) untuk hari Senin; (0, 1, 0, 0, 0, 0, 0) untuk hari Selasa...
Banyak tutorial bicara online tentang gradient descent dan hampir semuanya menggunakan ukuran langkah tetap (tingkat pembelajaran ). Mengapa tidak ada penggunaan pencarian baris (seperti pencarian garis backtracking atau pencarian baris yang