Fungsi biaya jaringan saraf adalah , dan diklaim non-cembung . Saya tidak begitu mengerti mengapa seperti itu, karena seperti yang saya lihat itu sangat mirip dengan fungsi biaya dari regresi logistik, kan?J(W,b)J(W,b)J(W,b) Jika non-cembung, maka turunan urutan kedua ,
Pertama-tama, saya menyadari jika saya perlu melakukan prediksi biner, saya harus membuat setidaknya dua kelas melalui melakukan satu-hot-encoding. Apakah ini benar? Namun, apakah binary cross entropy hanya untuk prediksi dengan hanya satu kelas? Jika saya menggunakan kerugian entropi lintas...
LSTM diciptakan khusus untuk menghindari masalah gradien hilang. Seharusnya melakukan itu dengan Constant Error Carousel (CEC), yang pada diagram di bawah ini (dari Greff et al. ) Sesuai dengan loop di sekitar sel . (sumber: deeplearning4j.org ) Dan saya mengerti bahwa bagian itu dapat dilihat...
Pengkodean jarang didefinisikan sebagai pembelajaran kumpulan vektor basis yang terlalu lengkap untuk mewakili vektor input (<- mengapa kita menginginkan ini). Apa perbedaan antara pengkodean jarang dan autoencoder? Kapan kita akan menggunakan pengkodean dan autoencoder yang
Saya telah membaca beberapa makalah yang membahas pro dan kontra dari masing-masing metode, beberapa berpendapat bahwa GA tidak memberikan perbaikan dalam menemukan solusi optimal sementara yang lain menunjukkan bahwa itu lebih efektif. Tampaknya GA umumnya lebih disukai dalam literatur (walaupun...
Mereka semua tampaknya mewakili variabel acak oleh node dan (dalam) ketergantungan melalui (mungkin diarahkan) tepi. Saya terutama tertarik pada sudut pandang
Dalam kursus Neural Networks dan Deep Learning Andrew Ng di Coursera ia mengatakan bahwa menggunakan tanhtanhtanh hampir selalu lebih disukai daripada menggunakan sigmoidsigmoidsigmoid . Alasan yang dia berikan adalah bahwa output menggunakan tanhtanhtanh pusat sekitar 0 daripada...
Adakah yang melihat literatur tentang pra-pelatihan dalam jaringan saraf convolutional yang mendalam? Saya hanya melihat pra-pelatihan tanpa pengawasan di autoencoder atau mesin boltzman
Saya baru untuk pemodelan dengan jaringan saraf, tetapi saya berhasil membangun jaringan saraf dengan semua titik data yang tersedia yang cocok dengan data yang diamati dengan baik. Jaringan saraf dilakukan dalam R dengan paket nnet: require(nnet) ##33.8 is the highest value mynnet.fit <-...
Saya memiliki kumpulan data streaming, contoh tersedia satu per satu. Saya perlu melakukan klasifikasi multi-kelas pada mereka. Segera setelah saya memberi contoh pelatihan untuk proses pembelajaran, saya harus membuang contohnya. Bersamaan, saya juga menggunakan model terbaru untuk melakukan...
Bagaimana kita menjelaskan perbedaan antara regresi logistik dan jaringan saraf untuk audiens yang tidak memiliki latar belakang statistik?
Latar Belakang Pengantar Dalam jaringan saraf convolutional, kami biasanya memiliki struktur / aliran umum yang terlihat seperti ini: input gambar (yaitu vektor 2D x) (Lapisan Konvolusional 1 (Konv1) dimulai di sini ...) menggabungkan satu set filter ( w1) di sepanjang gambar 2D (yaitu...
Saya telah mempelajari LSTM untuk sementara waktu. Saya mengerti pada tingkat tinggi bagaimana semuanya bekerja. Namun, akan mengimplementasikannya menggunakan Tensorflow saya perhatikan bahwa BasicLSTMCell memerlukan sejumlah unit (yaitu num_units) parameter. Dari ini penjelasan yang sangat...
Saya benar-benar baru di jaringan saraf tetapi sangat tertarik untuk memahaminya. Namun tidak mudah sama sekali untuk memulai. Adakah yang bisa merekomendasikan buku yang bagus atau sumber daya lainnya? Apakah ada yang harus dibaca? Saya berterima kasih atas segala
Saya telah mengerjakan masalah regresi di mana inputnya adalah gambar, dan labelnya adalah nilai kontinu antara 80 dan 350. Gambar-gambar tersebut dari beberapa bahan kimia setelah reaksi berlangsung. Warna yang muncul menunjukkan konsentrasi bahan kimia lain yang tersisa, dan itulah yang...
Komputer sudah lama bisa bermain catur menggunakan teknik "brute-force", mencari ke kedalaman tertentu dan kemudian mengevaluasi posisi. Namun komputer AlphaGo, hanya menggunakan JST untuk mengevaluasi posisi (itu tidak melakukan pencarian mendalam sejauh yang saya tahu). Apakah mungkin untuk...
Mengapa kita menggunakan rectified linear units (ReLU) dengan jaringan saraf? Bagaimana cara meningkatkan jaringan saraf? Mengapa kita mengatakan bahwa ReLU adalah fungsi aktivasi? Bukankah fungsi aktivasi softmax untuk jaringan saraf? Saya menduga bahwa kami menggunakan keduanya, ReLU dan...
Saya membaca halaman ini: http://neuralnetworksanddeeplearning.com/chap3.html dan dikatakan bahwa lapisan keluaran sigmoid dengan cross-entropy cukup mirip dengan lapisan keluaran softmax dengan kemungkinan log. apa yang terjadi jika saya menggunakan sigmoid dengan log-likelihood atau softmax...
Mengapa berbahaya untuk menginisialisasi bobot dengan nol? Apakah ada contoh sederhana yang
Apa perbedaan antara jaringan saraf , jaringan Bayesian , pohon keputusan dan jaring Petri , meskipun semuanya adalah model grafis dan menggambarkan secara visual hubungan