Sebuah jaringan-dunia kecil adalah jenis grafik matematika di mana sebagian besar node tidak tetangga satu sama lain, tapi yang paling node dapat dicapai dari setiap lain oleh sejumlah kecil hop atau langkah-langkah. Secara khusus, jaringan dunia kecil didefinisikan sebagai jaringan di mana jarak...
Masalah klasifikasi dengan batas nonlinier tidak dapat diselesaikan dengan perceptron sederhana . Kode R berikut adalah untuk tujuan ilustrasi dan didasarkan pada contoh ini dengan Python): nonlin <- function(x, deriv = F) { if (deriv) x*(1-x) else 1/(1+exp(-x)) } X <- matrix(c(-3,1,...
Saya mencoba memahami arsitektur RNNs. Saya telah menemukan tutorial ini yang sangat membantu: http://colah.github.io/posts/2015-08-Understanding-LSTMs/ Terutama gambar ini: Bagaimana ini cocok dengan jaringan umpan-maju? Apakah gambar ini hanyalah simpul lain di setiap
Misalkan saya memiliki jaringan neural single layer yang sederhana, dengan n input dan output tunggal (tugas klasifikasi biner). Jika saya mengatur fungsi aktivasi di node output sebagai fungsi sigmoid- maka hasilnya adalah classifier Logistic Regression. Dalam skenario yang sama ini, jika saya...
Saya mencoba untuk melatih jaringan saraf yang mendalam untuk klasifikasi, menggunakan propagasi balik. Secara khusus, saya menggunakan jaringan saraf convolutional untuk klasifikasi gambar, menggunakan perpustakaan Tensor Flow. Selama pelatihan, saya mengalami beberapa perilaku aneh, dan saya...
Apakah mungkin untuk melatih jaringan saraf untuk menggambar dengan gaya tertentu? (Jadi itu mengambil gambar dan menggambar ulang dengan gaya yang dilatihnya.) Apakah ada teknologi yang disetujui untuk hal semacam itu? Saya tahu tentang algoritma DeepArt. Adalah baik untuk mengisi gambar utama...
Saya baru mengenal Keras dan butuh bantuan Anda. Saya melatih jaringan syaraf dalam Keras dan fungsi kerugian saya adalah Perbedaan Kuadrat antara output dan nilai target. Saya ingin mengoptimalkan ini dengan menggunakan Gradient Descent. Setelah melalui beberapa tautan di internet, saya...
Saya bertanya-tanya apa cara terbaik untuk menginisialisasi keadaan untuk LSTM. Saat ini saya baru saja menginisialisasi ke semua nol. Saya tidak dapat menemukan apa pun secara online tentang cara menginisialisasi. Satu hal yang saya pikirkan untuk dilakukan adalah menjadikan status awal sebagai...
Apakah ada aturan praktis antara kedalaman jaringan saraf dan tingkat pembelajaran? Saya telah memperhatikan bahwa semakin dalam jaringannya, semakin rendah tingkat pembelajarannya. Jika itu benar, mengapa
Sementara saya benar-benar telah melakukan beberapa pemrograman dengan mesin Boltzmann di kelas fisika, saya tidak akrab dengan karakterisasi teoretis mereka. Sebaliknya, saya tahu sedikit tentang teori model grafis (tentang beberapa bab pertama buku Lauritzen, Graphical Models ). Pertanyaan:...
Dalam hal perbedaan antara jaringan saraf dan pembelajaran yang mendalam, kita dapat membuat daftar beberapa item, seperti lebih banyak lapisan yang disertakan, kumpulan data yang besar, perangkat keras komputer yang kuat untuk membuat model pelatihan yang rumit menjadi mungkin. Selain itu, apakah...
Saya menggunakan Bidirectional RNN untuk mendeteksi peristiwa terjadinya ketidakseimbangan. Kelas positif 100 kali lebih jarang daripada kelas negatif. Meskipun tidak ada penggunaan regularisasi saya bisa mendapatkan akurasi 100% pada set kereta dan 30% pada set validasi. Saya menyalakan...
Saya sedang mengerjakan jaringan konvolusi untuk pengenalan gambar, dan saya bertanya-tanya apakah saya dapat memasukkan gambar dengan ukuran yang berbeda (meskipun tidak terlalu berbeda). Pada proyek ini: https://github.com/harvardnlp/im2markup Mereka bilang: and group images of similar sizes...
Saya membaca tentang SVM dan mengetahui bahwa mereka menyelesaikan masalah optimisasi dan ide margin maksimum sangat masuk akal. Sekarang, menggunakan kernel mereka bahkan dapat menemukan batas pemisahan non-linear yang hebat. Sejauh ini, saya benar-benar tidak tahu bagaimana SVM (mesin kernel...
Saya mulai dengan pembelajaran yang mendalam, dan saya memiliki pertanyaan yang jawabannya tidak dapat saya temukan, mungkin saya belum mencari dengan benar. Saya telah melihat jawaban ini , tetapi masih belum jelas apa penurunan berat badan dan bagaimana hubungannya dengan fungsi...
Dalam makalah WaveNet baru-baru ini , penulis merujuk pada model mereka yang memiliki tumpukan lapisan konvolusi melebar. Mereka juga menghasilkan bagan berikut, menjelaskan perbedaan antara konvolusi 'reguler' dan konvolusi dilatasi. Konvolusi reguler terlihat seperti Ini adalah konvolusi...
Dalam makalah yang disebut Deep Learning dan Information Bottleneck Principle , penulis menyatakan di bagian II A) berikut ini: Neuron tunggal mengklasifikasikan hanya input yang dapat dipisahkan secara linear, karena mereka hanya dapat mengimplementasikan hiperplanes dalam ruang inputnya ....
Dalam makalah DeepGoGo AlphaGo Zero dan AlphaZero , mereka menggambarkan menambahkan Dirichlet noise ke probabilitas sebelumnya dari tindakan dari simpul akar (board state) di Pencarian Pohon Monte Carlo: Eksplorasi tambahan dicapai dengan menambahkan Dirichlet noise ke probabilitas sebelumnya...
Saya memiliki file CSV dengan 4 juta tepi jaringan terarah yang mewakili orang yang berkomunikasi satu sama lain (mis. John mengirim pesan kepada Mary, Mary mengirim pesan ke Ann, John mengirim pesan lain ke Mary, dll.). Saya ingin melakukan dua hal: Temukan derajat, perantara, dan (mungkin)...
Saya melatih jaringan saraf tiruan (backpropagation, feed-forward) dengan data terdistribusi tidak normal. Selain kesalahan rata-rata kuadrat akar, literatur sering menyarankan koefisien korelasi Pearson untuk mengevaluasi kualitas jaring yang dilatih. Tetapi, apakah koefisien korelasi Pearson...