Jaringan saraf adalah grafik tertimbang yang diarahkan. Ini dapat diwakili oleh matriks (jarang). Hal itu dapat memaparkan beberapa properti jaringan yang elegan.
Apakah teknik ini bermanfaat untuk memeriksa jaringan saraf?
neural-networks
aneh ratchet
sumber
sumber
Jawaban:
Untuk JST besar, sesuatu yang setara dengan 'format matriks jarang' digunakan dalam praktiknya.
Berbeda dengan apa yang dikatakan dalam jawaban lain yang diberikan, mengingat JST sebagai grafik tidak benar-benar membeli sangat banyak, karena dua alasan:
Algoritma backpropagation berguna dapat didefinisikan dalam hal operasi matriks. Halaman ini memberikan deskripsi yang dapat dibaca dan komprehensif.
Semua matriks bernilai riil dapat direpresentasikan sebagai grafik, tetapi yang sebaliknya jelas tidak demikian. Jadi sementara memang benar bahwa JST dapat dianggap sebagai kasus khusus dari struktur data grafik, membuat spesialisasi yang eksplisit dalam bentuk matriks lebih efisien.
sumber
Itu tergantung pada jenis jaringan saraf yang Anda hadapi.
Untuk jaring saraf berukuran sedang, pendekatan matriks adalah cara yang sangat baik untuk melakukan perhitungan cepat dan bahkan kesalahan backpropogation. Seseorang bahkan dapat mengeksploitasi matriks jarang untuk memahami arsitektur jarang dari beberapa jaring saraf.
Tetapi, untuk jaring saraf yang sangat besar, menggunakan perhitungan matriks akan menjadi komputasi yang sangat intensif. Jadi, metode yang relevan seperti toko berbasis grafik, dll digunakan untuk mereka tergantung pada tujuan dan arsitekturnya.
sumber
Representasi matriks bermanfaat untuk mengimplementasikan jaringan saraf pada silikon.
Tetapi untuk memeriksa jaringan saraf secara empiris, terkadang baik untuk memvisualisasikan nilai bobot sinapsis sebagai gambar atau video: Eksplorasi Jason Yosinski terhadap jaringan saraf konvolusi. Jaringan tampaknya memiliki "filter" yang hanya mendeteksi bahu. Agak seperti kunci yang hanya terbuka ketika mengenali pola bahu.
sumber