Konvolusi 1D di Jaringan Saraf Tiruan

Saya mengerti bagaimana konvolusi bekerja tetapi saya tidak mengerti bagaimana konvolusi 1D diterapkan pada data 2D.

Konvolusi 2D

Dalam contoh ini Anda dapat melihat konvolusi 2D dalam data 2D. Tetapi bagaimana jadinya jika konvolusi 1D? Hanya 1D kernel yang meluncur dengan cara yang sama? Dan jika langkahnya adalah 2?

Terima kasih!

conv-neural-network Gustavo
sumber

Lihat saja baris pertama dari setiap matriks.

Piotr Migdal

Bisakah Anda memberi saya contoh?

Gustavo

Konvolusi 1d tidak akan benar-benar berguna untuk gambar 2d yang ketat. Gambar non-abu-abu adalah 3D secara teknis karena mereka memiliki tiga saluran warna.

Ethan

@Gustavo Suka yang ini: toto-share.com/wp-content/uploads/2011/11/... Kecuali Anda bermaksud konvolusi 1x1 (dalam arti jaringan saraf), yang merupakan hal yang berbeda.

Piotr Migdal

Masalah saya adalah dengan konvolusi seperti: d3kbpzbmcynnmx.cloudfront.net/wp-content/uploads/2015/11/... Ada dua konvolusi, satu dengan ukuran kernel 3 dan lainnya dengan ukuran 2 ... Tetapi kernel tersebut adalah 1D atau ukuran xk ?

Gustavo

Jawaban:

Misalkan menjadi urutan vektor (mis. Vektor kata). Menerapkan lapisan convolutional sama dengan menerapkan matriks bobot yang sama untuk semua n-gram, di mana adalah ketinggian filter Anda. Misalnya, jika , Anda dapat memvisualisasikannya sebagai berikut: $x_1, …,x_n$ $n$ $n=3$

Untuk penjelasan yang sedikit lebih matematis, Anda dapat mengunjungi Ji Young Lee, Franck Dernoncourt. " Klasifikasi Teks Singkat Berurutan dengan Jaringan Syaraf Berulang dan Konvolusional ". NAACL 2016 . bagian 2.1.2:

Franck Dernoncourt
sumber

Konvolusi 1D digunakan dalam jaringan konvolusional untuk pengambilan sampel turun dan pengambilan sampel dalam dimensi filter. Jaringan konvolusional membangun peta filter ini saat Anda melewati jaringan, Anda dapat benar-benar menganggapnya sebagai dimensi ke-3. Kasing dasar yang biasa dari dimensi peta filter adalah ukuran 3, karena kita akan sering memiliki gambar RGB melalui jaringan kami.

Konvolusi 1D ini dapat berguna untuk pengambilan sampel turun, melakukan beberapa operasi, lalu menaikkan sampel kembali ke dimensi yang sama. Ini cukup berguna karena alasan kinerja.

Untuk benar-benar memahami secara intuitif saya sarankan membaca:

Jaringan-dalam-jaringan - http://arxiv.org/abs/1312.4400

Melangkah lebih dalam dengan konvolusi - https://www.google.com/url?sa=t&source=web&rct=j&url=http://www.cs.unc.edu/~wliu/papers/GoogLeNet.pdf&ved=0ahUKEwi89oeuxqnLAhXhuIMKHZrTCeGUkU rrECNQ72wI3PH1Qw & sig2 = VhjfaMvuskNIDVKhFfNiqQ

Ethan
sumber

Tampaknya Anda berbicara tentang konvolusi 1x1 (dalam arti jaringan saraf) daripada konvolusi 1D.

Piotr Migdal

Benar, saya berasumsi bahwa jaringan saraf terlibat. Saya menemukan tautan ke pertanyaan ini di / r / MLQuestions di reddit jadi saya berasumsi itu terkait dengan ML. Tetapi untuk belitan sederhana ini tidak relevan: P.

Ethan