Apa yang dimaksud dengan autoencoder variasional dan untuk tugas pembelajaran apa yang digunakan?

Sebagai per ini dan jawaban ini , autoencoder tampaknya menjadi teknik yang menggunakan jaringan saraf untuk pengurangan dimensi. Saya ingin juga tahu apa adalah variational autoencoder (perbedaan utama / manfaat lebih dari satu "tradisional" autoencoders) dan juga apa yang tugas belajar utama algoritma ini digunakan untuk.

Meskipun variabel autoencoder (VAE) mudah diimplementasikan dan dilatih, menjelaskannya tidak mudah sama sekali, karena mereka menggabungkan konsep dari Deep Learning dan Variational Bayes, dan komunitas Deep Learning dan Probabilistic Modeling menggunakan istilah berbeda untuk konsep yang sama. Jadi ketika menjelaskan VAE Anda berisiko berkonsentrasi pada bagian model statistik, meninggalkan pembaca tanpa petunjuk tentang bagaimana sebenarnya mengimplementasikannya, atau sebaliknya untuk berkonsentrasi pada arsitektur jaringan dan fungsi kerugian, di mana istilah Kullback-Leibler tampaknya menjadi ditarik keluar dari udara tipis. Saya akan mencoba untuk menemukan jalan tengah di sini, mulai dari model tetapi memberikan detail yang cukup untuk benar-benar mengimplementasikannya dalam praktik, atau memahami implementasi orang lain.

VAE adalah model generatif

Tidak seperti autoencoder klasik (jarang, denoising, dll.), VAE adalah model generatif , seperti GAN. Dengan model generatif yang saya maksud adalah model yang mempelajari distribusi probabilitas $p(\mathbf{x})$ atas ruang input $\mathcal{x}$ . Ini berarti bahwa setelah kami melatih model seperti itu, kami dapat mengambil sampel dari (perkiraan kami) $p(\mathbf{x})$ . Jika set pelatihan kami terbuat dari angka tulisan tangan (MNIST), maka setelah pelatihan model generatif dapat membuat gambar yang terlihat seperti angka tulisan tangan, meskipun itu bukan "salinan" dari gambar dalam set pelatihan.

Mempelajari distribusi gambar dalam set pelatihan menyiratkan bahwa gambar yang terlihat seperti angka tulisan tangan harus memiliki probabilitas tinggi untuk dihasilkan, sedangkan gambar yang terlihat seperti Jolly Roger atau noise acak harus memiliki probabilitas rendah. Dengan kata lain, itu berarti belajar tentang dependensi di antara piksel: jika gambar kita adalah $28\times 28=784$ piksel gambar skala abu-abu dari MNIST, model harus belajar bahwa jika piksel sangat cerah, maka ada kemungkinan yang signifikan bahwa beberapa piksel tetangga cerah juga, bahwa jika kita memiliki garis panjang, piksel garis miring, kita mungkin memiliki garis piksel yang lebih kecil dan horizontal di atas yang satu ini (angka 7), dll.

VAE adalah model variabel laten

VAE adalah model variabel laten : ini berarti bahwa $\mathbf{x}$ , vektor acak dari intensitas 784 piksel ( variabel yang diamati ), dimodelkan sebagai fungsi (mungkin sangat rumit) dari vektor acak $\mathbf{z}\in\mathcal{Z}$ dari dimensi yang lebih rendah, yang komponennya adalah variabel ( laten ) yang tidak teramati . Kapan model seperti itu masuk akal? Sebagai contoh, dalam kasus MNIST kami berpikir bahwa digit tulisan tangan milik bermacam-macam dimensi jauh lebih kecil daripada dimensi $\mathcal{x}$, karena sebagian besar pengaturan acak dengan intensitas 784 piksel, tidak terlihat sama sekali seperti digit tulisan tangan. Secara intuitif kita akan mengharapkan dimensi setidaknya 10 (jumlah digit), tetapi kemungkinan besar lebih besar karena setiap digit dapat ditulis dengan cara yang berbeda. Beberapa perbedaan tidak penting untuk kualitas gambar akhir (misalnya, rotasi global dan terjemahan), tetapi yang lain penting. Jadi dalam hal ini model laten masuk akal. Lebih lanjut tentang ini nanti. Perhatikan bahwa, luar biasa, bahkan jika intuisi kita memberi tahu kita bahwa dimensi seharusnya sekitar 10, kita pasti dapat menggunakan hanya 2 variabel laten untuk menyandikan dataset MNIST dengan VAE (meskipun hasilnya tidak akan cantik). Alasannya adalah bahwa bahkan satu variabel nyata dapat mengkodekan banyak kelas, karena dapat mengasumsikan semua nilai integer yang mungkin dan banyak lagi. Tentu saja, jika kelas memiliki tumpang tindih yang signifikan di antara mereka (seperti 9 dan 8 atau 7 dan I dalam MNIST), bahkan fungsi yang paling rumit dari hanya dua variabel laten akan melakukan pekerjaan yang buruk dalam menghasilkan sampel yang jelas dapat dilihat untuk setiap kelas. Lebih lanjut tentang ini nanti.

VAE mengasumsikan distribusi parametrik multivariat (di mana adalah parameter ), dan mereka mempelajari parameter dari distribusi multivariat. Penggunaan parametrik pdf untuk , yang mencegah jumlah parameter VAE untuk tumbuh tanpa batas dengan pertumbuhan set pelatihan, disebut amortisasi dalam istilah VAE (ya, saya tahu ...).$q(\mathbf{z}\vert\mathbf{x},\boldsymbol{\lambda})$$\boldsymbol{\lambda}$$q$$\mathbf{z}$

Jaringan decoder

Kita mulai dari jaringan decoder karena VAE adalah model generatif, dan satu-satunya bagian dari VAE yang sebenarnya digunakan untuk menghasilkan gambar baru adalah dekoder. Jaringan encoder hanya digunakan pada saat inferensi (pelatihan).

Tujuan dari jaringan decoder adalah untuk menghasilkan vektor acak baru milik ruang input , yaitu gambar baru, mulai dari realisasi vektor laten . Ini berarti jelas bahwa ia harus mempelajari distribusi bersyarat . Untuk VAE distribusi ini sering dianggap sebagai Gaussian ¹ multivarian :$\mathbf{x}$$\mathcal{X}$$\mathbf{z}$$p(\mathbf{x}\vert\mathbf{z})$

$$p_{\boldsymbol{\phi}}(\mathbf{x}\vert\mathbf{z}) = \mathcal{N}(\mathbf{x}|\boldsymbol{\mu}(\mathbf{z}; \boldsymbol{\phi}), \boldsymbol{\sigma}(\mathbf{z}; \boldsymbol{\phi})^2I)$$

$\boldsymbol{\phi}$ adalah vektor bobot (dan bias) dari jaringan encoder. Vektor dan adalah fungsi kompleks, tidak diketahui tidak linier, dimodelkan oleh jaringan decoder: jaringan saraf adalah penaksir fungsi nonlinier yang kuat.$\boldsymbol{\mu}(\mathbf{z};\boldsymbol{\phi})$$\boldsymbol{\sigma}(\mathbf{z}; \boldsymbol{\phi})$

---

Seperti dicatat oleh @amoeba dalam komentar, ada kesamaan yang mencolok antara decoder dan model variabel laten klasik: Analisis Faktor. Dalam Analisis Faktor, Anda menganggap model:

$$\mathbf{x}\vert\mathbf{z}\sim\mathcal{N}(\mathbf{W}\mathbf{z}+\boldsymbol{\mu}, \boldsymbol{\sigma}^2I),\ \mathbf{z}\sim\mathcal{N}(0,I)$$

Kedua model (FA & decoder) mengasumsikan bahwa distribusi bersyarat dari variabel yang dapat diamati pada variabel laten adalah Gaussian, dan bahwa sendiri adalah standar Gaussians. Perbedaannya adalah bahwa decoder tidak mengasumsikan bahwa rata-rata adalah linear dalam , juga tidak mengasumsikan bahwa standar deviasi adalah vektor konstan. Sebaliknya, ia memodelkan mereka sebagai fungsi nonlinear kompleks dari . Dalam hal ini, dapat dilihat sebagai Analisis Faktor nonlinier. Lihat di sini$\mathbf{x}$$\mathbf{z}$$\mathbf{z}$$p(\mathbf{x}|\mathbf{z})$$\mathbf{z}$$\mathbf{z}$untuk diskusi mendalam tentang hubungan antara FA dan VAE ini. Karena FA dengan matriks kovarians isotropik hanya PPCA, ini juga terkait dengan hasil yang diketahui bahwa autoencoder linier berkurang menjadi PCA.

---

Mari kita kembali ke dekoder: bagaimana kita belajar ? Secara intuitif kita menginginkan variabel laten yang memaksimalkan kemungkinan menghasilkan dalam set pelatihan . Dengan kata lain kami ingin menghitung distribusi probabilitas posterior dari , dengan data:$\boldsymbol{\phi}$$\mathbf{z}$$\mathbf{x}_i$$D_n$$\mathbf{z}$

$$p(\mathbf{z}\vert\mathbf{x})=\frac{p_{\boldsymbol{\phi}}(\mathbf{x}\vert\mathbf{z})p(\mathbf{z})}{p(\mathbf{x})}$$

Kami menganggap sebelumnya pada , dan kami pergi dengan masalah yang biasa dalam Bayesian inference bahwa menghitung ( bukti ) sulit ( integral multidimensi). Terlebih lagi, karena di sini tidak diketahui, kita tetap tidak dapat menghitungnya. Masukkan Variational Inference, alat yang memberikan Varienc Autoencoder nama mereka.$\mathcal{N}(0,I)$$\mathbf{z}$$p(\mathbf{x})$$\boldsymbol{\mu}(\mathbf{z};\boldsymbol{\phi})$

Inferensi Variasi untuk model VAE

Variational Inference adalah alat untuk melakukan perkiraan Bayesian Inference untuk model yang sangat kompleks. Ini bukan alat yang terlalu rumit, tapi jawaban saya sudah terlalu lama dan saya tidak akan masuk ke penjelasan rinci tentang VI. Anda dapat melihat jawaban ini dan referensi di dalamnya jika Anda penasaran:

/stats//a/270569/58675

Cukuplah untuk mengatakan bahwa VI mencari perkiraan untuk dalam keluarga distribusi parametrik , di mana, seperti disebutkan di atas, adalah parameter keluarga. Kami mencari parameter yang meminimalkan perbedaan Kullback-Leibler di antara target distribusi dan :$p(\mathbf{z}\vert \mathbf{x})$$q(\mathbf{z}\vert \mathbf{x},\boldsymbol{\lambda})$$\boldsymbol{\lambda}$$p(\mathbf{z}\vert \mathbf{x})$$q(\mathbf{z}\vert \mathbf{x},\boldsymbol{\lambda})$

$$\min_{\boldsymbol{\lambda}}\mathcal{D}[p(\mathbf{z}\vert \mathbf{x})\vert\vert q(\mathbf{z}\vert \mathbf{x},\boldsymbol{\lambda})]$$

Sekali lagi, kita tidak dapat meminimalkan ini secara langsung karena definisi divergensi Kullback-Leibler termasuk bukti. Memperkenalkan ELBO (Evidence Lower BOund) dan setelah beberapa manipulasi aljabar, kami akhirnya tiba di:

$$ELBO(\boldsymbol{\lambda})= E_{q(\boldsymbol{z}\vert \mathbf{x},\boldsymbol{\lambda})}[\log p(\mathbf{x}\vert\boldsymbol{z})]-\mathcal{D}[(q(\boldsymbol{z}\vert \mathbf{x},\boldsymbol{\lambda})\vert\vert p(\boldsymbol{z})]$$

Karena ELBO adalah batas yang lebih rendah pada bukti (lihat tautan di atas), memaksimalkan ELBO tidak persis sama dengan memaksimalkan kemungkinan data yang diberikan (setelah semua, VI adalah alat untuk perkiraan inferensi Bayesian), tetapi berjalan ke arah yang benar.$\boldsymbol{\lambda}$

Untuk membuat kesimpulan, kita perlu menentukan keluarga parametrik . Dalam kebanyakan VAE kami memilih distribusi Gaussian multivarian, tidak berkorelasi$q(\boldsymbol{z}\vert \mathbf{x},\boldsymbol{\lambda})$

$$q(\mathbf{z}\vert \mathbf{x},\boldsymbol{\lambda}) = \mathcal{N}(\mathbf{z}\vert\boldsymbol{\mu}(\mathbf{x}), \boldsymbol{\sigma}^2(\mathbf{x})I)$$

Ini adalah pilihan yang sama yang kami buat untuk , meskipun kami mungkin telah memilih keluarga parametrik yang berbeda. Seperti sebelumnya, kita dapat memperkirakan fungsi-fungsi nonlinear yang kompleks ini dengan memperkenalkan model jaringan saraf. Karena model ini menerima gambar input dan mengembalikan parameter distribusi variabel laten kami menyebutnya jaringan encoder . Seperti sebelumnya, kita dapat memperkirakan fungsi-fungsi nonlinear yang kompleks ini dengan memperkenalkan model jaringan saraf. Karena model ini menerima gambar input dan mengembalikan parameter distribusi variabel laten kami menyebutnya jaringan encoder .$p(\mathbf{x}\vert\mathbf{z})$

Jaringan encoder

Juga disebut jaringan inferensi , ini hanya digunakan pada waktu pelatihan.

Seperti yang disebutkan di atas, pembuat enkode harus mendekati dan , jadi jika kita memiliki, katakanlah, 24 variabel laten, output dari encoder adalah vektor . Encoder memiliki bobot (dan bias) . Untuk mempelajari , kita akhirnya dapat menulis ELBO dalam hal parameter dan dari jaringan encoder dan decoder, serta set point pelatihan:$\boldsymbol{\mu}(\mathbf{x})$$\boldsymbol{\sigma}(\mathbf{x})$$d=48$$\boldsymbol{\theta}$$\boldsymbol{\theta}$$\boldsymbol{\theta}$$\boldsymbol{\phi}$

$$ELBO(\boldsymbol{\theta},\boldsymbol{\phi})= \sum_i E_{q_{\boldsymbol{\theta}}(\boldsymbol{z}\vert \mathbf{x}_i,\boldsymbol{\lambda})}[\log p_{\boldsymbol{\phi}}(\mathbf{x}_i\vert\boldsymbol{z})]-\mathcal{D}[(q_{\boldsymbol{\theta}}(\boldsymbol{z}\vert \mathbf{x}_i,\boldsymbol{\lambda})\vert\vert p(\boldsymbol{z})]$$

Kami akhirnya bisa menyimpulkan. Kebalikan dari ELBO, sebagai fungsi dari dan , digunakan sebagai fungsi kerugian dari VAE. Kami menggunakan SGD untuk meminimalkan kerugian ini, yaitu memaksimalkan ELBO. Karena ELBO adalah batas yang lebih rendah pada bukti, ini berjalan ke arah memaksimalkan bukti, dan dengan demikian menghasilkan gambar baru yang secara optimal mirip dengan yang ada di set pelatihan. Istilah pertama dalam ELBO adalah log-kemungkinan negatif yang diharapkan dari set point pelatihan, sehingga mendorong decoder untuk menghasilkan gambar yang mirip dengan yang pelatihan. Istilah kedua dapat diartikan sebagai regularizer: ini mendorong encoder untuk menghasilkan distribusi untuk variabel laten yang mirip dengan$\boldsymbol{\theta}$$\boldsymbol{\phi}$$p(\boldsymbol{z})=\mathcal{N}(0,I)$. Tetapi dengan memperkenalkan model probabilitas terlebih dahulu, kami memahami dari mana keseluruhan ekspresi berasal: minimalisasi perbedaan Kullabck-Leibler antara perkiraan posterior dan model posterior . ²$q_{\boldsymbol{\theta}}(\boldsymbol{z}\vert \mathbf{x},\boldsymbol{\lambda})$$p(\boldsymbol{z}\vert \mathbf{x},\boldsymbol{\lambda})$

Setelah kita mempelajari dan dengan memaksimalkan , kita dapat membuang encoder. Mulai sekarang, untuk menghasilkan gambar baru cukup sampel dan menyebarkannya melalui decoder. Output decoder akan berupa gambar yang mirip dengan yang ada di set pelatihan.$\boldsymbol{\theta}$$\boldsymbol{\phi}$$ELBO(\boldsymbol{\theta},\boldsymbol{\phi})$$\boldsymbol{z}\sim \mathcal{N}(0,I)$

Referensi dan bacaan lebih lanjut

• kertas asli: Auto-Encoding Variational Bayes
• tutorial yang bagus, dengan beberapa kesalahan kecil: Tutorial tentang Varietas Autoencoder
• cara mengurangi kekaburan gambar yang dihasilkan oleh VAE Anda, sementara pada saat yang sama mendapatkan variabel laten yang memiliki makna visual (perseptual), sehingga Anda dapat "menambahkan" fitur (senyum, kacamata hitam, dll.) ke gambar yang Anda hasilkan : Autoencoder Variatif Konsisten Fitur Mendalam
• meningkatkan kualitas gambar yang dihasilkan VAE bahkan lebih, dengan menggunakan versi Gaussian autoencoder autoregresif: Peningkatan Inferensi Variasi dengan Invers Autoregressive Flow
• arah baru penelitian dan pemahaman yang lebih dalam tentang pro & kontra dari model VAE: Menuju Pemahaman yang Lebih Dalam tentang Model Autoencoding Variasional & SUBOPTIMALITAS INFERENSI DALAM OTOMATIS VARIASI

---

_{¹ Asumsi ini tidak sepenuhnya diperlukan, meskipun menyederhanakan deskripsi VAE kami. Namun, tergantung pada aplikasi, Anda dapat mengasumsikan distribusi yang berbeda untuk . Misalnya, jika adalah vektor variabel biner, Gaussian tidak masuk akal, dan Bernoulli multivariat dapat diasumsikan.$p_{\phi}(\mathbf{x}\vert\mathbf{z})$$\mathbf{x}$$p$}

_{² Ekspresi ELBO, dengan keanggunan matematikanya, menyembunyikan dua sumber utama rasa sakit bagi para praktisi VAE. Salah satunya adalah istilah rata-rata . Ini secara efektif membutuhkan penghitungan ekspektasi, yang mengharuskan pengambilan beberapa sampel dari$E_{q_{\boldsymbol{\theta}}(\boldsymbol{z}\vert \mathbf{x}_i,\boldsymbol{\lambda})}[\log p_{\boldsymbol{\phi}}(\mathbf{x}_i\vert\boldsymbol{z})]$$q_{\boldsymbol{\theta}}(\boldsymbol{z}\vert \mathbf{x}_i,\boldsymbol{\lambda})$. Mengingat ukuran jaringan saraf yang terlibat, dan tingkat konvergensi rendah dari algoritma SGD, harus menarik beberapa sampel acak pada setiap iterasi (sebenarnya, untuk setiap minibatch, yang bahkan lebih buruk) sangat memakan waktu. Pengguna VAE memecahkan masalah ini dengan sangat pragmatis dengan menghitung ekspektasi tersebut dengan sampel acak (!) Tunggal. Masalah lainnya adalah bahwa untuk melatih dua jaringan saraf (encoder & decoder) dengan algoritma backpropagation, saya harus dapat membedakan semua langkah yang terlibat dalam propagasi maju dari encoder ke decoder. Karena decoder tidak deterministik (mengevaluasi outputnya memerlukan gambar dari Gaussian multivarian), bahkan tidak masuk akal untuk bertanya apakah itu arsitektur yang dapat dibedakan. Solusi untuk ini adalah trik reparametrization .}