Dataran tinggi tandus dalam lanskap pelatihan jaringan saraf kuantum

Di sini penulis berpendapat bahwa upaya menciptakan jaringan saraf kuantum yang dapat diskalakan menggunakan serangkaian gerbang berparameter dianggap gagal untuk sejumlah besar qubit. Hal ini disebabkan oleh fakta bahwa, karena Lemma Levy , gradien fungsi dalam ruang dimensi tinggi hampir nol di mana-mana.

Saya bertanya-tanya apakah argumen ini dapat juga diterapkan pada metode optimasi kuantum-klasik hybrid lainnya, seperti VQE (Variational Quantum Eigensolver) atau QAOA (Algoritma Optimasi Perkiraan Kuantum).

Bagaimana menurut anda?

algorithm speedup optimization neural-network qaoa asdf
sumber

"Menggunakan seperangkat gerbang parametrized" Apa set? Apakah itu acak?

rrtucci

Artikel ini ditulis oleh Jarrod McClean, yang juga pelopor VQE. Saya membayangkan Jarrod tidak percaya bahwa VQE dianggap gagal untuk jumlah qubit yang lebih besar. Saya pikir deskripsi Anda tentang Levy Lemma sedikit berbeda dari apa yang makalah ini sarankan. Anda mengatakan "gradien fungsi dalam ruang dimensi tinggi hampir nol di mana-mana," tetapi makalah ini hanya mengatakan bahwa ini adalah kasus dalam konteks tertentu dari QNN yang dijelaskan dalam makalah.

user1271772

Untuk sedikit menguraikan komentar terakhir saya: Seseorang hanya dapat membangun fungsi dimensi tinggi yang berubah sangat cepat di mana-mana, ia tidak akan memiliki gradien "hampir nol" di mana-mana. Kesimpulan berdasarkan lemma Levy di koran, adalah untuk fungsi spesifik yang mereka optimalkan, bukan untuk fungsi "apa pun" dalam ruang dimensi tinggi.

user1271772

@asdf: Setelah menghabiskan sebagian besar hari melihat bolak-balik di surat kabar, saya akhirnya menemukan jawaban untuk Anda. Lihatlah.

user1271772

terkait quantumcomputing.stackexchange.com/q/2056/55

glS

Jawaban:

Pertama : Makalah ini referensi [ 37 ] untuk Lemma Levy, tetapi Anda tidak akan menemukan menyebutkan "Lemma Levy" dalam [37]. Anda akan menemukannya disebut "Ketimpangan Levy", yang disebut Lemma Levy dalam hal ini , yang tidak dikutip dalam makalah yang Anda sebutkan.

$|\Psi(\vec{p})\rangle$

E_{\vec{p}} = \frac{⟨ Ψ (\vec{p}) | H | Ψ (\vec{p}) ⟩}{⟨ Ψ (\vec{p}) | Ψ (\vec{p}) ⟩} .

$E_{\vec{p}} = \frac{\left\langle \Psi(\vec{p})\right|H\left|\Psi(\vec{p})\right\rangle}{\left\langle\Psi(\vec{p}) \right|\left.\Psi(\vec{p}) \right\rangle}.$

$\vec{p}$

$\vec{p}$ $10^{10}$ $\vec{p}$ $10^{12}$ , di mana parameter adalah koefisien determinan Slater. Secara umum diketahui bahwa lanskap energi tidak begitu datar (seperti jika gradiennya hampir 0 di mana-mana) bahkan ketika ada satu triliun parameter atau bahkan lebih.

$H$ $|\Psi(\vec{p})\rangle$ $H$ $|\Psi\rangle$

pengguna1271772
sumber