Katakanlah kita ingin melakukan regresi untuk f = x * y
menggunakan jaringan saraf standar yang sederhana .
Saya ingat bahwa ada beberapa penelitian yang mengatakan bahwa NN dengan satu layer tersembunyi dapat menggunakan fungsi apa pun, tetapi saya telah mencoba dan tanpa normalisasi, NN tidak dapat memperkirakan bahkan perkalian sederhana ini. Hanya normalisasi data log yang membantu m = x*y => ln(m) = ln(x) + ln(y).
Tapi itu terlihat seperti cheat. Bisakah NN melakukan ini tanpa normalisasi log? Unswer jelas (seperti untuk saya) - ya, jadi pertanyaannya adalah lebih apa yang harus ketik / konfigurasi / tata letak NN seperti itu?