Bagaimana seseorang akan men-debug, memahami atau memperbaiki hasil dari jaringan saraf?

Tampaknya cukup tidak kontroversial untuk mengatakan bahwa pendekatan berbasis NN menjadi alat yang cukup kuat di banyak bidang AI - apakah mengenali dan membusuk gambar (wajah di perbatasan, pemandangan jalan di mobil, pengambilan keputusan dalam situasi yang tidak pasti / rumit atau dengan data...