Saya ingin menghitung pentingnya setiap fitur input menggunakan model yang mendalam.
Tetapi saya hanya menemukan satu makalah tentang pemilihan fitur menggunakan pembelajaran mendalam - pemilihan fitur dalam . Mereka menyisipkan lapisan node yang terhubung ke setiap fitur secara langsung, sebelum lapisan tersembunyi pertama.
Saya mendengar bahwa jaringan kepercayaan yang mendalam (DBN) dapat juga digunakan untuk pekerjaan semacam ini. Tapi saya pikir, DBN hanya menyediakan abstraksi (cluster) fitur-fitur seperti PCA, jadi meskipun dapat mengurangi dimensi secara efektif, saya bertanya-tanya apakah mungkin untuk menghitung pentingnya (berat) setiap fitur.
Apakah mungkin untuk menghitung pentingnya fitur dengan DBN? Dan adakah metode lain yang diketahui untuk pemilihan fitur menggunakan pembelajaran yang mendalam?
Mungkin periksa makalah ini: https://arxiv.org/pdf/1712.08645.pdf
Mereka menggunakan fitur dropout untuk menentukan peringkat.
... Dalam karya ini kami menggunakan konsep Dropout pada layer fitur input dan mengoptimalkan tingkat dropout berdasarkan fitur. Karena setiap fitur dihapus secara stokastik, metode kami menciptakan efek yang mirip dengan fitur bagging (Ho, 1995) dan mengelola untuk memeringkat fitur yang berkorelasi lebih baik daripada metode non-bagging lainnya seperti LASSO. Kami membandingkan metode kami dengan Hutan Acak (RF), LASSO, ElasticNet, peringkat Marginal dan beberapa teknik untuk mendapatkan kepentingan dalam DNN seperti Pemilihan Fitur Mendalam dan berbagai heuristik ...
sumber
Lihat pos ini: https://medium.com/@a.mirzaei69/how-to-use-deep-learning-for-feature-selection-python-keras-24a68bef1e33
dan makalah ini: https://arxiv.org/pdf/1903.07045.pdf
Mereka menghadirkan skema yang bagus untuk menerapkan model mendalam untuk pemilihan fitur.
sumber