Mesin Faktorisasi Sadar Lapangan

Adakah yang bisa menjelaskan bagaimana mesin faktorisasi sadar lapangan (FFM) dibandingkan dengan Mesin Factorisasi standar (FM)?

Standar: http://www.ismll.uni-hildesheim.de/pub/pdfs/Rendle2010FM.pdf

"Field Aware": http://www.csie.ntu.edu.tw/~r01922136/kaggle-2014-criteo.pdf

Sepertinya Anda meminta deskripsi tingkat tinggi. Jika Anda merujuk ke slide yang ditautkan dalam slide dari pos asli Anda, ada perbandingan FM (slide 11) vs FFM (slide 12).

Sebagai contoh cepat, jika Anda mempelajari tentang pengguna dan film, FM mungkin memiliki faktor berikut:

w_{user_1}*w_{movie_1}*... + w{user_1}*w_{genre_1}*...

FFM akan memiliki:

w_{user_1, movies}*w_{movie_1, users}*... + w{user_1, genres}*w_{genre_1, users}*...

Perbedaan utama adalah bahwa dalam FM, w_{user_1}koefisiennya sama dalam kedua istilah - ada satu gagasan pengguna. Dalam FFM, Anda belajar terpisah w_{user_1}untuk setiap konteks, misalnya apakah itu berinteraksi dengan film atau genre. Perhatikan bahwa ini tidak dipelajari secara terpisah untuk setiap film atau genre tertentu, tetapi untuk film dan genre pada umumnya. Artinya, secara terpisah mempelajari konteks pengguna untuk setiap jenis interaksi.

Juga mencatat bahwa w_{movie_1}pergi ke w_{movie_1, users}karena istilah yang berinteraksi dengan w_{user_1}, pengguna.

Misalkan (sebelum satu-hot-encoding) Anda memiliki prediktor / bidang dari set (katakanlah genre film, jenis kelamin pengguna, dan ras pengguna). Misalkan lebih lanjut, setiap prediktor z ∈ Z dapat mengambil salah satu dari k z nilai-nilai. Setelah pengodean satu-panas, Anda akan memiliki satu set fitur biner baru X ukuran K : = ∑ z ∈ Z k z .$Z$$z \in Z$$k_z$$X$$K := \sum_{z \in Z}k_z$

Dalam model dengan semua interaksi, Anda harus memperkirakan matriks koefisien interaksi , yang memiliki K × ( K + 1 ) / 2 istilah unik.$Q$$K\times (K+1) / 2$

$Q$$Q \equiv W^{T} W$$W$$l \times K$$1\le l \le K$$W$$Q$

$Q$$Q$$z$$q_{z_i, z_j}$$z_i,z_j$$Q$$q_{z_i,z_j}$$z_i,z_j$$W_j^{T} W_i$$W_i$$l \times K$$W_i$$Q$

$Q$$K \times l$$K\times l\times |Z|$$K \times (K+1)/2$

Mesin faktorisasi standar memiliki bidang juga. "Kebaruan" di sini tampaknya adalah penggunaan fitur GBDT dan penerapan trik hashing. Tidak terlalu berpengaruh, tampaknya: periksa rentang kinerja menit pada slide terakhir.