PyTorch vs. Tensorflow Fold

26

Baik PyTorch dan Tensorflow Fold adalah kerangka pembelajaran yang dalam yang dimaksudkan untuk menangani situasi di mana data input memiliki panjang atau dimensi yang tidak seragam (yaitu, situasi di mana grafik dinamis berguna atau dibutuhkan).

Saya ingin tahu bagaimana mereka membandingkan, dalam arti paradigma yang mereka andalkan (misalnya batch dinamis) dan implikasinya, hal-hal yang dapat / tidak dapat diimplementasikan di masing-masing, kelemahan / kekuatan, dll.

Saya bermaksud menggunakan info ini untuk memilih salah satunya untuk mulai menjelajahi grafik perhitungan dinamis, tetapi saya tidak memiliki tugas khusus dalam pikiran.

Catatan 1: kerangka kerja grafik komputasi dinamis lainnya seperti DyNet atau Chainer juga diterima dalam perbandingan, tetapi saya ingin fokus pada PyTorch dan Tensorflow Fold karena saya pikir mereka / akan menjadi yang paling banyak digunakan.

Catatan 2: Saya telah menemukan utas hackernews ini di PyTorch dengan beberapa info yang jarang, tetapi tidak banyak.

Catatan 3: Utas hackernews lain yang relevan , tentang Tensorflow Fold, yang berisi beberapa info tentang bagaimana mereka membandingkan.

Catatan 4: Utas Reddit yang relevan .

Catatan 5: bug yang relevan di github Tensorflow Fold yang mengidentifikasi batasan penting: ketidakmungkinan untuk melakukan percabangan bersyarat selama evaluasi.

Catatan 6: diskusi di forum pytorch tentang input panjang variabel dalam kaitannya dengan algoritma yang digunakan (mis. Batch dinamis).

python deep-learning tensorflow pytorch ncasas
sumber
Anda juga dapat menambahkan diskusi yang sedang berlangsung (saat menulis komentar ini) oleh kontributor pytorch ke daftar referensi Anda.
GuSuku
1
Saya menemukan tautan ini sangat menarik dan sedang membandingkan saat Anda meminta (tentang grafik dinamis dan menggunakan DyNet dan Chainer) hackernoon.com/...
John Theo

Jawaban:

9

Ada beberapa utas bagus di Reddit sekarang (di sini dan di sini ).

Saya belum pernah menggunakan salah satu dari kerangka kerja ini, tetapi dari membaca di sekitar dan berbicara dengan pengguna, saya mengumpulkan bahwa dukungan untuk grafik dinamis di PyTorch adalah 'prinsip desain top down', sedangkan TensorFlow Fold disambungkan ke kerangka kerja Tensorflow asli, jadi jika Anda melakukan sesuatu yang cukup rumit dengan Tensorflow Lipat, Anda mungkin akan berakhir melakukan lebih banyak peretasan daripada jika Anda menggunakan PyTorch .

christopherlovell
sumber
3
Itu cukup banyak pengalaman saya dengan mencoba menggunakan Lipat dengan konvolusi di atas pohon selama beberapa bulan terakhir. Belum cukup dewasa untuk menangani hal-hal seperti itu. Mereka menyarankan "bekerja di sekitar" jika Anda melihat masalah tertutup pada repo mereka. Beralih ke PyTorch karena Fold sangat tidak fleksibel - pun dimaksudkan.
Soubriquet