Dapatkah Keras dengan backend Tensorflow dipaksa untuk menggunakan CPU atau GPU sesuka hati?

Saya telah menginstal Keras dengan backend Tensorflow dan CUDA. Saya terkadang ingin memaksa Keras untuk menggunakan CPU. Bisakah ini dilakukan tanpa mengatakan menginstal Tensorflow khusus CPU yang terpisah di lingkungan virtual? Jika ya, bagaimana caranya? Jika backend adalah Theano, benderanya dapat disetel, tetapi saya belum pernah mendengar tentang bendera Tensorflow yang dapat diakses melalui Keras.

Jika Anda ingin memaksa Keras menggunakan CPU

Cara 1

import os
os.environ["CUDA_DEVICE_ORDER"] = "PCI_BUS_ID"   # see issue #152
os.environ["CUDA_VISIBLE_DEVICES"] = ""

sebelum Keras / Tensorflow diimpor.

Cara 2

Jalankan skrip Anda sebagai

$ CUDA_VISIBLE_DEVICES="" ./your_keras_code.py

Lihat juga

1. https://github.com/keras-team/keras/issues/152
2. https://github.com/fchollet/keras/issues/4613

Cara yang agak terpisah untuk melakukan ini adalah dengan menggunakan

import tensorflow as tf
from keras import backend as K

num_cores = 4

if GPU:
    num_GPU = 1
    num_CPU = 1
if CPU:
    num_CPU = 1
    num_GPU = 0

config = tf.ConfigProto(intra_op_parallelism_threads=num_cores,
                        inter_op_parallelism_threads=num_cores, 
                        allow_soft_placement=True,
                        device_count = {'CPU' : num_CPU,
                                        'GPU' : num_GPU}
                       )

session = tf.Session(config=config)
K.set_session(session)

Di sini, dengan booleans GPUdan CPU, kami menunjukkan apakah kami ingin menjalankan kode kami dengan GPU atau CPU dengan mendefinisikan secara kaku jumlah GPU dan CPU yang diizinkan untuk diakses sesi Tensorflow. Variabel num_GPUdan num_CPUtentukan nilai ini. num_coreslalu setel jumlah inti CPU yang tersedia untuk digunakan melalui intra_op_parallelism_threadsdan inter_op_parallelism_threads.

The intra_op_parallelism_threadsmendikte variabel jumlah benang operasi paralel dalam satu simpul pada grafik perhitungan diperbolehkan untuk digunakan (intra). Sedangkan inter_ops_parallelism_threadsvariabel menentukan jumlah utas yang dapat diakses untuk operasi paralel di seluruh node grafik komputasi (antar).

allow_soft_placement memungkinkan operasi dijalankan pada CPU jika salah satu kriteria berikut terpenuhi:

1. tidak ada implementasi GPU untuk operasi tersebut

2. tidak ada perangkat GPU yang dikenal atau terdaftar

3. ada kebutuhan untuk bekerja sama dengan input lain dari CPU

Semua ini dijalankan di konstruktor kelas saya sebelum operasi lain, dan sepenuhnya terpisah dari model atau kode lain yang saya gunakan.

Catatan: Ini membutuhkan tensorflow-gpudan cuda/ cudnnharus diinstal karena opsi diberikan untuk menggunakan GPU.

Referensi:

• Apa arti opsi di ConfigProto seperti allow_soft_placement dan log_device_placement?

• Arti inter_op_parallelism_threads dan intra_op_parallelism_threads

Ini bekerja untuk saya (win10), tempat sebelum Anda mengimpor keras:

import os
os.environ['CUDA_VISIBLE_DEVICES'] = '-1'

Impor saja tensortflow dan gunakan keras, semudah itu.

import tensorflow as tf
# your code here
with tf.device('/gpu:0'):
    model.fit(X, y, epochs=20, batch_size=128, callbacks=callbacks_list)

Sesuai tutorial keras , Anda cukup menggunakan tf.devicecakupan yang sama seperti di tensorflow biasa:

with tf.device('/gpu:0'):
    x = tf.placeholder(tf.float32, shape=(None, 20, 64))
    y = LSTM(32)(x)  # all ops in the LSTM layer will live on GPU:0

with tf.device('/cpu:0'):
    x = tf.placeholder(tf.float32, shape=(None, 20, 64))
    y = LSTM(32)(x)  # all ops in the LSTM layer will live on CPU:0

Saya hanya menghabiskan waktu untuk mencari tahu. Jawaban Thoma tidak lengkap. Misalkan program Anda adalah test.py, Anda ingin menggunakan gpu0 untuk menjalankan program ini, dan membiarkan gpus lain tetap gratis.

Anda harus menulis CUDA_VISIBLE_DEVICES=0 python test.py

Perhatikan itu DEVICEStidakDEVICE

Untuk orang yang bekerja di PyCharm, dan untuk memaksa CPU, Anda dapat menambahkan baris berikut di konfigurasi Run / Debug, di bawah variabel lingkungan:

<OTHER_ENVIRONMENT_VARIABLES>;CUDA_VISIBLE_DEVICES=-1