Bagaimana cara menggunakan panggilan balik Tensorboard Keras?

Saya telah membangun jaringan saraf dengan Keras. Saya akan memvisualisasikan datanya oleh Tensorboard, oleh karena itu saya telah memanfaatkan:

keras.callbacks.TensorBoard(log_dir='/Graph', histogram_freq=0,
                            write_graph=True, write_images=True)

seperti yang dijelaskan dalam keras.io . Ketika saya menjalankan panggilan balik yang saya dapatkan <keras.callbacks.TensorBoard at 0x7f9abb3898>, tetapi saya tidak mendapatkan file apa pun di folder saya "Grafik". Apakah ada yang salah dalam cara saya menggunakan panggilan balik ini?

keras.callbacks.TensorBoard(log_dir='./Graph', histogram_freq=0,  
          write_graph=True, write_images=True)

Baris ini menciptakan objek Callback Tensorboard, Anda harus menangkap objek itu dan memberikannya ke fitfungsi model Anda.

tbCallBack = keras.callbacks.TensorBoard(log_dir='./Graph', histogram_freq=0, write_graph=True, write_images=True)
...
model.fit(...inputs and parameters..., callbacks=[tbCallBack])

Dengan cara ini Anda memberikan objek panggilan balik ke fungsi. Ini akan dijalankan selama pelatihan dan akan menampilkan file yang dapat digunakan dengan tensorboard.

Jika Anda ingin memvisualisasikan file yang dibuat selama pelatihan, jalankan di terminal Anda

tensorboard --logdir path_to_current_dir/Graph 

Semoga ini membantu !

Ini adalah bagaimana Anda menggunakan panggilan balik TensorBoard :

from keras.callbacks import TensorBoard

tensorboard = TensorBoard(log_dir='./logs', histogram_freq=0,
                          write_graph=True, write_images=False)
# define model
model.fit(X_train, Y_train,
          batch_size=batch_size,
          epochs=nb_epoch,
          validation_data=(X_test, Y_test),
          shuffle=True,
          callbacks=[tensorboard])

Perubahan

keras.callbacks.TensorBoard(log_dir='/Graph', histogram_freq=0,  
          write_graph=True, write_images=True)

untuk

tbCallBack = keras.callbacks.TensorBoard(log_dir='Graph', histogram_freq=0,  
          write_graph=True, write_images=True)

dan atur model Anda

tbCallback.set_model(model)

Jalankan di terminal Anda

tensorboard  --logdir Graph/

Jika Anda bekerja dengan pustaka Keras dan ingin menggunakan papan tensor untuk mencetak grafik keakuratan dan variabel lainnya, Maka di bawah ini adalah langkah-langkah untuk diikuti.

langkah 1: Inisialisasi pustaka callback keras untuk mengimpor tensorboard dengan menggunakan perintah di bawah ini

from keras.callbacks import TensorBoard

langkah 2: Sertakan perintah di bawah ini di program Anda sebelum perintah "model.fit ()".

tensor_board = TensorBoard(log_dir='./Graph', histogram_freq=0, write_graph=True, write_images=True)

Catatan: Gunakan "./graph". Ini akan menghasilkan folder grafik di direktori kerja Anda saat ini, hindari menggunakan "/ grafik".

langkah 3: Sertakan callback Tensorboard di "model.fit ()". Sampel diberikan di bawah ini.

model.fit(X_train,y_train, batch_size=batch_size, epochs=nb_epoch, verbose=1, validation_split=0.2,callbacks=[tensor_board])

langkah 4: Jalankan kode Anda dan periksa apakah folder grafik Anda ada di direktori kerja Anda. jika kode di atas berfungsi dengan benar Anda akan memiliki folder "Grafik" di direktori kerja Anda.

langkah 5: Buka Terminal di direktori kerja Anda dan ketik perintah di bawah ini.

tensorboard --logdir ./Graph

langkah 6: Sekarang buka browser web Anda dan masukkan alamat di bawah ini.

http://localhost:6006

Setelah masuk, halaman Tensorbaord akan terbuka di mana Anda dapat melihat grafik berbagai variabel Anda.

Ini beberapa kode:

K.set_learning_phase(1)
K.set_image_data_format('channels_last')

tb_callback = keras.callbacks.TensorBoard(
    log_dir=log_path,
    histogram_freq=2,
    write_graph=True
)
tb_callback.set_model(model)
callbacks = []
callbacks.append(tb_callback)

# Train net:
history = model.fit(
    [x_train],
    [y_train, y_train_c],
    batch_size=int(hype_space['batch_size']),
    epochs=EPOCHS,
    shuffle=True,
    verbose=1,
    callbacks=callbacks,
    validation_data=([x_test], [y_test, y_test_coarse])
).history

# Test net:
K.set_learning_phase(0)
score = model.evaluate([x_test], [y_test, y_test_coarse], verbose=0)

Pada dasarnya, histogram_freq=2adalah parameter yang paling penting untuk dicari saat memanggil panggilan balik ini: ini menetapkan interval zaman untuk memanggil panggilan balik, dengan tujuan menghasilkan lebih sedikit file pada disk.

Jadi di sini adalah contoh visualisasi evolusi nilai untuk konvolusi terakhir sepanjang pelatihan yang pernah terlihat di TensorBoard, di bawah tab "histogram" (dan saya menemukan tab "distribusi" berisi grafik yang sangat mirip, tetapi terbalik):

Jika Anda ingin melihat contoh lengkap dalam konteks, Anda dapat merujuk ke proyek sumber terbuka ini: https://github.com/Vooban/Hyperopt-Keras-CNN-CIFAR-100

Jika Anda menggunakan google-colab, visualisasi sederhana dari grafik adalah:

import tensorboardcolab as tb

tbc = tb.TensorBoardColab()
tensorboard = tb.TensorBoardColabCallback(tbc)


history = model.fit(x_train,# Features
                    y_train, # Target vector
                    batch_size=batch_size, # Number of observations per batch
                    epochs=epochs, # Number of epochs
                    callbacks=[early_stopping, tensorboard], # Early stopping
                    verbose=1, # Print description after each epoch
                    validation_split=0.2, #used for validation set every each epoch
                    validation_data=(x_test, y_test)) # Test data-set to evaluate the model in the end of training

Anda menulis yang log_dir='/Graph'Anda maksudkan ./Graphsebagai gantinya? Anda mengirimnya ke /home/user/Graphsaat ini.

Anda harus memeriksa Losswise ( https://losswise.com ), ia memiliki plugin untuk Keras yang lebih mudah digunakan daripada Tensorboard dan memiliki beberapa fitur tambahan yang bagus. Dengan Losswise Anda hanya akan menggunakan from losswise.libs import LosswiseKerasCallbackdan kemudian callback = LosswiseKerasCallback(tag='my fancy convnet 1')dan Anda baik untuk pergi (lihat https://docs.losswise.com/#keras-plugin ).

Ada beberapa hal.

Pertama, bukan /Graphtapi./Graph

Kedua, ketika Anda menggunakan panggilan balik TensorBoard, selalu berikan data validasi, karena tanpa itu, itu tidak akan mulai.

Ketiga, jika Anda ingin menggunakan apa pun kecuali ringkasan skalar, maka Anda hanya boleh menggunakan fitmetode ini karena fit_generatortidak akan berfungsi. Atau Anda dapat menulis ulang panggilan balik untuk bekerja dengannya fit_generator.

Untuk menambahkan panggilan balik, tambahkan saja ke model.fit(..., callbacks=your_list_of_callbacks)

Buat panggilan balik Tensorboard:

from keras.callbacks import TensorBoard
from datetime import datetime
logDir = "./Graph/" + datetime.now().strftime("%Y%m%d-%H%M%S") + "/"
tb = TensorBoard(log_dir=logDir, histogram_freq=2, write_graph=True, write_images=True, write_grads=True)

Lewati panggilan balik Tensorboard ke panggilan yang sesuai:

history = model.fit(X_train, y_train, epochs=200, callbacks=[tb])

Saat menjalankan model, jika Anda mendapatkan kesalahan Keras

"Anda harus memberi nilai untuk tensor placeholder"

coba atur ulang sesi Keras sebelum membuat model dengan melakukan:

import keras.backend as K
K.clear_session()