Как в keras + tensorflow задействовать несколько GPU при обучении сети?

Question

[DamskiyUgodnik]

Всем привет!
Столкнулся с проблемой, при обучении сети, keras + tensorflow используется только один GPU, хотя в системе их несколько (в момент запуска tensorflow видит все GPU). Использую примерно такой код:

datagen = ImageDataGenerator(rescale=1. / 255)

train_generator = datagen.flow_from_directory(
    'train_data/train',
    target_size=(150, 150),
    batch_size=128,
    class_mode='binary')

val_generator = datagen.flow_from_directory(
    'train_data/validation',
    target_size=(150, 150),
    batch_size=128,
    class_mode='binary')

model = Sequential()

# Формирование слоёв

model.compile(loss='binary_crossentropy',
              optimizer='adam',
              metrics=['accuracy'])

model.fit_generator(
    train_generator,
    steps_per_epoch=500,
    epochs=25,
    validation_data=val_generator,
    validation_steps = 150,
)

Вопрос, как задействовать остальные GPU?

Answer 1

[ivodopyanov]

https://keras.io/utils/#multi_gpu_model
https://www.pyimagesearch.com/2017/10/30/how-to-mu...