Keras指定多块GPU用于并行训练

阅读量：

多GPU配置在Keras中的实现

复制代码

 import keras.backend.tensorflow_backend as KTF

    
 import tensorflow as tf
    
 import os
    
  
    
 os.environ["CUDA_VISIBLE_DEVICES"] = "0,1,4,5,8,9"

使用多个GPU训练

多GPU模型的数据并行实现

数据并行技术涉及将目标模型复制到每个计算设备上，并通过各个模型实例分别处理输入数据的不同部分。

Keras 提供了一个内建的实用工具函数 keras.utils.multi_gpu_model ，该函数能够为任意模型构建数据并行的实现方式，并可在最多 8 块 GPU 上实现接近线性的性能提升。

如需进一步了解，建议查阅 multi_gpu_model 的相关文档。以下提供一个简要示例：

复制代码

 from keras.utils import multi_gpu_model

    
  
    
 model = Sequential()
    
 model.add(...)
    
 ......
    
 ......
    
  
    
 # 将 `mo

全部评论 (0)

还没有任何评论哟~