tensorflow tf.ConfigProto() (配置tf.Session的运算方式)(allow_soft_placement、inter_op_parallelism_threads等)
生活随笔
收集整理的這篇文章主要介紹了
tensorflow tf.ConfigProto() (配置tf.Session的运算方式)(allow_soft_placement、inter_op_parallelism_threads等)
小編覺得挺不錯的,現在分享給大家,幫大家做個參考.
tf.ConfigProto()主要的作用是配置tf.Session的運算方式,比如gpu運算或者cpu運算
log_device_placement=True
- 設置tf.ConfigProto()中參數log_device_placement = True ,可以獲取到 operations 和 Tensor 被指派到哪個設備(幾號CPU或幾號GPU)上運行,會在終端打印出各項操作是在哪個設備上運行的。
inter_op_parallelism_threads=0
- 設置線程一個操作內部并行運算的線程數,比如矩陣乘法,如果設置為0,則表示以最優的線程數處理
intra_op_parallelism_threads=0
- 設置多個操作并行運算的線程數,比如 c = a + b,d = e + f . 可以并行運算
allow_soft_placement=True
- 在tf中,通過命令 “with tf.device(’/cpu:0’):”,允許手動設置操作運行的設備。如果手動設置的設備不存在或者不可用,就會導致tf程序等待或異常,為了防止這種情況,可以設置tf.ConfigProto()中參數allow_soft_placement=True,允許tf自動選擇一個存在并且可用的設備來運行操作。
另外:
限制GPU資源使用:
為了加快運行效率,TensorFlow在初始化時會嘗試分配所有可用的GPU顯存資源給自己,這在多人使用的服務器上工作就會導致GPU占用,別人無法使用GPU工作的情況。
tf提供了兩種控制GPU資源使用的方法,一是讓TensorFlow在運行過程中動態申請顯存,需要多少就申請多少;第二種方式就是限制GPU的使用率。
一、動態申請顯存
config = tf.ConfigProto() config.gpu_options.allow_growth = True session = tf.Session(config=config)二、限制GPU使用率
config = tf.ConfigProto() config.gpu_options.per_process_gpu_memory_fraction = 0.4 #占用40%顯存 session = tf.Session(config=config)或者:
gpu_options=tf.GPUOptions(per_process_gpu_memory_fraction=0.4) config=tf.ConfigProto(gpu_options=gpu_options) session = tf.Session(config=config)設置使用哪塊GPU
方法一、在python程序中設置:
os.environ['CUDA_VISIBLE_DEVICES'] = '0' #使用 GPU 0 os.environ['CUDA_VISIBLE_DEVICES'] = '0,1' # 使用 GPU 0,1方法二、在執行python程序時候:
CUDA_VISIBLE_DEVICES=0,1 python yourcode.py推薦使用更靈活一點的第二種方法。
參考文章:Tensorflow中tf.ConfigProto()詳解
總結
以上是生活随笔為你收集整理的tensorflow tf.ConfigProto() (配置tf.Session的运算方式)(allow_soft_placement、inter_op_parallelism_threads等)的全部內容,希望文章能夠幫你解決所遇到的問題。
- 上一篇: tensorflow tf.train.
- 下一篇: tensorflow tf.train.