Đào tạo dòng chảy trở nên chậm hơn và chậm hơn khi lặp lại nhiều hơn 10.000. Tại sao?

Question

Tôi cung cấp dữ liệu cho biểu đồ với phương thức đường dẫn đầu vào và tf.train.shuffle_batch được triển khai để tạo dữ liệu lô. Tuy nhiên, khi quá trình đào tạo diễn ra, lưu lượng trở nên chậm hơn và chậm hơn cho các lần lặp lại sau này. Tôi bối rối về lý do quan trọng dẫn đến nó là gì? Cảm ơn rất nhiều! Đoạn mã của tôi là:

def main(argv=None): 

# define network parameters 
# weights 
# bias 

# define graph 
# graph network 

# define loss and optimization method 
# data = inputpipeline('*') 
# loss 
# optimizer 

# Initializaing the variables 
init = tf.initialize_all_variables() 

# 'Saver' op to save and restore all the variables 
saver = tf.train.Saver() 

# Running session 
print "Starting session... " 
with tf.Session() as sess: 

    # initialize the variables 
    sess.run(init) 

    # initialize the queue threads to start to shovel data 
    coord = tf.train.Coordinator() 
    threads = tf.train.start_queue_runners(coord=coord) 

    print "from the train set:" 
    for i in range(train_set_size * epoch): 
     _, d, pre = sess.run([optimizer, depth_loss, prediction]) 

    print "Training Finished!" 

    # Save the variables to disk. 
    save_path = saver.save(sess, model_path) 
    print("Model saved in file: %s" % save_path) 

    # stop our queue threads and properly close the session 
    coord.request_stop() 
    coord.join(threads) 
    sess.close() 

Answer 1

Khi đào tạo bạn nên thực hiện sess.run chỉ một lần. Đề nghị cố gắng một cái gì đó như thế này, hy vọng nó sẽ giúp:

with tf.Session() as sess: 
    sess.run(tf.global_variables_initializer()) 
    for i in range(train_set_size * epoch): 
    train_step.run([optimizer, depth_loss, prediction])