Tensorflow: tf.initialize_all_variables() vs tf.initialize_local_variables()

Question

Tôi đang xem xét các mã trong ví dụ này: fully_connected_reader.py

Tôi lẫn lộn với dòng 147 và 148:

init_op = tf.group(tf.initialize_all_variables(), 
        tf.initialize_local_variables()) 

I don' t biết biến nào là all variables và là local variables. Bất kỳ ý tưởng?

Answer 1

tf.initialize_all_variables() là một phím tắt để tf.initialize_variables(tf.all_variables()), tf.initialize_local_variables() là một phím tắt để tf.initialize_variables(tf.local_variables()), khởi tạo các biến trong GraphKeys.VARIABLES và GraphKeys.LOCAL_VARIABLE bộ sưu tập, tương ứng.

Các biến trong bộ sưu tập GraphKeys.LOCAL_VARIABLES là các biến được thêm vào biểu đồ nhưng không được lưu hoặc khôi phục (source).

tf.Variable() theo mặc định thêm biến mới vào bộ sưu tập GraphKeys.VARIABLE, có thể được kiểm soát bởi collections = argument.

Answer 2

Biến cục bộ trong TF là bất kỳ biến nào được tạo với collections=[tf.GraphKeys.LOCAL_VARIABLES]. Ví dụ:

e = tf.Variable(6, name='var_e', collections=[tf.GraphKeys.LOCAL_VARIABLES]) 

LOCAL_VARIABLES: các tập hợp con của các đối tượng biến đó là địa phương để mỗi máy . Thường được sử dụng cho các biến tạm thời, như các bộ đếm. Lưu ý: sử dụng tf.contrib.framework.local_variable để thêm vào bộ sưu tập này.

Chúng thường không được lưu/khôi phục vào trạm kiểm soát và được sử dụng cho các giá trị tạm thời hoặc trung gian. Để có câu trả lời chi tiết hơn, hãy xem here.

Biến toàn cục chủ yếu là mọi biến khác do bạn khởi tạo.

---

Trong một phiên bản mới của TF bạn nên sử dụng tf.global_variables_initializer(), tf.local_variables_initializer(), bởi vì các chức năng trước đó đã bị phản đối.

Answer 3

• GLOBAL_VARIABLES

chính để thu thập vật biến mà toàn cầu (chia sẻ trên máy). Bộ sưu tập mặc định cho tất cả các biến, ngoại trừ các biến địa phương.

• LOCAL_VARIABLES

chính để thu thập các biến địa phương mà địa phương để máy và sẽ không được lưu/phục hồi.