benchmark chuẩn để kiểm tra lưu lượng tensorflow

Question

Tôi nghi ngờ liệu tensorflow có được định cấu hình chính xác trên hộp gpu hay không, vì tốc độ chậm hơn 100 lần cho mỗi lần lặp lại để đào tạo mô hình hồi quy tuyến tính đơn giản (batchsize = 32, 1500 tính năng đầu vào, 150 biến đầu ra) trên máy tính gpu ưa thích của tôi hơn trên máy tính xách tay của tôi.

Tôi đang sử dụng Titan X, với cpu hiện đại, v.v. nvidia-smi nói rằng tôi chỉ ở mức sử dụng 10% gpu, nhưng tôi hy vọng đó là do các lô nhỏ. Tôi không sử dụng feed_dict để chuyển dữ liệu vào biểu đồ tính toán. Mọi thứ đều đến thông qua một tf.decode_csv và tf.train.shuffle_batch.

Có ai có bất kỳ đề xuất nào về cách dễ dàng kiểm tra xem cài đặt của tôi có đúng không? Có bất kỳ điểm chuẩn tốc độ đơn giản nào không? Sự khác biệt về tốc độ giữa máy tính xách tay của tôi và máy gpu rất ấn tượng đến nỗi tôi hy vọng rằng mọi thứ không được cấu hình đúng cách.

Answer 1

Hãy thử tensorflow/tensorflow/models/image/mnist/convolutional.py, thao tác này sẽ in thời gian mỗi bước.

On Tesla K40c rằng sẽ nhận được khoảng 16 ms mỗi bước, trong khi khoảng 120 ms cho CPU chỉ trên máy tính cũ 3 năm của tôi

Answer 2

Mở rộng Yaroslavs câu trả lời: Dưới đây là cách thực hiện toàn bộ quá trình thử nghiệm (CUDA và cudNN cài đặt sẵn)

git clone https://github.com/tensorflow/models.git 

Tạo một môi trường Virtuel cho tensorflow và cài đặt tensorflow

virtualenv --system-site-packages -p python3 tf-venv3 
source tf-venv3/bin/activate 
pip install --upgrade pip 
pip install --upgrade tensorflow-gpu 

Chạy mô hình trong Virtuel Environment

python models/tutorials/image/mnist/convolutional.py 

GTX My 1070 nhu cầu ~ 5ms mỗi bước