C++ Dòng chảy, cách thực hiện phiên-> Chạy() với đa luồng hoặc tốn ít thời gian hơn

Question

Tôi chạy tất cả các bên dưới trên CPU. Tôi chạy mẫu ensorflow/examples/label_image dành 7 ~ 8 giây. Như tôi biết, python dành khoảng 0,5 giây để xử lý cùng một mẫu và điều này là do "Đối tượng TensorFlow Session được đa luồng, vì vậy nhiều luồng có thể dễ dàng sử dụng cùng một phiên và chạy các lệnh song song.". NHƯNG, làm cách nào tôi có thể đặt đa luồng trên Phiên với C++.

Tôi cố gắng ... Tôi mã dòng 81 trong "tensorflow/tensorflow/core/common_runtime/direct_session.cc": "const int32 num_threads = 16;" Tuy nhiên, nó không hoạt động.

Tôi làm cách nào để đặt cấu hình hoặc tôi nên làm gì?

Answer 1

Làm thế nào để kết nối nhiều chuỗi?

std::vector<std::thread> threads; 

for (std::size_t i = 0; i < 10; ++i) { 
    threads.push_back(std::thread([&]{ session->Run(); })); 
} 


for (std::size_t i = 0; i < 10; ++i) { 
    threads[i].join(); 
}