Làm thế nào để tải điểm kiểm tra và suy luận với C++ cho tensorflow?

Question

Tôi có Tensorflow với python api và nhận được những tập tin mô hình trạm kiểm soát:

model.ckpt-17763.data-00000-of-00001 
model.ckpt-17763.index 
model.ckpt-17763.meta 

Nhưng tôi muốn có một C/C++ thư viện chia sẻ (.so tập tin) khi tích hợp vào sản xuất. Vì vậy, tôi cần phải tải các mô hình tập tin và suy luận với mã C + + và biên dịch vào một thư viện được chia sẻ. Có một số hướng dẫn hoặc mẫu để làm điều này?

Answer 1

Bạn có thể viết mã C++ để tải và sử dụng biểu đồ của mình với các hướng dẫn được cung cấp here.

Bạn có thể sử dụng các tệp here để tạo dự án Cmake với lưu lượng kế bên ngoài kho lưu trữ TF và biên dịch thư viện của bạn.

Tuy nhiên, bạn vẫn cần các tệp .ckpt bên cạnh .so, tôi không biết cách xen kẽ chúng bên trong.

Có rất nhiều câu hỏi về điều đó trên SO và một vài hướng dẫn (xem hai trích dẫn trong this answer) nhưng kể từ khi lưu lượng phát triển nhanh chóng, chúng nhanh chóng trở nên lỗi thời và luôn có một chút khó khăn để làm việc đúng cách (hoàn toàn khả thi và dễ dàng hơn).