Gradient từ biểu thức Theano để hiển thị bộ lọc trong Keras

Question

Đối với một ConvNet, có thể thú vị khi tìm đầu vào giới hạn theo chuẩn mà tối đa hóa hoạt động của một chuyển đổi đơn. lọc theo cách đến visualize the filters. Tôi muốn làm điều này trong gói học tập sâu Keras. Điều này có thể được thực hiện bằng cách sử dụng thuật toán tối ưu hóa hộp đen với mã từ FAQ.

# with a Sequential model 
get_3rd_layer_output = theano.function([model.layers[0].input], 
             model.layers[3].get_output(train=False)) 
layer_output = get_3rd_layer_output(X) 

Tuy nhiên, nó sẽ là một tác vụ tối ưu hóa đáng kể dễ dàng hơn nếu tôi có độ dốc. Làm thế nào tôi có thể trích xuất gradient từ biểu thức Theano và nhập nó vào một thư viện tối ưu hóa Python như Scipy?

Answer 1

Bạn có thể in ra độ dốc như được mô tả here và đặt mã nó vào Scipy. Bạn cũng có thể thực hiện tối ưu hóa trong Theano - xem this question.

Tuy nhiên, có lẽ là cách tiếp cận hầu hết thẳng về phía trước là để tạo một hàm get_gradients() sử dụng theano.grad() để trả lại gradient của các bộ lọc liên quan đến một đầu vào, sau đó gọi scipy.optimize.minimize với jac=get_gradients. Theo số documentation:

jac: bool hoặc có thể gọi, tùy chọn Jacobian (gradient) của mục tiêu chức năng. [...] jac cũng có thể được gọi trở lại gradient của mục tiêu. Trong trường hợp này, nó phải chấp nhận các đối số giống như niềm vui.