Keras - Cách tạo Lớp Nhúng() Chia sẻ cho mỗi Đầu vào-Neuron

Question

Tôi muốn tạo một mạng nơron sâu trong keras, trong đó mỗi phần tử của lớp đầu vào được "mã hóa" bằng cách sử dụng cùng một tính năng Chia sẻ Nhúng() lớp, trước khi nó được đưa vào các lớp sâu hơn.

Mỗi đầu vào sẽ là số xác định loại đối tượng và mạng nên tìm hiểu cách nhúng một gói biểu diễn nội bộ của "đối tượng này là gì". Vì vậy, nếu lớp đầu vào có kích thước X, và nhúng có kích thước Y, lớp ẩn đầu tiên sẽ bao gồm các tế bào thần kinh X * Y (mỗi nơron đầu vào được nhúng).

Here is a little image that should show the network architecture that I would like to create, where each input-element is encoded using a 3D-Embedding

Tôi làm cách nào để thực hiện việc này?

Answer 1

from keras.layers import Input, Embedding 

first_input = Input(shape = (your_shape_tuple)) 
second_input = Input(shape = (your_shape_tuple)) 
... 

embedding_layer = Embedding(embedding_size) 

first_input_encoded = embedding_layer(first_input) 
second_input_encoded = embedding_layer(second_input) 
... 

Rest of the model.... 

Emnedding_layer sẽ có trọng số chia sẻ. Bạn có thể làm điều này dưới dạng danh sách các lớp nếu bạn có nhiều đầu vào.

Nếu những gì bạn muốn được chuyển đổi một tensor đầu vào, cách để làm điều đó là:

from keras.layers import Input, Embedding 

# If your inputs are all fed in one numpy array : 
input_layer = Input(shape = (num_input_indices,)) 

# the output of this layer will be a 2D tensor of shape (num_input_indices, embedding_size) 
embedded_input = Embedding(embedding_size)(input_layer) 

Đây có phải là những gì bạn đang tìm kiếm?