Sự khác biệt giữa lớp "Địa phương" và lớp "Dày đặc" trong mạng nơron xoắn là gì? Tôi đang cố gắng để hiểu mã CIFAR-10 trong TensorFlow, và tôi thấy nó sử dụng "địa phương" lớp thay vì các lớp dày đặc thường xuyên. Có bất kỳ lớp nào trong TF hỗ trợ triển khai các lớp "Địa phương" không?Sự khác biệt giữa các lớp cục bộ và dày đặc trong CNNs
Trích dẫn từ cuda-convnet:
lớp tại địa phương-kết nối với không chia sẻ-weight: Đây là loại lớp là giống như một lớp xoắn, nhưng không có bất kỳ trọng lượng chia sẻ. Đó là để nói, một bộ khác nhau của các bộ lọc được áp dụng tại mỗi (x, y) vị trí trong hình ảnh đầu vào. Bên cạnh đó, nó hoạt động chính xác như một lớp chập chững.
Trong TensorFlow CIFAR-10 Ví dụ, mặc dù hai lớp được đặt tên local3 và local4, họ có lớp thực sự đầy đủ kết nối, không phải địa phương kết nối lớp theo quy định tại cuda-convnet (bạn có thể thấy rằng sản lượng từ pool2 được san phẳng vào đầu vào của lớp local3).
Tôi trích dẫn ý kiến user2576346 dưới câu hỏi:
Theo tôi được biết, hoặc là nó nên được đông kết nối hoặc là một lớp xoắn ...
Không có điều này là không đúng. Một cách chính xác hơn để cụm từ câu lệnh đó là các lớp được kết nối hoàn toàn (dày đặc) hoặc được kết nối cục bộ.
Lớp chập là một ví dụ về lớp được kết nối cục bộ. Nói chung, một lớp được kết nối cục bộ là một lớp trong đó mỗi đơn vị của nó chỉ được kết nối với một phần cục bộ của đầu vào. Một lớp chập chững là một loại đặc biệt của lớp cục bộ thể hiện sự bất biến dịch không gian khi mỗi máy dò tính năng liên tục được quét qua toàn bộ hình ảnh trong các cửa sổ tiếp nhận cục bộ, ví dụ: kích thước 3x3 hoặc 5x5 chẳng hạn.
có thể được kết nối mật độ cao? Đó chỉ là "lớp được kết nối hoàn toàn" thông thường. Tôi không thấy bất kỳ tham chiếu nào đến lớp "cục bộ" trong https://tensorflow.googlesource.com/tensorflow/+/master/tensorflow/models/image/cifar10/cifar10.py –
Bạn có thể tìm thấy các lớp địa phương trong CIFAR -10 mã mẫu, theo hướng dẫn. – user2576346
Hướng dẫn nói: "EXERCISE: Kiến trúc mô hình trong suy luận() hơi khác so với mô hình CIFAR-10 được chỉ định trong cuda-convnet. Đặc biệt, các lớp trên cùng của mô hình gốc của Alex được kết nối cục bộ và không được kết nối hoàn toàn. kiến trúc để tái tạo chính xác kiến trúc được kết nối cục bộ trong lớp trên cùng. " – dga