19

Sự khác nhau giữa mạng lưới truyền ngược và mạng nơ-ron chuyển tiếp là gì?Sự khác nhau giữa mạng truyền ngược và mạng thần kinh chuyển tiếp là gì?

Bằng cách googling và đọc, tôi thấy rằng trong feed-forward chỉ có hướng về phía trước, nhưng trong truyền lại sau khi chúng ta cần phải thực hiện chuyển tiếp và sau đó truyền lại. Tôi đã gọi this link

  1. Bất kỳ sự khác biệt nào khác ngoài hướng của luồng? Điều gì về tính toán trọng lượng? Kết quả?
  2. Giả sử tôi đang triển khai tuyên truyền ngược, tức là nó có luồng chuyển tiếp và lùi. Vì vậy, là back-propagation đủ để hiển thị feed-forward?

Trả lời

33
  • Một Feed-Forward Neural Network là một loại Neural Network kiến ​​trúc nơi kết nối được " cho ăn về phía trước ", tức là không tạo chu kỳ (như trong lưới tái phát).

  • Cụm từ "Feed forward" cũng được sử dụng khi bạn nhập nội dung nào đó ở lớp đầu vào và di chuyển từ đầu vào sang ẩn và từ ẩn sang lớp đầu ra.
    Các giá trị được "cho tiếp".

Cả hai cách sử dụng cụm từ "feed forward" đều trong ngữ cảnh không liên quan gì đến đào tạo.

  • lan truyền ngược là một thuật toán đào tạo gồm 2 bước sau: 1) thức ăn về phía trước các giá trị 2) tính toán lỗi và tuyên truyền nó trở lại đến lớp sớm hơn.Vì vậy, để được chính xác, chuyển tiếp tiến là một phần của backpropagation thuật toán nhưng đến trước khi truyền lại.
+0

Có vẻ như lúc đầu bạn nói rằng Feed-Forward là "kiến trúc" (thuật ngữ mang một số giải thích ở đây, nó không có trong bài viết liên kết hoặc bất kỳ lớp nào tôi đã thực hiện trong bài này) và không có gì để làm với thuật toán đào tạo ... sau đó bạn mô tả nó như là 2 bước đầu tiên trong thuật toán đào tạo. .. một chút mâu thuẫn. –

+1

@ Hack-R Nó không phải là một mâu thuẫn khi bạn hiểu rằng cùng một thuật ngữ được sử dụng trong hai bối cảnh hơi khác nhau (đào tạo vs sơ đồ kết nối). Câu hỏi của OP chính xác về sự hiểu lầm của bạn. Về điểm khác, FFNN không phải là một mô hình cụ thể mà là một loại/loại mô hình, một định nghĩa rất chung là 'không tái diễn' (MLP, CNN). Vì vậy, với điều này, hãy xem xét rằng các mạng nơron tái phát không phải là các mạng chuyển tiếp (có chu kỳ). Tuy nhiên, chúng liên quan đến việc truyền bá phía trước, tức là các giá trị cho ăn về phía trước và phía sau. – runDOSrun

6

Không có mạng ngược thuần túy hoặc mạng neuralt chuyển tiếp thuần túy.

Backpropagation là thuật toán để huấn luyện (điều chỉnh cân nặng) của mạng thần kinh. Đầu vào cho backpropagation là output_vector, target_output_vector, đầu ra được điều chỉnh_weight_vector.

Feed-forward là thuật toán để tính toán vector đầu ra từ vectơ đầu vào. Đầu vào cho nguồn cấp dữ liệu chuyển tiếp là input_vector, đầu ra là output_vector.

Khi bạn đang đào tạo mạng thần kinh, bạn cần phải sử dụng cả hai thuật toán.

Khi bạn đang sử dụng mạng thần kinh (đã được đào tạo), bạn chỉ đang sử dụng chuyển tiếp.

Loại mạng thần kinh Bacis là perceptron nhiều lớp, whitch là mạng nơ-ron ngược phía sau chuyển tiếp.

Ngoài ra còn có nhiều loại mạng thần kinh nâng cao hơn, sử dụng các thuật toán đã sửa đổi.

Cũng nguồn tốt để nghiên cứu: ftp://ftp.sas.com/pub/neural/FAQ.html tốt nhất để hiểu nguyên tắc là để Programe nó (hướng dẫn trong video này) https://www.youtube.com/watch?v=KkwX7FkLfug

+0

ftp://ftp.sas.com/pub/neural/FAQ.html liên kết này không được tìm thấy –

Các vấn đề liên quan