2013-04-13 21 views
6

Có đáng để thay đổi tỷ lệ học tập sau khi các điều kiện nhất định được đáp ứng không? Và làm thế nào và tại sao để làm điều đó? Ví dụ net sẽ bắt đầu với tỷ lệ học tập cao và sau khi bình phương lỗi là đủ thấp tỷ lệ học tập sẽ giảm cho độ chính xác tốt hơn hoặc tỷ lệ học tập nên tăng để nhảy ra khỏi minima địa phương ?. Nó sẽ không gây ra quá mức? Và những gì về đà?Mạng thần kinh, có đáng để thay đổi tỷ lệ học tập và động lượng theo thời gian

Trả lời

10

Thông thường bạn nên bắt đầu với tỷ lệ học tập cao và động lượng thấp. Sau đó, bạn giảm tốc độ học theo thời gian và tăng động lượng. Ý tưởng là để cho phép thăm dò nhiều hơn vào lúc bắt đầu của việc học tập và lực lượng hội tụ vào cuối học tập. Thông thường, bạn nên xem xét lỗi đào tạo để thiết lập lịch học của mình: nếu nó bị kẹt, tức là lỗi không thay đổi, đã đến lúc giảm tỷ lệ học của bạn.

Các vấn đề liên quan