Chức năng chuyển đến từ việc chuyển đổi tên và được sử dụng cho mục đích chuyển đổi. Mặt khác, chức năng kích hoạt kiểm tra đầu ra nếu nó đáp ứng một ngưỡng nhất định và một trong hai đầu ra bằng không hoặc một. Một số ví dụ về các hàm truyền phi tuyến là softmax và sigmoid. Ví dụ, giả sử chúng ta có tín hiệu đầu vào liên tục x (t). Tín hiệu đầu vào này được chuyển thành tín hiệu đầu ra y(t) thông qua chức năng truyền H(s).
Y(s) = H(s)X(s)
Chuyển chức năng H(s) như có thể thấy ở trên thay đổi trạng thái của đầu vào X(s) vào trạng thái đầu ra mới Y(s) thông qua chuyển đổi. Một cái nhìn gần hơn về H (s) cho thấy rằng nó có thể đại diện cho một trọng lượng trong một mạng thần kinh. Do đó, H(s)X(s) chỉ đơn giản là phép nhân của tín hiệu đầu vào và trọng số của nó. Một số các cặp trọng lượng đầu vào trong một lớp nhất định sau đó được tổng hợp để tạo thành đầu vào của một lớp khác. Điều này có nghĩa là đầu vào cho bất kỳ lớp nào vào mạng nơron đơn giản là chức năng truyền của đầu vào và trọng số, tức là chuyển đổi tuyến tính vì đầu vào giờ đây được chuyển đổi theo trọng số. Nhưng trong thế giới thực, vấn đề là phi tuyến tính trong tự nhiên. Do đó, để làm cho dữ liệu đến phi tuyến tính, chúng tôi sử dụng ánh xạ phi tuyến tính được gọi là hàm kích hoạt.Hàm kích hoạt là một hàm quyết định xác định sự hiện diện của tính năng thần kinh cụ thể. Nó được ánh xạ giữa 0 và 1, trong đó 0 có nghĩa là đối tượng địa lý không có ở đó, trong khi đó nghĩa là đối tượng địa lý có mặt. Thật không may, những thay đổi nhỏ xảy ra trong trọng số không thể được phản ánh trong giá trị kích hoạt bởi vì nó chỉ có thể lấy 0 hoặc 1. Do đó, finctions phi tuyến phải liên tục và có thể phân biệt giữa phạm vi này. Thực sự có ý nghĩa trước khi xuất kích hoạt, bạn tính toán sigmoid đầu tiên vì nó liên tục và khác biệt và sau đó sử dụng nó làm đầu vào cho một hàm kích hoạt để kiểm tra xem đầu ra của sigmoid có cao hơn kích hoạt của nó hay không. Một mạng nơ-ron phải có khả năng lấy bất kỳ đầu vào nào từ-vô cực đến + cực dương, nhưng nó có thể ánh xạ nó tới đầu ra nằm trong khoảng từ {0,1} hoặc giữa {-1,1} trong một số trường hợp - do đó cần có chức năng kích hoạt.
