Cây quyết định (ví dụ: C4.5) có được coi là học tập không theo quy ước không?

Question

Tôi tương đối mới học máy và đang cố gắng đặt cảm ứng cây quyết định vào kế hoạch lớn của sự vật. Cây quyết định (ví dụ, những cây được xây dựng với C4.5 hoặc ID3) được coi là tham số hoặc không có tham số? Tôi đoán rằng họ có thể thực sự tham số vì điểm phân chia quyết định cho giá trị thực có thể được xác định từ một số phân phối các giá trị đối tượng, ví dụ như giá trị trung bình. Tuy nhiên, họ không chia sẻ các đặc tính không phải là đối tượng của việc phải giữ tất cả các dữ liệu huấn luyện ban đầu (giống như một dữ liệu sẽ làm với kNN).

Answer 1

Thuật ngữ "tham số" tham chiếu đến các tham số xác định phân phối dữ liệu. Vì các cây quyết định như C4.5 không đưa ra giả thiết về phân phối dữ liệu, chúng không phải là nonparametric. Phân loại khả năng thích ứng tối đa Gaussian (GMLC) là tham số vì nó giả định dữ liệu theo một phân bố Gauss đa biến (các lớp được đặc trưng bởi các phương tiện và các hiệp phương sai). Liên quan đến câu cuối cùng của bạn, giữ lại dữ liệu đào tạo (ví dụ: học tập dựa trên cá thể) không phải là phổ biến đối với tất cả các trình phân loại nonparametric. Ví dụ, các mạng thần kinh nhân tạo (ANN) được coi là nonparametric nhưng chúng không giữ lại dữ liệu huấn luyện.