Thư viện cho cây tăng cường độ dốc

Question

Bạn có biết thư viện tốt về việc tăng cường học máy bằng cây cỏ không?

tốt:

• với các thuật toán tốt như AdaBoost, TreeBoost, AnyBoost, LogitBoost, vv
• với phân loại yếu cấu hình
• khả năng của cả hai phân loại và dự đoán (hồi quy)
• với tất cả các loại tín hiệu được phép: số, danh mục hoặc văn bản miễn phí
• C/C++ hoặc Python
• mở ra ource

Cho đến nay tôi đã tìm thấy http://www.multiboost.org/home có vẻ tốt. Nhưng tôi tự hỏi nếu có các thư viện khác?

Answer 1

Cá nhân tôi thích chạy weka (là java) bằng cách sử dụng mô-đun quy trình con trăn. Tuy nhiên, đồng nghiệp của tôi thường xuyên sử dụng:

• orange - được đề xuất cho tôi là bộ công cụ học máy tốt nhất cho Python.
• opencv - là C++, nhưng có các ràng buộc python. Thư viện này ban đầu được phát triển cho Computer Vision nhưng có nhiều thuật toán ML được triển khai (bao gồm boosting).

Answer 2

Những điều này không nhất thiết phải đáp ứng tất cả sở thích của bạn, nhưng cũng có:

• Treenet một thương mại và mở rộng thực hiện ban đầu Jerome Friedman. Không phải nguồn mở nhưng chúng tôi đã tìm thấy nó hoạt động khá tốt
• R gbm package cho các cây được tô đậm đặc biệt.

Answer 3

Nếu bạn đang tìm kiếm một phiên bản python, phiên bản mới nhất của scikit-learn có các cây hồi quy được tăng cường để phân loại và hồi quy (docs).

Nó tương tự như gói GBM R - GBM là nhanh hơn cho (bình phương nhỏ nhất) wheres hồi quy scikit-học của thực hiện là nhanh hơn ở bài kiểm tra thời gian và khi số điện thoại của các tính năng> 1000.

Answer 4

Tôi muốn giới thiệu xgboost (mà không tồn tại vào thời điểm câu hỏi được hỏi), là một gói mã nguồn mở R/python.

Hiện tại, nó là một trong những phương pháp tăng cường độ dốc nhanh nhất của cây, cho phép hồi quy/phân loại, hỗ trợ ma trận thưa thớt ...