Làm thế nào để sử dụng thuật toán XGBoost cho hồi quy trong R?

Question

Tôi đã thử kỹ thuật XGBoost để dự đoán. Khi biến phụ thuộc của tôi là liên tục, tôi đã làm hồi quy bằng cách sử dụng XGBoost, nhưng hầu hết các tài liệu tham khảo có sẵn trong cổng thông tin khác nhau là để phân loại. Mặc dù tôi biết bằng cách sử dụng

objective = "reg:linear" 

chúng tôi có thể thực hiện hồi quy nhưng tôi vẫn cần một số rõ ràng cho các thông số khác. Nó sẽ là một trợ giúp tuyệt vời nếu ai đó có thể cung cấp cho tôi một đoạn R của nó.

Answer 1

xgboost(data = X, 
     booster = "gbtree", 
     objective = "binary:logistic", 
     max.depth = 5, 
     eta = 0.5, 
     nthread = 2, 
     nround = 2, 
     min_child_weight = 1, 
     subsample = 0.5, 
     colsample_bytree = 1, 
     num_parallel_tree = 1) 

Đây là tất cả các thông số bạn có thể chơi cùng với khi sử dụng bộ tăng tốc cây. Đối với tăng cường tuyến tính, bạn có thể sử dụng các thông số sau để chơi với ...

xgboost(data = X, 
     booster = "gblinear", 
     objective = "binary:logistic", 
     max.depth = 5, 
     nround = 2, 
     lambda = 0, 
     lambda_bias = 0, 
     alpha = 0) 

Bạn có thể tham khảo các mô tả về xg.train() trong xgboost tài liệu cran cho ý nghĩa chi tiết về các thông số này.

Answer 2

Mô tả tốt nhất của các thông số mà tôi đã tìm thấy là tại

https://github.com/dmlc/xgboost/blob/master/doc/parameter.md

Có rất nhiều ví dụ của việc sử dụng XGBoost trong R có sẵn trong kho script Kaggle. Ví dụ:

https://www.kaggle.com/michaelpawlus/springleaf-marketing-response/xgboost-example-0-76178/code