邹老师,XGBoost是否可以适用于变量值远远大于样本值的情况?XGBoost中的正则项与弹性网中的正则项意义作用类似吗?

邹博 - 计算机科学博士,深谙机器学习算法原理

赞同来自: fish

在《机器学习升级版II》的“提升”章节,我们详细给出了GBDT和XGBoost的理论推导和XGBoost的实践调用。可以看到,XGBoost可以使用比较少的轮次和高度较低的树,获得训练集和测试集上出色的结果。 从XGBoost官网的参数说明可以看成,它提供了L1和L2正则,且默认情况是L2正则(如果alpha和lamda同时不为0,则为Elastic Net)。
1480560999936.png
   

要回复问题请先登录注册