pythonxgboost输出变量重要性_XGBoost特征重要性以及CV

更新时间:2023-05-20 09:16:57 阅读: 评论:0

化妆品相关知识pythonxgboost输出变量重要性_XGBoost特征重要性以及CV 1 feature importance
gradient boosting 有⼀个优点是可以给出训练好的模型的特征重要性,这样就可以知道哪些变量需要被保留,哪些可以舍弃。
⾸先要进⼊两个类:
from xgboost import plot_importance
from matplotlib import pyplot
然后在model fit后⾯添加打印或绘制特征重要性:
why me歌词model.fit(X, y)
plot_importance(model)
pyplot.show()
2 参数优化
练习的英文
XGBoost中提供GridSearchCV⽅法来对⼀些重要的超参进⾏调整,例如:
bustle
learning_rate
tree_depth
subsample
n_estimators财务会计报表
石家庄翻译max_depth泰国达人秀
当然,⼤多时候学习率的⼤⼩⼀定程度上很影响模型的稳定性,学习率较⼩容易过拟合,学习率较⼤⼜容易⽋拟合,所以很多时候都会先考虑对学习率进⾏调整。
四级考试作文
引⼊如下两个类:
del_lection import GridSearchCV
del_lection import StratifiedKFold
将要尝试的学习率的值放在⼀个list中即可:
learning_rate = [0.005, 0.001, 0.01, 0.1, 0.2, 0.3]
model = XGBClassifier()
learning_rate = [0.005, 0.001, 0.01, 0.1, 0.2, 0.3]口语话题
param_grid = dict(learning_rate=learning_rate)
kfold = StratifiedKFold(n_splits=10, shuffle=True, random_state=7)
grid_arch = GridSearchCV(model, param_grid, scoring="neg_log_loss", n_jobs=-1, cv=kfold)
metal dome
grid_result = grid_arch.fit(X, Y)

本文发布于:2023-05-20 09:16:57,感谢您对本站的认可!

本文链接:https://www.wtabcd.cn/fanwen/fan/90/115621.html

版权声明:本站内容均来自互联网,仅供演示用,请勿用于商业和其他非法用途。如果侵犯了您的权益请与我们联系,我们将在24小时内删除。

标签:学习   重要性   模型
相关文章
留言与评论(共有 0 条评论)
   
验证码:
Copyright ©2019-2022 Comsenz Inc.Powered by © 专利检索| 网站地图