pythonxgboost输出变量重要性_XGBoost特征重要性以及CV

更新时间:2023-05-15 08:09:12 阅读: 评论:0

pythonxgboost输出变量重要性_XGBoost特征重要性以及CV 1 feature importance
gradient boosting 有⼀个优点是可以给出训练好的模型的特征重要性,这样就可以知道哪些变量需要被保留,哪些可以舍弃。
⾸先要进⼊两个类:
from xgboost import plot_importance
from matplotlib import pyplot
脚掌疼是怎么回事然后在model fit后⾯添加打印或绘制特征重要性:
model.fit(X, y)
plot_importance(model)
pyplot.show()鱼丸汤的家常做法
2 参数优化
XGBoost中提供GridSearchCV⽅法来对⼀些重要的超参进⾏调整,例如:
创建文明校园
learning_rate
tree_depth
subsample
n_estimators
给女朋友的保证书
max_depth
圣诞节礼品当然,⼤多时候学习率的⼤⼩⼀定程度上很影响模型的稳定性,学习率较⼩容易过拟合,学习率较⼤⼜容易⽋拟合,所以很多时候都会先考虑对学习率进⾏调整。
一以贯之的近义词
引⼊如下两个类:
del_lection import GridSearchCV
del_lection import StratifiedKFold
将要尝试的学习率的值放在⼀个list中即可:
learning_rate = [0.005, 0.001, 0.01, 0.1, 0.2, 0.3]
孩子腿疼是什么原因
model = XGBClassifier()
learning_rate = [0.005, 0.001, 0.01, 0.1, 0.2, 0.3]
param_grid = dict(learning_rate=learning_rate)
kfold = StratifiedKFold(n_splits=10, shuffle=True, random_state=7)
黑板报花纹
grid_arch = GridSearchCV(model, param_grid, scoring="neg_log_loss", n_jobs=-1, cv=kfold)
grid_result = grid_arch.fit(X, Y)

本文发布于:2023-05-15 08:09:12,感谢您对本站的认可!

本文链接:https://www.wtabcd.cn/fanwen/fan/89/898806.html

版权声明:本站内容均来自互联网,仅供演示用,请勿用于商业和其他非法用途。如果侵犯了您的权益请与我们联系,我们将在24小时内删除。

标签:学习   重要性   模型   特征   变量   调整
相关文章
留言与评论(共有 0 条评论)
   
验证码:
推荐文章
排行榜
Copyright ©2019-2022 Comsenz Inc.Powered by © 专利检索| 网站地图