本站消息

站长简介/公众号


站长简介:逗比程序员,理工宅男,前每日优鲜python全栈开发工程师,利用周末时间开发出本站,欢迎关注我的微信公众号:程序员总部,程序员的家,探索程序员的人生之路!分享IT最新技术,关注行业最新动向,让你永不落伍。了解同行们的工资,生活工作中的酸甜苦辣,谋求程序员的最终出路!

  价值13000svip视频教程,python大神匠心打造,零基础python开发工程师视频教程全套,基础+进阶+项目实战,包含课件和源码

  出租广告位,需要合作请联系站长

+关注
已关注

分类  

暂无分类

标签  

暂无标签

日期归档  

2020-10(11)

2020-11(21)

集成学习-回归问题-sklearn树模型参数学习

发布于2021-09-22 22:19     阅读(742)     评论(0)     点赞(11)     收藏(1)



sklearn.tree包括决策分类树和决策回归树,决策回归树涉及参数:klearn.tree.DecisionTreeRegressor(, criterion=‘mse’, splitter=‘best’, max_depth=None, min_samples_split=2, min_samples_leaf=1, min_weight_fraction_leaf=0.0, max_features=None, random_state=None, max_leaf_nodes=None, min_impurity_decrease=0.0, min_impurity_split=None, ccp_alpha=0.0),
criterion:用于特征选择,可以取{“mse”, “friedman_mse”, “mae”, “poisson”}, 默认为MSE使用均方误差来最小化损失;
splitter:控制随机分支策略,可取{“best”, “random”}, 默认best在随机分支中优先选择最重要的特征进行分支;
max_depth控制树的深度;
min_samples_split:限制分支所包含的最小训练样本数;
min_samples_leaf:限制分支后子节点必须包含最小训练样本。一般搭配max_depth使用,可以使模型更加平滑;
min_weight_fraction_leaf:限制叶子节点样本权重和的最小值,小于该值就会和兄弟节点一起被剪掉;
max_features:限制分支时考虑特征数,用于高纬度数据的预防过拟合的剪枝策略;
random_state:用于控制树的随机性,为int则为random_state的随机数生成器种子,为RandomState则为随机数生成器,为None则为随机数生成器使用np.random的RandomState实例;
max_leaf_nodes:用于基于权重的剪枝控制参数;
min_impurity_decrease:从信息增益角度限制分支,信息增益低于该值就不进行分支;
min_impurity_split:与min_impurity_decrease一样,不同版本可能用不同的参数基于信息增益控制分支;
ccp_alpha:控制树的复杂度;
决策分类树涉及参数与决策回归树参数存在很多重合,
class sklearn.tree.DecisionTreeClassifier(
, criterion=‘gini’, splitter=‘best’, max_depth=None, min_samples_split=2, min_samples_leaf=1, min_weight_fraction_leaf=0.0, max_features=None, random_state=None, max_leaf_nodes=None, min_impurity_decrease=0.0, min_impurity_split=None, class_weight=None, ccp_alpha=0.0)
不同的地方在于参数criterion的取值不同,决策分类树中该参数取值{‘gini‘,’entropy‘},默认使用gini基尼不纯度进行特征选择。

原文链接:https://blog.csdn.net/m0_62092725/article/details/120384919







所属网站分类: 技术文章 > 博客

作者:dkjf787

链接:https://www.pythonheidong.com/blog/article/1045609/e68464b57b3068c9160a/

来源:python黑洞网

任何形式的转载都请注明出处,如有侵权 一经发现 必将追究其法律责任

11 0
收藏该文
已收藏

评论内容:(最多支持255个字符)