diff --git a/.idea/workspace.xml b/.idea/workspace.xml index 3ffb7d5..ed7ec1f 100644 --- a/.idea/workspace.xml +++ b/.idea/workspace.xml @@ -3,7 +3,6 @@ - @@ -38,8 +37,8 @@ - - + + @@ -77,8 +76,8 @@ - - + + @@ -228,48 +227,6 @@ - + - + @@ -1411,11 +1368,11 @@ - + - - + + @@ -1433,11 +1390,11 @@ - + - + @@ -1467,8 +1424,8 @@ - - + + diff --git a/README.md b/README.md index 3a9452b..5872d52 100644 --- a/README.md +++ b/README.md @@ -242,6 +242,7 @@ - [xgboost特征重要性是如何得到的](机器学习/集成学习/Xgboost.md#L164) - [XGBoost中如何对树进行剪枝](机器学习/集成学习/Xgboost.md#L164) - [XGBoost模型如果过拟合了怎么解决](机器学习/集成学习/Xgboost.md#L164) + - [xgboost如何调参数](机器学习/集成学习/Xgboost.md#L164) - FM/FFM - SVM - [简单介绍SVM](机器学习/支持向量机/支持向量机.md#L164) diff --git "a/\346\234\272\345\231\250\345\255\246\344\271\240/\351\233\206\346\210\220\345\255\246\344\271\240/Xgboost.md" "b/\346\234\272\345\231\250\345\255\246\344\271\240/\351\233\206\346\210\220\345\255\246\344\271\240/Xgboost.md" index d1891ca..6c96357 100644 --- "a/\346\234\272\345\231\250\345\255\246\344\271\240/\351\233\206\346\210\220\345\255\246\344\271\240/Xgboost.md" +++ "b/\346\234\272\345\231\250\345\255\246\344\271\240/\351\233\206\346\210\220\345\255\246\344\271\240/Xgboost.md" @@ -76,4 +76,10 @@ MAPE:![](https://tva1.sinaimg.cn/large/006y8mN6gy1g94mx7uyuej303f0170sj.jpg) - 增大叶子结点的权重 - 增大惩罚系数 - subsample的力度变大,降低异常点的影响 -- 减小learning rate,提高estimator \ No newline at end of file +- 减小learning rate,提高estimator + +# xgboost如何调参数? +- 先确定learningrate和estimator +- 再确定每棵树的基本信息,max_depth和 min_child_weight +- 再确定全局信息:比如最小分裂增益,子采样参数,正则参数 +- 重新降低learningrate,得到最优解 \ No newline at end of file