Skip to content

Commit

Permalink
随机森林篇幅
Browse files Browse the repository at this point in the history
  • Loading branch information
shataowei committed Nov 18, 2019
1 parent 07690a1 commit 723b386
Show file tree
Hide file tree
Showing 4 changed files with 91 additions and 18 deletions.
80 changes: 64 additions & 16 deletions .idea/workspace.xml

Some generated files are not rendered by default. Learn more about how customized files appear on GitHub.

8 changes: 8 additions & 0 deletions README.md
Original file line number Diff line number Diff line change
Expand Up @@ -187,6 +187,14 @@
- [树形结构为何不需要归一化](机器学习/决策树/决策树.md#L164)
- [决策树的优缺点](机器学习/决策树/决策树.md#L164)
- 贝叶斯
- [解释一下朴素贝叶斯中考虑到的条件独立假设](机器学习/贝叶斯/贝叶斯.md#L164)
- [讲一讲你眼中的贝叶斯公式和朴素贝叶斯分类差别](机器学习/贝叶斯/贝叶斯.md#L164)
- [朴素贝叶斯中出现的常见模型有哪些](机器学习/贝叶斯/贝叶斯.md#L164)
- [出现估计概率值为 0 怎么处理](机器学习/贝叶斯/贝叶斯.md#L164)
- [朴素贝叶斯的优缺点](机器学习/贝叶斯/贝叶斯.md#L164)
- [朴素贝叶斯与 LR 区别](机器学习/贝叶斯/贝叶斯.md#L164)
- 随机森林
- [解释下随机森林](机器学习/随机森林/随机森林.md#L164)
- GBDT
- FM/FFM
- SVM
Expand Down
4 changes: 2 additions & 2 deletions 机器学习/贝叶斯/贝叶斯.md
Original file line number Diff line number Diff line change
@@ -1,12 +1,12 @@
# 解释一下朴素贝叶斯中考虑到的条件独立假设
![](https://tva1.sinaimg.cn/large/006y8mN6gy1g92b15s6daj308x00rq2s.jpg)

# 讲一讲你眼中的贝叶斯公式和朴素贝叶斯分类
# 讲一讲你眼中的贝叶斯公式和朴素贝叶斯分类差别
贝叶斯公式是完整的数学公式P(A/B) = P(A)P(B/A)/P(B)

朴素贝叶斯 = 贝叶斯公式 + 条件独立假设,在实际使用过程中,朴素贝叶斯完全只需要关注P(A,B)=P(A)P(B/A)即可

# 朴素贝叶斯中出现的常见模型
# 朴素贝叶斯中出现的常见模型有哪些
- 多项式:多项式模型适用于离散特征情况,在文本领域应用广泛, 其基本思想是:我们将重复的词语视为其出现多次
- 因为统计次数,所以会出现0次可能,所以实际中进行了平滑操作
- 先验平滑:![](https://tva1.sinaimg.cn/large/006y8mN6gy1g92bmactdlj303o0133yb.jpg)
Expand Down
17 changes: 17 additions & 0 deletions 机器学习/随机森林/随机森林.md
Original file line number Diff line number Diff line change
@@ -0,0 +1,17 @@
# 解释下随机森林?
- 随机森林=bagging+决策树
- 随机:特征选择随机+数据采样随机
- 特征随机是在决策树每个结点上选择的时候随机,并不是在每棵树创建的时候随机
- 每个结点上对特征选择都是从全量特征中进行采样对,不会剔除已利用对
- 数据采样,是有放回的采样
- 1个样本**未被选到**的概率为p = (1 - 1/N)^N = 1/e,即为OOB
- 森林:多决策树组合
- 可分类可回归,回归是对输出值进行简单平均,分类是对输出值进行简单投票

# 解释下随机森林节点的分裂策略?

# 随机森林的损失函数是什么?

# 为了防止随机森林过拟合可以怎么做?

# 是否用过随机森林,怎么用的?

0 comments on commit 723b386

Please sign in to comment.