- 微积分、梯度和Jensen不等式
- Taylor展开及其应用
- 常见概率分布和推导
- 指数族分布
- 共轭分布
- 统计量
- 矩估计和最大似然估计
- 区间估计
- Jacobi矩阵
- 矩阵乘法
- 矩阵分解RQ和SVD
- 对称矩阵
- 凸优化
- 极限的定义:
- 导数的意义：
- 常用函数的导数：
- 方向导数与梯度：
- Jensen不等式：
- Taylor公式：
- 应用--xgboost的目标函数
- 概率公式：
- 常见的概率分布：
- 概率统计与机器学习的关系：
- 统计量--期望：
- 统计量--方差：
- 统计量--协方差：
- 偏度和峰度
- 中心极限定理
- 矩估计和区间估计和极大似然估计
- 指数族分布
- 共轭分布
- 矩阵乘法
- 矩阵分解
- 凸函数的定义：
- 凸函数举例：
本文主要参考资料为：
- 机器学习中的数学基础 提取码：1ar4
- Prof. Andrew Ng, Machine Learning, Stanford University
- 高等数学，高等教育出版社，同济大学数学教研室 主编, 1996
- Mia Hubert, Peter J. Rousseeuw, Karlien Vanden Branden, ROBPCA: a New Approach to Robust Principal Component Analysis, October 27, 2003(PCA)
- 泛化能力
- 核回归
- VC维
- SVM
- Bayes
- 机器学习
- SVD
- 广义逆矩阵
- 奇异值分解-wiki
- 凸函数
- 世界数学公式大全