学习理论 有限假设空间ERM边界 无限假设空间ERM边界 VC 维 学习问题的复杂性取决于： 假设空间的大小或者表达性 目标概念必须近似的准确性 学习期一定产生成功假设的可能性 训练样本的方式，例如随机训练或者向oracle查询 模型 模型选择 当统计模型或机器学习算法无法捕捉数据的底层变化趋势时，就会出现欠拟合 当统计模型把随机误差和噪声也考虑进去，而不仅仅是考虑数据的基础关联时，就会出现过拟合 正则化 添加参数的惩罚项，防止模型对数据过拟合