机器学习课程-温州大学-02-数学基础回顾-2.CS229-Prob

## CS229机器学习课程概率论复习材料总结 ### 1. 概率的基本要素 概率论研究不确定性，涉及样本空间、事件集和概率分布。条件概率和独立性是基础概念，其中独立性指事件或变量之间的无关性。 ### 2. 随机变量 随机变量分离散和连续两类，离散变量有概率质量函数，连续变量有概率密度函数。常见分布包括均匀、指数和正态分布。期望（均值）和方差衡量变量的中心趋势和离散程度。 ### 3. 两个随机变量 联合分布和边缘分布描述多变量关系，条件概率和贝叶斯定理用于事件间依赖性分析。独立变量在机器学习中常用，尤其是训练数据中的独立假设。 ### 4. 多个随机变量 通过随机向量处理多变量，多元高斯分布尤为重要。其特性使其在建模噪声和简化积分计算中广泛应用，协方差矩阵描述变量间关系，对称且半正定。 ### 5. 其他资源 推荐书籍：《概率第一课》，作为补充阅读，提供更深入的概率基础。 ### 应用与重点 多元高斯分布在机器学习中关键，用于数据建模和噪声处理。协方差矩阵和贝叶斯定理在算法推导中必不可少。独立性假设影响训练集有效性，需注意样本独立性的实际保证。