《机器学习》数学基础：面向后端工程师的重建路线

适用读者：离开校园多年、能写代码、正在阅读周志华《机器学习》（俗称“西瓜书”），但概率论、线性代数、微积分和统计学基础已经生疏的工程师。

这不是大学数学课程的压缩抄本，而是一套“为了读懂机器学习而重建”的数学预备教材。它的目标不是让你重新参加数学专业考试，而是让你能够：

1. 看懂《机器学习》中的符号、公式和推导；
2. 知道一个公式在描述什么对象、为什么成立、什么时候能用；
3. 能把公式翻译成代码，并识别常见的数值与统计陷阱；
4. 为继续学习深度学习、概率图模型、强化学习和统计学习理论打下可迁移的基础。

怎样使用本书

每个知识点都是一个独立的 Markdown 章节。章节一般包含：

• 本章要解决的问题；
• 直觉与严格定义；
• 符号、公式和逐步例题；
• 与机器学习的直接联系；
• 工程实现提示与易错点；
• 网上常见问答；
• 分层练习以及简要答案或提示。

推荐先读总目录与学习路线，再做入门诊断与补课策略。需要逐文件浏览时，可使用全书章节索引。章节标签的含义如下：

• A｜必学：读西瓜书主干章节前必须掌握；
• B｜按需：读到相应章节时再学；
• C｜深入：不妨碍第一次通读，但决定能否真正理解推导与扩展资料。

给工程师的最短主线

如果只想尽快恢复阅读能力，先走下面这条主线：

1. 数学符号、函数、求和、指数与对数；
2. 向量、矩阵、矩阵乘法、内积、范数；
3. 导数、偏导数、梯度、链式法则、泰勒展开；
4. 概率、条件概率、贝叶斯公式、随机变量、期望、方差；
5. 常见分布，尤其是伯努利分布、类别分布和高斯分布；
6. 极大似然估计、经验风险、偏差—方差；
7. 梯度下降、凸性、正则化；
8. 特征值、投影、SVD；
9. 熵、交叉熵、KL 散度、互信息；
10. 拉格朗日乘子、KKT 条件与对偶。

这条主线适合先读线性模型、决策树、神经网络、贝叶斯分类器和聚类。SVM、降维、概率图模型及学习理论需要再补对应的 B/C 章节。

公式显示说明

本书已经统一使用兼容 MathJax/KaTeX 的反斜杠括号公式格式：短公式嵌入正文，较长公式单独居中显示。正文不再使用美元符号作为公式边界。

请用 Markdown 的“预览”或“阅读”模式打开文件。若仍看到 \\boldsymbol、\\frac 一类源码，说明当前编辑器只在显示纯文本，并未启用数学公式渲染；切换到支持数学公式的 Markdown 预览即可。

约定

• 默认标量用小写斜体，如 $x$；向量用粗体小写，如 $\boldsymbol{x}$；矩阵用粗体大写，如 $\boldsymbol{X}$。
• 除非特别说明，向量都写成列向量。
• “样本”可能指一个观测，也可能指由若干观测组成的数据集；章节会根据上下文明确区分。
• 本书强调理解。公式推导会保留关键步骤，但不会为了形式完整而堆叠与机器学习无关的技巧。

目录状态

书稿按 9 卷组织，包含 120 个独立知识点章节。所有正式章节均已完成结构校验：每章都有层级与先修建议、概念讲解、公式或例子、机器学习联系、易错点、常见问答、练习以及答案与提示。总目录是学习地图，全书章节索引是可点击的逐文件清单。