微积分
微积分的目标是理解“变化”和“累积”。它从极限出发，建立导数、积分、多元函数和向量场等工具。
学习目标
- 建立极限和连续的直觉。
- 理解导数作为局部线性近似。
- 理解积分作为累积、面积和测度。
- 掌握多元函数、梯度、雅可比矩阵和 Hessian。
- 理解向量微积分中的散度、旋度和通量。
- 能把微积分和机器学习优化、数值计算联系起来。
单变量微积分
单变量微积分主要处理一元函数的极限、连续、导数和积分。它强调函数在局部和全局上的变化规律。
多变量微积分
多变量微积分处理多个输入变量共同影响输出的情形，是理解梯度下降、约束优化和高维几何的基础。
极限
极限描述变量趋近某个位置时函数值的趋势。它是连续、导数和积分定义的基础。
导数
导数刻画局部变化率，也可以理解为函数在某一点附近的最佳线性近似。
积分
积分刻画累积量，可以从面积、反导数、求和极限和测度等角度理解。
多元函数
多元函数引入偏导、方向导数、梯度、Jacobian 和 Hessian，是机器学习和数值优化中的常用语言。
向量微积分
向量微积分研究向量场、线积分、面积分、散度、旋度，以及 Green、Gauss、Stokes 定理之间的联系。
与机器学习 / 优化 / 数值计算的联系
- 梯度下降依赖导数和局部线性近似。
- 损失函数的稳定性与连续性、光滑性有关。
- 数值积分和差分方法依赖极限思想。
- 高维优化依赖多变量微积分和矩阵微分。