来源
本文全部由GPT5生成
好问题!Flow-based Model(正常化流,Normalizing Flows)是生成模型家族的一种,数学基础偏 概率论 + 微分几何 + 优化。你目前有高数和线代的基础,已经具备了入门的数学底子,可以往下补。
我帮你整理一个学习路线:
🔹 Flow model 的数学核心
Flow model 本质上是:
-
从简单分布(高斯)→ 复杂分布(数据分布) 的 可逆变换。
-
数学关键点在 变换后的密度计算:
[
p_X(x) = p_Z(f(x)) \cdot \left| \det \frac{\partial f(x)}{\partial x} \right|
]
这涉及 概率论(密度变换公式)+ 雅可比行列式 + 微分映射。
所以主要数学需求是:
-
概率论(最核心)
-
随机变量、分布、密度函数、条件概率
-
联合分布、边缘分布
-
变量变换公式(Jacobian determinant 出现的地方)
-
KL 散度、最大似然估计
-
-
多元微积分 / 实变函数分析
-
多元函数的连续性、可微性
-
雅可比矩阵、行列式
-
逆函数定理、隐函数定理(保证变换可逆)
-
Lebesgue 积分在理论推导里很重要,但入门可以先用 Riemann 积分直观理解
-
-
数值优化
-
梯度下降、随机梯度下降(SGD)
-
优化目标:最大化对数似然
-
-
补充(更深入时)
-
测度论 / 实变函数:理解“密度”和“测度”的区别,对概率论的严谨化很重要。
-
微分几何:如果你想更深入理解“流”作为可逆映射,可以学习流形、坐标变换。
-
🔹 学习建议(从实用到理论)
-
概率论基础(先补这个,最重要)
推荐看:-
《概率论与数理统计》(茆诗松版,国内常用)
-
或英文的 Probability and Statistics (Morris H. DeGroot)
-
-
多元微积分 & 雅可比变换
-
熟练掌握多元积分和变量替换公式
-
逆函数定理、隐函数定理
-
这部分你高数应该已经接触过,可以回顾和强化
-
-
统计学习方法 & 信息论
-
KL 散度、交叉熵
-
最大似然、最大后验估计
-
-
如果想走到理论最前沿
-
学习实变函数(Lebesgue 积分、收敛定理)
-
测度论概率(比如 Kallenberg 的 Foundations of Probability)
-
✅ 总结:
- 第一优先级:概率论 + 多元微积分(你必须会算雅可比行列式变换)
- 第二优先级:优化 + 信息论
- 第三优先级(进阶):实变函数 / 测度论(走理论派)
🔹 入门 + 工程导向(适合快速掌握概念)
-
James Stewart – Calculus: Early Transcendentals
-
国际上用得最广的高数教材,覆盖单变量和多变量微积分。
-
讲解清晰,例题丰富,偏应用,适合快速建立直观。
-
缺点:对理论深度(严格证明)涉及较少。
-
-
Jerrold E. Marsden & Alan Weinstein – Calculus III
-
更注重多元微积分部分(向量分析、雅可比、曲面积分)。
-
对物理、工程的应用很多,直观好懂。
-
🔹 严谨 + 理论派(适合你想走到实变函数之前)
-
Michael Spivak – Calculus on Manifolds
-
小巧但非常精炼,系统介绍多元微积分的严格形式。
-
包括微分、雅可比行列式、变换公式、Stokes 定理。
-
这是很多人从“计算”跨到“理论”的桥梁书。
-
难度比 Stewart 高不少,需要耐心。
-
-
Tom M. Apostol – Calculus, Vol. II
-
非常系统、严谨,涵盖多元积分、向量分析、线性代数的结合。
-
是 “分析派” 的经典教材,和实变函数衔接比较好。
-
缺点:风格偏抽象,不太像做题书。
-
🔹 更高阶(如果以后要学测度论/流形)
-
Walter Rudin – Principles of Mathematical Analysis(俗称 Baby Rudin)
-
严格的数学分析教材,包含多元实分析的理论。
-
对 Lebesgue 积分、流形微积分的进一步学习有帮助。
-
难度较高,不建议作为第一本多元微积分书。
-
✅ 建议路线(结合你的目标 Flow Model):
-
快速入门:先用 Stewart 的 Calculus → 练熟多元积分、雅可比行列式、变量替换。
-
进阶理解:再读 Spivak 的 Calculus on Manifolds,掌握逆函数定理、隐函数定理。
-
如果想理论化:再进 Apostol / Rudin,和实变函数、测度论衔接。
要不要我帮你整理一个 “Flow Model 数学准备书单”(概率论 + 多元微积分 + 优化 + 实变函数),按循序渐进顺序排列?这样你能对整个路线一目了然。