KNOWLEDGE NOTE / AI · 基础原理

机器学习与深度学习基础

从数据集、特征、损失与梯度开始,讲清训练流程、神经网络、泛化和评估指标,为理解大模型打基础。

创建
2026年9月24日
更新
2026年10月15日

机器学习与深度学习基础

[!abstract] 学习目标 学完后应能说明模型从样本中如何学习参数,能读懂训练/验证曲线,能根据任务选择评价指标,并能解释深度学习中的前向传播与反向传播。这里的公式都从最小例子出发,不要求先掌握高等数学。

1. 机器学习要解决什么问题

传统程序通常由人写出明确规则:输入数据,按规则计算,再得到结果。机器学习则让程序从带有答案或反馈的数据中调整参数,使模型在新数据上也能完成任务。

把一个样本记为 $x$,希望得到的答案记为 $y$,模型记为 $f_\theta$,其中 $\theta$ 表示模型可以学习的参数:

$$ \hat y = f_\theta(x) $$

x 是输入,y 是目标答案,ŷ 是模型预测,θ 可以包含权重和偏置。训练就是寻找一组参数,使模型预测与已知目标之间的差异变小,同时不要只记住训练样本。

1.1 任务类型

任务输入与目标例子常见学习方式
回归输入特征 → 连续数值根据房屋面积估算价格监督学习
二分类输入特征 → 两个类别之一判断邮件是否为垃圾邮件监督学习
多分类输入特征 → 多个类别之一将图片分为猫、狗、鸟监督学习
聚类输入样本 → 相似样本分组,没有逐个标签按购买行为分群无监督学习
降维/表示学习输入 → 更紧凑或更有用的表示把文本编码成向量无监督、自监督或监督学习
生成条件或历史信息 → 新内容根据前文预测下一个 Token自监督学习为主
强化学习状态与动作 → 环境反馈/奖励在模拟环境中学习策略强化学习

“深度学习”是机器学习的一类方法,重点是使用多层神经网络学习表示;它不是一种独立于机器学习的评价指标或任务类型。

2. 必要的数学直觉

2.1 向量、矩阵与形状

向量可以看作一组有顺序的数字,例如一个样本的三个特征:

$$ x = [\text{面积},\ \text{卧室数},\ \text{距地铁距离}] $$

矩阵可以看作多行向量组成的表。若一批数据有 $B$ 个样本、每个样本有 $F$ 个特征,其形状常写作 [B, F]。形状不匹配是训练模型时很常见的错误;读张量(tensor,多维数组)时要同时确认“每一维代表什么”。

向量点积把相同位置的数相乘后求和。模型用它把特征与权重组合起来:

$$ w^T x = w_1x_1 + w_2x_2 + \cdots + w_Fx_F $$

2.2 导数与梯度

导数描述“输入稍微变化,输出大约改变多少”。梯度是多参数函数对每个参数的偏导数组成的向量,指向函数增长最快的方向。训练希望损失变小,因此沿梯度的反方向更新参数。

如果损失是 $L(w)$,最简单的梯度下降更新为:

$$ w_{t+1} = w_t - \eta \frac{\partial L}{\partial w} $$

η 是学习率,决定每一步走多远;下标 t 表示更新前后的训练步。学习率过大会在最优点附近来回跳甚至发散,过小则进展慢,也可能在有限训练时间内学不够。

2.3 概率、Logit 和 Softmax

分类模型常先输出未归一化分数 logits,再通过 Sigmoid 或 Softmax 转为概率。Logit 不是概率,可以为任意实数;Softmax 使一组类别分数变成总和为 1 的概率分布:

$$ p_i = \frac{e^{z_i}}{\sum_j e^{z_j}} $$

z_i 是第 i 类的 Logit,p_i 是对应预测概率,分母对所有类别求和。实际实现通常使用数值稳定版本,避免指数运算溢出。

3. 数据、特征和标签

  • 样本(sample):一条训练记录,例如一封邮件或一张图片。
  • 特征(feature):模型读取的输入信息,例如邮件长度、词频或图像像素。
  • 标签(label):监督学习中希望模型预测的目标答案,例如“垃圾邮件/正常邮件”。
  • 参数(parameter):训练算法从数据中学习的数值,例如网络权重。
  • 超参数(hyperparameter):训练前由人设定或搜索的选项,例如学习率、批大小和训练轮数。

需要区分“模型参数”和“模型超参数”:权重由训练更新;学习率通常由训练配置设定,不会像普通权重那样直接从每条样本的目标值中学习。

3.1 三份数据集的职责

数据集用来做什么是否参与权重更新
训练集(train)计算损失,并据此更新参数是
验证集(validation/dev)选择超参数、比较模型、决定何时停止通常否
测试集(test)最后估计模型面对未见数据时的效果否,最终评估前不反复据此调参

如果反复根据测试集表现调整模型,测试集就逐渐变成了“被间接使用的验证集”,最终分数会过于乐观。小数据集可用交叉验证估计稳定性,但仍需要保留独立的最终评估方案。

3.2 数据泄漏

数据泄漏是指训练过程获得了现实预测时不应该知道的信息,导致验证/测试指标虚高。常见情况:

  1. 先在全部数据上计算均值和标准差,再切分训练/验证/测试集;正确做法是只用训练集拟合预处理参数,再原样应用到验证/测试集。
  2. 用未来才知道的字段预测过去结果,例如把“退款完成时间”当作下单时预测是否退款的输入。
  3. 同一个患者、用户、设备或文章的近重复记录同时出现在训练集和测试集,模型可能记住实体特征。
  4. 依据测试集错误案例反复改特征、Prompt 或模型,等于把测试反馈用于开发决策。

数据切分方式要匹配现实部署:时间序列按时间先后切分;同一用户的记录应尽量放在同一集合;分类任务在类别不均衡时通常需要分层抽样。

4. 损失函数:把“错多少”变成可优化的数值

损失函数(loss function)将预测与目标之间的差异转成一个数。训练算法通过降低损失来寻找参数。指标(metric)则从业务角度评价效果。损失用于可微优化,指标用于理解模型表现;两者可以相关,但不必相同。

4.1 回归:均方误差

对 n 条样本,真实值为 $y_i$、预测值为 $\hat y_i$:

$$ \mathrm{MSE} = \frac{1}{n}\sum_{i=1}^{n}(\hat y_i-y_i)^2 $$

平方会让较大的误差受到更重惩罚。例如误差为 2 时平方误差是 4,误差为 10 时平方误差是 100。MSE 对异常值敏感,单位也变成原目标单位的平方;RMSE(均方根误差)开平方后回到原单位。

4.2 二分类:二元交叉熵

二元分类真实标签 $y$ 取 0 或 1,模型预测正类概率 $p$:

$$ L = -[y\log(p) + (1-y)\log(1-p)] $$

若真实类别是 1,却给出很小的正类概率,损失会很大;若给真实类别较高概率,损失会较小。这种损失不仅看最终是否猜对,也惩罚“自信地猜错”。

4.3 多分类:交叉熵

若目标类别是 k,预测给类别 k 的概率是 $p_k$,单条样本交叉熵为 $-\log(p_k)$。批次损失通常对样本求平均。对语言模型而言,常见训练目标是让正确下一个 Token 的概率更高;多分类词表可以很大,但损失思想相同。

5. 从线性回归看一次训练

线性模型用权重 w 和偏置 b 对特征加权求和:

$$ \hat y = wx + b $$

考虑只包含一个样本的玩具例子:输入 x=2,目标 y=5,当前参数 w=1, b=0。预测是 ŷ=2,误差 ŷ-y=-3。若使用平方误差 $L=(\hat y-y)^2$:

$$ \frac{\partial L}{\partial w}=2(\hat y-y)x=-12, \qquad \frac{\partial L}{\partial b}=2(\hat y-y)=-6 $$

当学习率 $\eta=0.1$ 时,更新得到 w=2.2、b=0.6,新预测为 2.2×2+0.6=5。真实训练不会用一个样本一次就恰好找到正确规律;这是为了展示“预测→算损失→算梯度→改参数”的循环。

6. 梯度下降与反向传播

6.1 训练循环

  1. 从训练集取一个批次(batch)。
  2. 前向传播(forward pass):用当前参数计算预测。
  3. 比较预测与标签,计算损失。
  4. 反向传播(backpropagation):使用链式法则计算损失对各参数的梯度。
  5. 优化器根据梯度更新参数。
  6. 重复直到达到训练停止条件,并周期性查看验证集。

反向传播是高效计算梯度的算法,不是另一种损失函数,也不是模型“反向生成答案”。它从输出端的损失开始,按计算图的依赖关系把梯度传回较早层。

6.2 优化器直觉

  • 批量梯度下降:每次使用全量训练样本计算梯度,方向较稳定,但大数据上计算昂贵。
  • 随机/小批量梯度下降:每次取一个样本或一小批样本估计梯度,计算更灵活,但更新噪声更大。
  • Momentum(动量):累计一部分历史更新方向,让优化在一致方向上更快前进,并减轻部分来回震荡。
  • Adam:根据梯度的一阶和二阶历史统计调整每个参数的步长,常作为深度学习的起点,但不保证对所有任务都最好。

学习率、优化器和批大小互相影响。比较实验时应固定其他条件并记录随机种子、数据版本与配置,否则难以判断指标变化来自哪个因素。

7. 神经网络怎样表示复杂关系

一个全连接层可写成:

$$ h = \sigma(Wx+b) $$

x 是输入向量,W 是权重矩阵,b 是偏置,σ 是非线性激活函数,h 是这一层输出的隐藏表示。若只堆叠线性变换而没有非线性激活,多个线性层仍可合并为一个线性变换,无法表达更复杂的非线性关系。

常见激活函数:

  • ReLU:$\max(0,x)$,计算简单,正区间梯度为 1;负区间输出为 0,神经元可能长期不更新。
  • Sigmoid:输出在 0 到 1 之间,可用于二分类概率,但输入很大或很小时梯度接近 0。
  • Tanh:输出在 -1 到 1 之间,也可能在饱和区出现梯度很小。

7.1 反向传播与链式法则

若 x 先经过 u=g(x),再经过 L=f(u),则:

$$ \frac{\partial L}{\partial x} = \frac{\partial L}{\partial u}\frac{\partial u}{\partial x} $$

神经网络有许多层时,反复应用链式法则计算每层参数的梯度。若很多层的导数连续很小,梯度可能逐层衰减,这叫梯度消失;若导数连续很大,梯度可能迅速增大,出现梯度爆炸。合适的初始化、激活函数、归一化、残差连接和梯度裁剪都能在特定条件下缓解这些训练困难。

深度学习模型之所以称为“深”,是因为它有多层参数化变换;层数本身不自动带来好效果,数据、目标、优化和泛化都需要一起设计。

8. 过拟合、欠拟合与泛化

  • 欠拟合:模型连训练数据中的主要规律都没学到;训练集和验证集表现都差。
  • 过拟合:训练集表现很好,验证/测试集明显较差;模型记住了训练细节或噪声,没有学到可迁移规律。
  • 泛化:模型对训练中未见过、但符合目标分布的数据仍能取得效果。

典型诊断:

训练表现验证表现可能原因可试方向
差差欠拟合、数据/标签问题、优化未收敛检查标签与数据;改善模型容量/训练;核对学习率
好差过拟合、分布不一致、数据泄漏导致错误判断增加高质量数据、正则化、简化模型;核对切分和部署分布
好好在当前验证分布上结果较稳用独立测试集和线上数据继续确认

验证指标变好不一定代表模型在真实场景也变好;需要检查验证集是否具有代表性、是否与训练集重复,以及线上数据分布是否改变。

8.1 常见正则化方法

  • L2 正则化 / Weight Decay:对较大的权重施加惩罚,减少模型过分依赖少数参数。不同优化器对“权重衰减”的实现定义可能不同。
  • L1 正则化:使用权重绝对值惩罚,可能使部分权重趋向零,得到稀疏表示。
  • Dropout:训练期间随机暂时屏蔽部分激活,减少神经元之间对固定组合的依赖;推理阶段通常关闭 Dropout。
  • Early Stopping(提前停止):当验证表现不再改善时停止训练,避免继续贴合训练集噪声。
  • 数据增强:在不改变任务标签含义的前提下生成合理变体,例如图像裁剪或文本轻微变换;增强不合理会改变标签或制造偏差。

正则化不是越强越好。过强会让模型学不动,形成欠拟合。应通过验证集和任务评测选择,而不是只凭训练损失判断。

9. 评价指标:先问“业务上哪种错更贵”

9.1 回归指标

  • MAE(平均绝对误差):$\frac{1}{n}\sum_i |\hat y_i-y_i|$。结果与目标同单位,相对不容易被少数极大误差主导。
  • MSE(均方误差):平方误差的平均值,对大误差惩罚更重,单位为目标单位的平方。
  • RMSE(均方根误差):$\sqrt{\mathrm{MSE}}$,回到目标单位,仍比较重视大误差。
  • $R^2$(决定系数):比较模型误差与直接用目标均值预测的基线误差。它不是“准确率”;在某些测试集上可为负数。

9.2 分类指标

以正类为关注对象:

实际/预测预测为正预测为负
实际为正TP:真正例FN:假负例
实际为负FP:假正例TN:真负例

$$ \mathrm{Precision} = \frac{TP}{TP+FP}, \quad \mathrm{Recall} = \frac{TP}{TP+FN} $$

精确率回答“判为正的里面有多少是真的”;召回率回答“真实正例中找回多少”。F1 是两者的调和平均:

$$ F1 = 2 \cdot \frac{\mathrm{Precision}\cdot\mathrm{Recall}}{\mathrm{Precision}+\mathrm{Recall}} $$

准确率(accuracy)是 (TP+TN)/总数。类别严重不平衡时,准确率可能误导:若 1,000 封邮件只有 10 封垃圾邮件,模型全部预测为“正常”,准确率仍为 99%,但垃圾邮件召回率为 0。

  • 误报代价高时优先关注精确率,例如误封正常账号会带来很高申诉成本。
  • 漏报代价高时优先关注召回率,例如筛查阶段不能轻易放过高风险样本。
  • ROC-AUC概括不同阈值下的排序区分能力;正类极少时,ROC 曲线可能看起来不错但正类精确率依然很低。
  • PR-AUC关注精确率-召回率权衡,在稀有正类任务中常更有解释力,但基准值受正类比例影响。
  • 阈值把概率转换为类别决策。默认 0.5 并非永远正确,应根据误报/漏报成本和验证数据选择。

任何指标都不能脱离标签定义、阈值、类别比例和业务成本单独解释。

10. 批大小、轮数与训练日志

  • Batch size(批大小):一次梯度更新使用的样本数。批次大通常更占显存,也会影响梯度噪声和吞吐。
  • Step(优化步):一次参数更新。数据集有 N 条样本、批大小 B 时,一个 Epoch(轮)大约有 ceil(N/B) 个 Step,是否丢弃最后不足一批的数据由实现配置决定。
  • Epoch(训练轮):模型遍历一遍训练集。训练更多轮不代表一定更好,可能使验证误差先降后升。
  • 训练损失:训练批次上的目标值;验证损失:不更新参数,仅测量未参与本次更新的数据上的目标值。

看训练曲线时同时观察训练损失、验证损失和任务指标。损失降低但业务指标没变,可能是阈值、类别不平衡或目标函数和业务目标不一致。

11. 对大语言模型的连接

大语言模型的预训练可看作大规模自监督学习:把文本切成 Token,给定前面的 Token,训练模型提高真实下一个 Token 的概率。模型常用交叉熵衡量目标 Token 的预测误差,再通过反向传播更新参数。

  • 预训练让模型从大量文本中学习通用语言模式与知识表示。
  • **监督微调(SFT)**提供输入与目标回答,让模型学习按示例完成任务。
  • 偏好对齐使用人类或其他偏好信号,调整模型输出的相对倾向;具体算法和训练目标要与普通交叉熵分清。
  • 验证/测试集仍需按数据来源和用户/文档维度防止泄漏;公开基准也可能出现在训练数据中,导致分数虚高。
  • **困惑度(perplexity)**与平均 Token 负对数似然相关,可粗略反映模型对一段文本的预测难度,但不同分词器、语料和任务之间不能不加条件直接比较。

大模型具备许多参数,并不会自动消除数据错误、训练偏差或幻觉。评价真实应用还需要检查正确性、拒答、引用、延迟、成本和安全风险,见 评测幻觉与多模态 与 大模型基础原理。

12. 新手排错流程

  1. 先检查输入、标签和张量形状是否对应,类别 ID 是否在有效范围内。
  2. 对一个极小训练集尝试过拟合:如果连少量样本都学不好,先排查实现、标签、损失或学习率。
  3. 检查损失是否为有限数值,梯度是否全零/过大,参数是否真的更新。
  4. 比较训练与验证曲线,再判断欠拟合、过拟合还是分布切分问题。
  5. 做最简单的基线。复杂神经网络若不优于合理基线,需要解释它究竟改善了哪里。
  6. 固定数据、代码、随机种子和配置做对照实验,一次只改变少数因素。

13. 自测清单

  • 能区分样本、特征、标签、参数和超参数。
  • 能解释训练集、验证集、测试集分别用来做什么。
  • 能举出至少两个数据泄漏例子。
  • 能解释损失、梯度下降、学习率和反向传播之间的关系。
  • 能从训练/验证表现判断欠拟合与过拟合的可能性。
  • 能根据误报和漏报成本选择精确率或召回率优先。
  • 能说明类别不平衡时准确率为何可能失效。
  • 能把“预测下一个 Token”的训练目标与语言模型联系起来。

相关笔记

  • Python基础与AI应用
  • 大模型基础原理
  • 大模型训练微调与对齐
  • 大模型推理与性能优化
  • 评测幻觉与多模态

来源说明

本篇是机器学习/深度学习的基础补充,使用通用统计学习与神经网络概念独立组织说明。已盘点的本地资料以 LLM、工程实践和面试材料为主,未确认存在一份覆盖本篇全部数学基础的单一教材,因此不将各公式或通用定义伪称为来自某一份课件。具体模型、框架的实现细节需按所用版本另行核对。

原始来源文件

以下列出本篇整理所依据的代表性原件;同主题重复版本与完整状态请查阅 source-manifest.csv。

  • Raw sources/大模型官方课程-视频资料/2026最新大模型全套资料(持续更新)/②、大模型入门资料/6个机器学习的核心算法.pdf
  • Raw sources/大模型官方课程-视频资料/2026最新大模型全套资料(持续更新)/②、大模型入门资料/MD文档/6个机器学习的核心算法.md

放弃未保存的修改?

有未保存的修改,离开会丢失这些内容。