AI · 训练与推理
大模型训练、微调与对齐
梳理预训练、监督微调、参数高效微调和偏好对齐之间的关系。 大模型训练、微调与对齐 摘要 预训练学习通用语言模式,继续预训练补充领域语料,监督微调让模型适应指令任务,对齐阶段进一步调整回答偏好和行为。训练流程的关键是目标、数据、资源和评估相互匹配,不是单纯增加训练轮数。 正文 1. 训练阶段 阶段 主要目标 常见数据 注
正在读取最新同步的笔记,请稍候。
KNOWLEDGE INDEX / 知识索引
从 Obsidian 同步而来的个人知识索引。按主题翻阅,或直接找到记忆里的那句话。
支持搜索标题、正文与标签,筛选状态会保存在网址中。
检索结果
梳理预训练、监督微调、参数高效微调和偏好对齐之间的关系。 大模型训练、微调与对齐 摘要 预训练学习通用语言模式,继续预训练补充领域语料,监督微调让模型适应指令任务,对齐阶段进一步调整回答偏好和行为。训练流程的关键是目标、数据、资源和评估相互匹配,不是单纯增加训练轮数。 正文 1. 训练阶段 阶段 主要目标 常见数据 注