AI · 训练与推理
大模型训练、微调与对齐
梳理预训练、监督微调、参数高效微调和偏好对齐之间的关系。 大模型训练、微调与对齐 摘要 预训练学习通用语言模式,继续预训练补充领域语料,监督微调让模型适应指令任务,对齐阶段进一步调整回答偏好和行为。训练流程的关键是目标、数据、资源和评估相互匹配,不是单纯增加训练轮数。 正文 1. 训练阶段 阶段 主要目标 常见数据 注
正在读取最新同步的笔记,请稍候。
KNOWLEDGE INDEX / 知识索引
从 Obsidian 同步而来的个人知识索引。按主题翻阅,或直接找到记忆里的那句话。
支持搜索标题、正文与标签,筛选状态会保存在网址中。
检索结果
梳理预训练、监督微调、参数高效微调和偏好对齐之间的关系。 大模型训练、微调与对齐 摘要 预训练学习通用语言模式,继续预训练补充领域语料,监督微调让模型适应指令任务,对齐阶段进一步调整回答偏好和行为。训练流程的关键是目标、数据、资源和评估相互匹配,不是单纯增加训练轮数。 正文 1. 训练阶段 阶段 主要目标 常见数据 注
训练数据、CPT、SFT、LoRA/QLoRA、RLHF、PPO、DPO、显存与故障排查的详细问答。 大模型训练微调与对齐面试题库 使用方法 这份题库不是让你逐字背答案。面试时建议先用 30–60 秒回答核心定义,再通过数据格式、损失、资源代价、评估和失败案例展开。把“我实际做过”“我读资料理解”“如果设计会这样验证”
集中复习 PEFT、RLHF、PPO、显存估算和并行优化的核心对比。 训练与推理面试精选 摘要 训练与推理面试常考概念对比、资源估算和工程取舍。回答重点是说明假设与瓶颈,不给脱离硬件、序列长度和精度的绝对结论。 正文 推理与部署:快速入口 先区分 Prefill(输入预填充)和 Decode(逐步解码),再按模型权重、