第1章：岗位能力画像与简历优化模板
本章定位：面试官在看简历的前10秒就完成初次筛选。你的简历必须同时满足关键词匹配 + 能力画像清晰 + 成果可量化三个条件。本章给出岗位能力画像、简历结构模板、关键词清单、成果量化句式，以及3个高频面试问答。
1.1 岗位能力画像
大模型训练工程师的核心能力分为5个维度，每维度是简历中必须体现的关键领域：
| 能力维度 | 核心要求 | 简历关键词 |
|---|---|---|
| 大模型算法基础 | Transformer、MoE、Attention变体、位置编码 | LLM, , LLaMA, 预训练, 微调 |
| 分布式训练框架 | PyTorch DDP/FSDP, DeepSpeed ZeRO, Megatron-LM | 张量并行, 流水线并行, 数据并行, 混合精度 |
| 数据处理与优化 | 数据清洗、去重、质量评分、课程学习 | tokenizer, 数据配比, 长上下文, 动态批处理 |
| 模型评估与调优 | Loss曲线分析, 评测集设计, Scaling Law | perplexity, 收敛速度, 梯度冲突, 学习率调度 |
| 工程部署与运维 | 推理加速, 显存优化, 容错恢复 | vLLM, TensorRT, 模型剪枝, 量化, checkpoint |
⚠️ 简历误区：不要只写“熟悉分布式训练”，要写具体框架和规模（如“基于DeepSpeed ZeRO-3训练130B模型，256张A100”）。
1.2 简历结构模板（推荐顺序）
- 个人信息：姓名、联系方式、GitHub / 技术博客（有加分）
- 技术栈：用标签化格式（如 Python / PyTorch / DeepSpeed / CUDA）
- 工作/项目经历：按STAR法写，每段2-3个大模型相关项目
- /专利/开源贡献：主作者、知名开源PR、技术分享
- 教育背景：学校、专业、毕业方向（与LLM相关可突出）
1.3 成果量化句式（面试官最爱）
| 原来的无效描述 | 量化后的有效描述 |
|---|---|
| 负责大模型训练 | 主导70B模型从0预训练，训练Tokens 1.2T，Loss下降至1.83 |
| 参与分布式优化 | 通过ZeRO-3 + Hybrid Parallel，将训练吞吐提升1.7倍，显存占用降低42% |
| 编写数据清洗脚本 | 处理2.3TB原始数据，去重后保留1.7TB，模型困惑度从12.5降至8.9 |
| 进行模型评测 | 设计5个评测集（包含代码、数学、推理），F1平均提升3.2个百分点 |
💡 关键词清单（请直接复制到简历技能标签中）：
LLM, , LLaMA, MoE, Attention, Transformer, 分布式训练, PyTorch, DeepSpeed, Megatron, ZeRO, FSDP, 混合精度, FP16, BF16, 数据并行, 张量并行, 流水线并行, 梯度检查点, Tokenizer, 预训练, 微调, SFT, RLHF, PPO, DPO, Scaling Law, 损失曲线, 学习率调度, 动态批处理, 显存优化, 推理加速, vLLM, TensorRT, CUDA, Triton.
LLM, , LLaMA, MoE, Attention, Transformer, 分布式训练, PyTorch, DeepSpeed, Megatron, ZeRO, FSDP, 混合精度, FP16, BF16, 数据并行, 张量并行, 流水线并行, 梯度检查点, Tokenizer, 预训练, 微调, SFT, RLHF, PPO, DPO, Scaling Law, 损失曲线, 学习率调度, 动态批处理, 显存优化, 推理加速, vLLM, TensorRT, CUDA, Triton.
1.4 面试问答卡片
Q1：请介绍一下你参与过的大模型训练项目，从数据到部署。
面试官考察点：是否具备端到端能力；是否理解规模；是否主动思考过瓶颈。
回答框架：项目背景 → 模型规模与数据 → 自己具体工作 → 技术难点与解决方案 → 最终效果（量化）。
示例回答：“我负责训练一个70B参数的MoE模型，训练数据1.5T tokens。在128张A100上使用DeepSpeed ZeRO-3+张量并行，通过流水线气泡优化将吞吐从42%提升到58%。最终模型在MMLU上达到71.2%，推理时采用vLLM量化后延时降低40%。”
可能追问：为什么选择ZeRO-3而不是FSDP？你如何确定流水线切分点？量化对精度影响多大？
⚠️ 避坑提醒：不要只说“我参与了训练”，要说出你的具体贡献（如“我写了checkpoint恢复逻辑”）。也不要混淆“使用过”和“深入了解”。
Q2：你如何判断一次训练是否出现异常？你通常会监控哪些指标？
面试官考察点：工程经验是否扎实；是否踩过坑；是否懂得调优流程。
回答框架：训练前检查 → 实时监控指标 → 异常特征 → 排查手段 → 改进措施。
示例回答：“我主要监控loss曲线、梯度范数、学习率、GPU利用率。如果loss突然上升且梯度范数激增，我会检查数据是否正确——曾经因为tokenizer没有统一导致数据错位。还会用WandB对比基线看收敛趋势，发现不下降时会检查学习率衰减策略或者是否有死节点。”
可能追问：梯度范数多大算异常？如何判断loss spike是源于数据还是模型？你用过什么分布式调试工具？
⚠️ 避坑提醒：不要只背理论，要结合真实案例，比如“我在某个项目中发现loss震荡，最终定位是数据集里混入了大量重复样本”。
Q3：请解释一下你简历中的“通过混合精度训练将吞吐提升50%”，具体是怎么做到的？
面试官考察点：是否真正理解混合精度原理；是否有代码实操；是否了解瓶颈。
回答框架：混合精度工作机制 → 你的模型结构影响 → 具体参数设置 → 遇到的数值问题 → 最终结果。
示例回答：“我们在70B模型上使用AMP（FP16）+ GradScaler+ BF16主权重。因为MoE层存在大动态范围，早期loss出现NaN。我排查后发现是softmax前数值溢出，将部分layer保持FP32计算，同时开启gradient clipping。最终训练速度从原来的0.8s/step降到0.5s/step，且精度无损。”
可能追问：BF16和FP16的区别？你如何选择哪些层用FP32？GradScaler的scale因子如何动态调整？
⚠️ 避坑提醒：不要只说“我开了AMP”，面试官会追问细节。必须准备好举例说明你解决过的数值精度问题。