高频面试问题与回答框架
面试官考察的核心不是你背了多少模型参数，而是你能否在 业务约束下 快速拆解问题、结构化表达、并展现出系统思维。本章提炼出三类最高频的通用问题，并给出可复用的回答框架与不同公司的侧重点对照。
不同公司侧重点对比
| 公司类型 |
核心关注点 |
常见提示信号 |
| 字节跳动/快手 | 工程落地效率、大规模推理优化、AB实验 | 追问“线上怎么做？延迟多少？” |
| 百度/阿里达摩院 | 模型原理深度、预训练改进、长文本建模 | 追问“self-attention复杂度如何优化？” |
| 腾讯/美团 | 业务场景适配、多任务学习、冷启动 | 追问“如果样本很少你怎么做？” |
| 创业公司/金融保险 | 快速迭代、成本控制、可解释性 | 追问“这个方案需要多少GPU？” |
💡 回答原则： 先定义问题边界 → 给框架 → 举例子 → 聊局限性。永远不要跳过“澄清定义”直接抛出答案。
❓ 问题1：请解释Transformer中的自注意力机制及其优势
| 面试官考察点 | 是否真正理解注意力计算公式、并行计算原理、长距离依赖捕获能力，以及为何相比RNN/LSTM有优势。 |
| 回答框架 | 1️⃣ 定义：self-attention计算Q、K、V，通过softmax(QK^T/√d_k)V得到加权表示。 2️⃣ 优势：并行计算、全局视野、解决长距离依赖。 3️⃣ 局限：O(n²)复杂度，可通过近似方法缓解。 |
| 简短示例回答 | “自注意力机制通过计算序列中每个位置与其他位置的注意力权重来捕获全局依赖。相比RNN，它支持完全并行，训练更快，且能直接建模任意两个的关系。” （80字符） |
| 可能追问 | “为什么除以√d_k？” “如何改进长文本的O(n²)问题？” “多头注意力中的head独立训练意义何在？” |
| 避坑提醒 | ❌ 不要只背公式不说收益。 ✅ 必须对比RNN/CNN，突出并行性和远程依赖两个核心优势。 |
❓ 问题2：如何处理NLP项目中的类别不平衡问题？
| 面试官考察点 | 是否掌握数据级和算法级处理方法，能否结合业务场景选择合适策略，以及评估指标的选择是否合理。 |
| 回答框架 | 1️⃣ 数据层面：重采样（欠采样/过采样）、数据增强（回译、随机替换）。 2️⃣ 算法层面：调整损失函数（focal loss、class weight）、阈值移动。 3️⃣ 指标：使用F1、AUC、precision-recall曲线代替accuracy。 |
| 简短示例回答 | “我会先在数据层面用SMOTE或EDA对少数类做增强，如果代价高则使用Focal Loss让模型关注难例。评估时看macro F1而不是acc，最后通过阈值调整做recalibration。” （87字符） |
| 可能追问 | “过采样会不会引入噪声？” “focal loss的两个超参数怎么调？” “在文本分类中具体怎么用SMOTE？” |
| 避坑提醒 | ❌ 不要只答“用重采样”不解释后果。 ✅ 必须说明“过采样可能造成过拟合，欠采样会丢失信息”，并给出权衡策略。 |
❓ 问题3：你如何为给定任务选择合适的预训练语言模型？
| 面试官考察点 | 了解主流模型（BERT/RoBERTa/ELECTRA/T5等）的差异，能结合任务类型、数据规模、推理速度做决策。 |
| 回答框架 | 1️⃣ 任务类型：NLU选encoder-only（BERT），NLG选encoder-decoder（T5）。 2️⃣ 数据规模：小数据用蒸馏版（DistilBERT），大数据用RoBERTa。 3️⃣ 效率要求：移动端用TinyBERT，高吞吐用ELECTRA。 |
| 简短示例回答 | “如果是句子对分类且推理时延<10ms，我选DistilBERT微调；如果是需要生成摘要的长文本，我会选BART或T5。再根据训练数据量判断是否加领域预训练。” （87字符） |
| 可能追问 | “你知道ALBERT相比BERT做了什么改进？” “如果任务是对长文本（>512 tokens）建模怎么办？” “量化对模型效果影响多大？” |
| 避坑提醒 | ❌ 不要只说“用BERT”不解释原因。 ✅ 必须列举2-3个对比维度（效果/速度/参数量），并给出明确的决策树逻辑。 |
⚠️ 高频踩坑点： 回答时优先使用“第一、第二、第三”的结构化序号，面试官最反感散点式没有逻辑的叙述。每个要点控制在30秒内说完。