📚 课程目录第2章高频面试问题与回答框架

第2章：高频面试问题与回答框架

面试中高频问题是考察算法平台工程师的“基本功+工程思维”的试金石。本章总结三大经典问题，给出五步回答框架，帮助你在结构化表达中突出技术深度与项目落地能力。

💡 面试加分密钥：每次回答前先用五步法组织语言，确保“从业务/系统角度切入 → 技术细节 → 权衡取舍 → 收获总结”层层递进。

面试官考察点	项目复杂度理解、技术难点拆解、个人贡献与团队协作、结果量化能力
回答框架	① 项目背景（规模、业务目标）→ ② 个人角色与职责 → ③ 具体难点（数据、模型、工程）→ ④ 解决方案与关键决策 → ⑤ 成果与复盘
简短示例回答	“在一个百亿级参数的大模型推理平台项目中，我负责服务化部署。难点是显存碎片与低吞吐，我们通过动态batch+PagedAttention实现40%吞吐提升，同时设计了分层缓存降低首延迟。最终支撑线上日调用量2000万+，P99时延<200ms。”
可能追问	- 你提到的动态batch具体怎么实现？ - 如果模型体积增大两倍，你的系统瓶颈在哪？ - 与其他方案（如FasterTransformer）对比优劣？
避坑提醒	⚠️ 切忌只讲做了什么而不讲“为什么这么做”，面试官更看重权衡过程；避免全篇使用“我们”，要突出个人量化贡献。

面试官考察点	系统化思维、性能分析工具使用、优化方法论、端到端调试能力
回答框架	① 定义问题（延迟/吞吐指标、QPS）→ ② 分模块拆解：框架层（PyTorch/TensorRT）→ 硬件层（GPU利用率/显存带宽）→ ③ 工具定位：profiler、NVIDIA Nsight → ④ 优化方案：算子融合、量化、显存复用 → ⑤ 验证与迭代
简短示例回答	“先通过PyTorch Profiler发现Matmul算子耗时占60%，排查发现batch size过小导致GPU利用率不足30%。优化策略：增大batch size + 动态batching，同时使用FP16混合精度减少显存带宽瓶颈。优化后吞吐提升2.3倍，P50延迟从350ms降至120ms。”
可能追问	- 如果增大batch size后卡单用户请求延迟怎么办？ - 你用的profiler能定位到kernel级别瓶颈吗？ - 量化时出现精度下降如何解决？
避坑提醒	⚠️ 避免直接说“用xxx工具”，应该展示你如何根据现象选择工具；优化后务必量化收益，不要只说“提升了性能”。

面试官考察点	行业认知广度、技术选型判断力、工程落地经验、开源社区参与度
回答框架	① 主流框架对比（vLLM / TensorRT-LLM / TGI）→ ② 各自优势与适用场景 → ③ 我参与过的选型实践 → ④ 关注方向（连续批处理、推测解码、多模态融合）→ ⑤ 个人看法
简短示例回答	“目前主流框架中，vLLM的PagedAttention有效解决显存碎片，适合高并发对话场景；TensorRT-LLM在NVIDIA GPU上算子优化极致，适合低延迟场景。我在项目中结合两者：用TRT-LLM做核心模型推理，vLLM做请求调度与动态batch。未来关注推测解码与多模态LoRA动态装载。”
可能追问	- vLLM的显存管理原理是什么？ - TensorRT-LLM的plugin扩展怎么做？ - 你提到的推测解码在工业落地中遇到什么困难？
避坑提醒	⚠️ 不要只背书式的罗列特性，要结合你的实际改造/踩坑经历；如果没深入用过某个框架，坦诚说“目前只了解原理”比强行回答更可信。

→ 如何优化算子? → 增大batch后延迟?
→ 硬件瓶颈在哪? → 视频流推理如何?
→ 小模型场景落地?

  📘 面试官追问模式识别：
  多数追问朝着“技术细节→系统权衡→场景迁移”三个方向展开。预先准备每个方向的两个具体案例，能有效避免面试卡壳。