1. 岗位能力画像与简历优化模板
模型Serving工程师是连接算法与线上业务的关键角色。面试官在筛选简历时，通常只用几十秒判断三件事：你是否真的做过推理服务、你是否理解性能与成本的权衡、你的成果能否被量化。本章先建立岗位能力画像，再给出可直接套用的简历结构与关键词清单，帮助你在投递阶段就进入面试官的"高匹配"名单。
一、能力画像：四个维度拆解
面试官评估Serving工程师时，会从四个维度交叉验证。第一是推理服务交付：能否独立完成模型加载、服务封装、接口定义、版本管理与灰度发布。第二是性能与延迟优化：是否理解计算图优化、算子融合、量化、批处理与缓存机制。第三是吞吐与成本控制：能否在给定SLA下提升QPS、降低单次推理成本。第四是稳定性与可观测：是否具备限流、降级、熔断、监控告警与容量规划经验。
这四个维度不是并列关系，而是层层递进。只会部署的人停留在第一层；能优化延迟的人进入第二层；能同时平衡吞吐与成本的人进入第三层；能在故障与流量突增下保持服务可用的人，才是团队真正需要的资深Serving工程师。
二、简历结构：三段式证据链
推荐使用"能力摘要 + 项目经历 + 技术栈"三段式结构。能力摘要控制在三行以内，直接点明服务规模、优化指标与技术栈。项目经历是核心，每个项目按"背景—动作—结果"展开，结果必须量化。技术栈放在最后，按推理框架、优化手段、工程组件分类罗列。
| 模块 | 写法要点 | 反面示例 |
|---|---|---|
| 能力摘要 | 服务规模 + 核心指标 + 技术栈 | "熟悉深度学习部署" |
| 项目背景 | 业务场景 + 约束条件 | "参与模型上线项目" |
| 技术动作 | 具体框架 + 优化手段 + 参数 | "优化了推理性能" |
| 量化结果 | P99延迟、QPS、成本降幅 | "效果显著提升" |
三、关键词清单与成果量化句式
简历筛选系统与面试官都会扫描关键词。以下清单按类别整理，建议在项目描述中自然嵌入，而不是堆砌在技能栏。
- 推理框架：vLLM、TensorRT-LLM、Triton Inference Server、ONNX Runtime、TorchServe、TGI
- 优化手段：动态批处理、连续批处理、KV Cache、PagedAttention、INT8/FP16量化、算子融合、CUDA Graph
- 工程组件：Kubernetes、Docker、gRPC、Prometheus、Grafana、Redis、Kafka
- 核心指标：P50/P99延迟、QPS、吞吐量、GPU利用率、显存占用、单成本、可用性
成果量化推荐使用以下句式模板，直接替换括号内容即可：
通过（优化手段），将（模型/服务）的（指标）从（优化前）提升/降低至（优化后），
在（硬件配置）下支撑（业务量），单次推理成本下降（百分比）。例如："通过引入vLLM的PagedAttention与连续批处理，将7B模型推理的P99延迟从820ms降至310ms，单卡QPS从12提升至47，在A10集群上支撑日均200万次调用，单成本下降约62%。"
四、常见误区与复盘
误区一：只写"部署了模型"。部署只是起点，面试官更关心你如何让服务跑得更快、更稳、更省。简历中至少要有一个项目体现完整的优化闭环。
误区二：指标模糊或夸大。"性能提升10倍"如果没有说明基线、硬件与并发条件，会被视为无效信息。正确做法是给出可复现的测试口径。
误区三：技术栈堆砌但无深度。列出十个框架不如深入讲清一个框架的调优过程。面试官会针对你写下的每一个关键词追问原理。
误区四：忽略业务价值。Serving工程师的价值最终体现在业务指标上。如果能把延迟降低与用户留存、成本节省与预算释放关联起来，简历的说服力会显著提升。
本章建立了岗位能力画像与简历优化框架。下一阶段的核心任务，是把这些能力转化为面试中可表达、可追问、可验证的回答结构。请先对照能力画像检查自己的简历，确保每个维度都有至少一条量化证据。