1. 课程导入与性能问题界定

物理代理模型(Physics Surrogate Model)是用数据驱动或降阶方法逼近高保真物理仿真(如有限元、CFD、多体动力学)的轻量化模型。它把原本需要数小时甚至数天的求解过程压缩到毫秒到秒级,从而支撑实时仿真、优化迭代、在线控制与数字孪生等场景。但“能算得快”并不等于“推理性能达标”:一个代理模型在离线验证中精度合格,部署到实际系统后仍可能因为单次延迟过高、吞吐不足或显存溢出而无法使用。本课程的第一项任务,就是把“推理性能”这件事从模糊的“感觉慢”转化为可度量、可定位、可优化的工程问题。

优化的目标:在约束下取得多目标平衡

物理代理模型的推理性能优化,本质上不是追求某一个指标的极限,而是在给定硬件、精度容忍度和业务时限的约束下,寻找延迟、吞吐、内存与精度之间的最佳工作点。四者相互牵制:降低数值精度(如从 FP32 转为 FP16 或 INT8)通常能减少延迟和内存占用,但可能破坏物理量之间的守恒关系;增大批处理规模能提升吞吐,却会抬高单次请求的排队延迟;裁剪网络宽度能压缩显存,但会削弱对高维输入(如复杂几何边界、瞬态场分布)的表达能力。因此优化目标应表述为带约束的联合目标,例如“在相对误差不超过 2% 的前提下,将 P99 延迟压到 20 ms 以内,同时单卡吞吐不低于 500 次/秒”。

四类评价指标及其测量口径

延迟关注单次推理从输入就绪到输出可用的时间,工程上更应关注 P50、P95、P99 分位数而非平均值,因为控制类应用对尾部延迟极其敏感。测量时需明确是否包含数据预处理(如网格插值、归一化)和后处理(如场量重构),否则不同团队的数字无法比较。吞吐指单位时间完成的推理次数,常用 QPS 或 samples/s 表示,它与批大小、并发数和硬件利用率强相关。内存包括模型权重占用、激活值峰值和批处理缓存,是边缘部署的硬门槛;对代理模型而言,输入场数据本身(如 128×128×128 的体网格)往往比权重更占内存。精度不能只看全局均方误差,应结合物理意义选择指标:标量输出看相对误差,场输出看最大误差与关键区域误差,瞬态问题还要看误差随时间的累积情况。

推理性能四指标的耦合与权衡 性能工作点 约束下的联合最优 延迟 P50 / P95 / P99 含前后处理口径 吞吐 QPS / samples·s⁻¹ 受批大小与并发影响 内存 权重 + 激活峰值 输入场数据占比高 精度 相对误差 / 最大误差 关键区域与守恒性 批处理↑ 延迟↑ 并发↑ 吞吐↑ 量化↓ 内存↓ 精度↓ 裁剪↓ 内存↓ 表达力↓ 示例约束:相对误差 ≤ 2% | P99 延迟 ≤ 20 ms | 单卡吞吐 ≥ 500 次/秒 | 显存 ≤ 8 GB

典型应用场景对指标的差异化要求

不同场景对四类指标的敏感度差异很大,界定性能问题时必须先锚定场景。实时闭环控制(如机器人柔顺控制、飞行器气动伺服)要求单次延迟稳定在毫秒级,且尾部延迟不能抖动,吞吐反而次要;此时应优先做算子融合、固定批大小为 1 的延迟优化。离线参数扫描与设计优化(如换热器结构寻优)需要成千上万次批量推理,吞吐是核心,可采用大批次、多流并行,容忍单次延迟上升。边缘端数字孪生(如车载电池热管理代理模型)受限于嵌入式显存与功耗,内存是第一约束,往往需要量化与结构化剪枝。在线监测与异常预警则更看重精度稳定性,因为误报代价高,宁可牺牲部分速度换取误差可控。

把问题界定清楚:一个可操作的界定流程

面对“模型太慢”的反馈,建议按以下顺序界定:第一步,明确业务时限与硬件平台,写出延迟、吞吐、内存、精度的量化约束;第二步,建立基线,用固定输入形状和预热轮次测量当前 P50/P99 延迟、峰值显存与吞吐,并记录精度指标;第三步,做瓶颈归因,区分是计算受限(GPU 利用率高但延迟仍大)、内存受限(显存带宽打满或频繁换页)还是输入输出受限(数据搬运与预处理耗时占比过高);第四步,确定优化优先级,例如延迟超标而显存充裕时优先算子融合与精度调整,显存超标时优先量化与批处理策略调整。整个过程应保留可复现的测量脚本与输入样本,避免优化前后口径不一致导致误判。

界定阶段最重要的产出不是优化方案,而是一份“约束 + 基线 + 瓶颈”的问题描述。没有基线的优化无法证明收益,没有约束的优化容易在错误方向上过度投入。

一个教学示例:换热代理模型的性能界定

假设某换热器温度场代理模型输入为 64×64 的工况参数网格,输出为同尺寸温度场,部署在单张 16 GB 显存的推理卡上,业务要求单次推理 P99 延迟不超过 30 ms、批量扫描吞吐不低于 800 次/秒、相对误差不超过 1.5%。基线测量(示例假设数据)显示:批大小 1 时 P99 延迟 46 ms,批大小 32 时吞吐 620 次/秒但 P99 升至 71 ms,峰值显存 5.2 GB,相对误差 0.9%。据此可判断:精度有余量,延迟与吞吐同时不达标,且延迟随批大小增长明显,说明瓶颈可能在输入场数据的搬运与预处理,而非纯计算。后续优化就应围绕数据管线与算子融合展开,而不是盲目压缩模型精度。这个例子说明,性能界定阶段的结论直接决定了后续优化路线的选择。