课程导入：学习目标、适用人群、课程整体框架与学习路径
在深度学习工程化落地的过程中，模型从训练框架到生产推理环境的迁移始终是绕不开的关键环节。PyTorch 凭借其动态图机制和灵活的编程体验，成为学术界与工业界最主流的训练框架之一；而 ONNX（Open Neural Network Exchange）作为开放的模型交换格式，则承担着连接训练框架与多种推理引擎（如 ONNX Runtime、TensorRT、OpenVINO）的桥梁角色。然而，许多开发者在实际部署时都会遇到同一个痛点：训练时模型输入尺寸是固定的，但生产环境中请求的图片分辨率、序列长度或 batch 大小却往往是动态变化的。如果直接导出固定 shape 的 ONNX 模型，轻则导致推理时报 shape 不匹配错误，重则被迫维护多个不同分辨率的模型副本，极大地增加了工程复杂度与运维成本。本课程正是围绕这一核心矛盾，系统讲解如何在 PyTorch 中正确配置动态轴（dynamic axes），并处理随之而来的算子兼容性、性能优化与精度校验问题。
本课程并非简单的 API 用法罗列，而是从原理剖析到实战排障的完整知识体系。我们将首先厘清动态 shape 的本质——它并非让模型“适应任意尺寸”，而是通过符号化维度描述，让推理引擎在运行时根据实际输入动态分配内存并执行计算。随后，课程将深入 torch.onnx.export 的 dynamic_axes 参数，通过多个可运行的代码示例，演示如何为单一输入、多输入、多输出模型配置动态维度，并解释动态轴与静态轴混用时的注意事项。在此基础上，我们还会探讨动态 shape 模型在 ONNX Runtime 与 TensorRT 等主流引擎中的实际表现，包括显存占用、推理延迟与吞吐量的权衡，以及如何通过算子融合、维度排序优化等手段缓解动态 shape 带来的性能损失。课程最后一部分将聚焦于真实项目中的高频问题：动态轴设置后精度下降怎么办？导出的模型在某个引擎上报“Unsupported Operator”如何定位？如何利用 onnxruntime.transformers 优化工具对动态模型进行图优化？这些内容均配有完整的排查流程与解决方案。
学习目标：从“能导出”到“会优化”
完成本课程后，学习者应当具备以下核心能力：第一，理解动态 shape 的底层机制，能够准确解释 ONNX 模型中 symbolic dim 与实际 shape 的映射关系，并能手动修改 ONNX 图来调整动态轴定义；第二，熟练配置动态轴，针对不同模型结构（CNN、Transformer、多模态模型）选择合理的动态维度策略，避免过度动态化导致推理性能严重下降；第三，掌握验证与调试方法，能够使用 onnxruntime 的 Python API 对动态模型进行多组 shape 的推理测试，并通过比较 PyTorch 与 ONNX Runtime 的输出差异来定位精度问题；第四，具备性能调优意识，了解动态 shape 对内存分配、算子选择、图优化的影响，能够根据实际部署场景（如云端 GPU 服务、边缘设备）做出合理的静态/动态维度取舍。
课程适用人群：本课程主要面向具备 1-3 年 PyTorch 使用经验、正在或即将从事模型部署工作的算法工程师、后端开发工程师和 AI 平台工程师。学员需要熟悉 PyTorch 基本模型定义与训练流程，了解 ONNX 的基本概念（如节点、张量、维度），并具备一定的 Python 编程能力。对于完全没有接触过 ONNX 的初学者，建议先快速浏览 ONNX 官方文档中的“Model Zoo”和“Tutorials”部分，再进入本课程学习。
课程整体框架：五大模块递进式设计
课程共分为 30 个章节，按照“基础-方法-实践-进阶-排障”的逻辑组织为五个模块。模块一（第 1-5 章）为“动态 Shape 基础与原理”，涵盖 ONNX 格式详解、PyTorch 导出机制、动态轴参数解析以及静态与动态模型的对比分析。模块二（第 6-12 章）为“核心导出方法与代码实战”，每章围绕一种典型模型结构（如 ResNet、BERT、YOLO、Transformer 等）展开，详细演示动态轴的配置技巧与常见陷阱。模块三（第 13-18 章）为“推理引擎适配与性能优化”，重点讲解 ONNX Runtime 的会话配置、TensorRT 的动态 shape 优化、OpenVINO 的 CPU 加速，以及如何利用 profiling 工具定位性能瓶颈。模块四（第 19-24 章）为“进阶场景专题”，包括动态 shape 与量化、动态 shape 与多模态模型、动态 shape 在端侧推理引擎中的实现等。模块五（第 25-30 章）为“问题排查与工程化落地”，汇总了 20 个高频报错案例，并给出完整的排查决策树，同时介绍 CI/CD 流程中自动化验证动态模型正确性的最佳实践。
| 模块 | 章节范围 | 核心主题 | 关键产出 |
|---|---|---|---|
| 模块一 | 第 1-5 章 | 动态 Shape 基础与原理 | 理解 ONNX 图结构、动态轴参数本质 |
| 模块二 | 第 6-12 章 | 核心导出方法与代码实战 | 掌握 7 类典型模型的动态导出方案 |
| 模块三 | 第 13-18 章 | 推理引擎适配与性能优化 | 完成 ORT/TRT/OV 的适配与调优 |
| 模块四 | 第 19-24 章 | 进阶场景专题 | 动态 Shape 与量化/多模态/端侧结合 |
| 模块五 | 第 25-30 章 | 问题排查与工程化落地 | 建立排障决策树与自动化验证流程 |
学习路径建议：按需选择，循序渐进
考虑到不同学员的背景差异，我们设计了三条学习路径。路径 A（完整学习）：适合希望系统掌握动态 shape 处理能力的学员，建议按照章节顺序学习，每章完成课后练习与代码实验，预计耗时 4-6 周。路径 B（快速上手）：适合近期有紧急部署任务的工程师，可跳过模块四的进阶专题，重点学习模块二和模块三，并直接查阅模块五的排障章节。路径 C（按需查询）：适合已经具备一定经验、仅需解决特定问题的开发者，可将本课程作为参考手册，通过目录索引直接定位相关章节。无论选择哪条路径，都强烈建议在学习过程中准备一个“动态 shape 实验笔记本”，记录每次导出时的参数配置、报错信息与解决方案，这将极大提升实际工作中的排障效率。
学习建议：本课程包含大量可运行的代码示例，建议使用 Python 3.8+、PyTorch 1.12+ 和 ONNX Runtime 1.13+ 版本进行实验。每章代码均可在 CPU 环境下运行，但涉及性能对比的章节建议使用带有 NVIDIA GPU 的机器以获得更直观的体验。
案例拆解：一个典型的动态 Shape 部署需求
为了帮助学员建立直观认知，我们以一个真实项目为例进行说明。某安防公司需要将训练好的行人检测模型（基于 YOLOv5s）部署到边缘计算盒子上，输入为摄像头采集的视频流。训练时模型输入固定为 640×640 分辨率，但实际场景中摄像头可能输出 1080p 或 720p 画面，且为了兼顾检测精度与速度，希望在推理时动态调整输入分辨率（如 480p、640p、720p）。初始方案是导出三个固定 shape 的 ONNX 模型，分别对应三种分辨率，但这样会导致内存占用增加 3 倍，且切换分辨率时需要重新加载模型，延迟高达 2 秒。通过本课程的学习，我们采用动态 shape 方案：在导出时设置 dynamic_axes={'images': {0: 'batch', 2: 'height', 3: 'width'}}，并在 ONNX Runtime 中配置 set_optimization_level 与 enable_cpu_mem_arena 选项。实际测试表明，动态模型在 640×640 输入下的推理延迟与静态模型几乎一致（约 12ms），而在 480×480 输入下延迟降至 8ms，内存占用仅增加 15%。更重要的是，切换分辨率时无需重新加载模型，延迟降低到 50ms 以内。这个案例充分说明了动态 shape 在真实部署中的价值，也暴露了动态轴设置不当可能带来的性能风险——这正是本课程后续章节要深入解决的问题。
常见误区提醒：很多初学者认为动态 shape 就是“万能药”，将所有维度都设置为动态轴。实际上，动态维度越多，推理引擎需要做的运行时 shape 推断和内存分配就越复杂，可能导致算子融合失效、显存碎片化等问题。正确的做法是：只对确实会变化的维度设置动态轴，对于固定不变的维度（如通道数）保持静态，以平衡灵活性与性能。
综上所述，本课程的目标是帮助学习者建立一套完整的动态 shape 处理知识体系，从原理理解到工程实践，从基础配置到性能优化，从常见排障到进阶应用。每一章都配有精心设计的代码示例、对比表格和实战案例，确保学员能够“学得懂、用得上、调得通”。现在，让我们从 ONNX 的基础结构开始，一步步揭开动态 shape 的神秘面纱。