01
MobileViT 初探
什么是 MobileViT？它解决了什么问题？与传统 CNN 和 ViT 相比有什么优势？
概念对比
02
环境搭建
Anaconda、PyTorch、Torchvision、MobileViT 依赖库安装与验证。
工具配置
03
数据准备
图像分类数据集（ImageNet子集/自定义数据集）下载、目录结构组织、DataLoader 编写。
数据预处理
04
模型架构解析（上）
MobileNetV2 基础模块（深度可分离卷积、倒残差结构）详解。
CNN模块
05
模型架构解析（中）
Transformer 基础（自注意力、多头注意力）与 MobileViT Block 结构。
Transformer注意力
06
模型架构解析（下）
MobileViT 整体网络结构（S0/S1/S2）配置与参数量计算。
架构参数
07
训练脚本编写（一）
配置管理（YAML/Argparse）、模型初始化、优化器与学习率调度器选择。
脚本优化器
08
训练脚本编写（二）
训练循环（Train One Epoch）、验证循环（Validate）、早停与模型保存策略。
训练验证
09
训练脚本编写（三）
混合精度训练（AMP）、梯度累积、分布式训练（DDP）入门。
AMPDDP
10
训练实战（一）
在小型数据集（如 CIFAR-10/100）上从头训练 MobileViT-S。
实战CIFAR
11
训练实战（二）
在 ImageNet-1K 子集上微调预训练模型，对比不同学习率与 Batch Size 的影响。
微调对比
12
训练实战（三）
使用 TensorBoard 与 WandB 可视化训练曲线、学习率变化与模型结构。
可视化工具
13
模型评估
准确率（Top-1/Top-5）、参数量、FLOPs、推理延迟（CPU/GPU）的全面评测。
评测性能
14
模型导出（一）
PyTorch 模型转 TorchScript（Trace/Script）与 ONNX 格式。
导出ONNX
15
模型导出（二）
ONNX 模型优化（Simplifier、动态轴设置）与 ONNX Runtime 推理验证。
优化Runtime
16
模型量化（一）
量化感知训练（QAT）与训练后量化（PTQ）原理及在 MobileViT 上的实践。
量化QAT
17
模型量化（二）
使用 PyTorch 原生量化工具包对 MobileViT 进行 INT8 量化。
INT8PyTorch
18
模型量化（三）
量化后模型精度对比与性能提升分析（速度 vs 精度）。
对比分析
19
移动端部署（一）
Android 端部署流程——将 ONNX/TorchScript 模型集成到 Android App。
Android集成
20
移动端部署（二）
iOS 端部署流程——使用 CoreML 将模型转换为 .mlmodel 并集成。
iOSCoreML
21
移动端部署（三）
使用 NCNN/TNN 等端侧推理引擎对 MobileViT 进行推理优化。
NCNN推理
22
边缘设备部署
在 Jetson Nano/Raspberry Pi 上部署 MobileViT 并进行实时推理。
边缘Jetson
23
Web 端部署
使用 ONNX Runtime Web 与 TensorFlow.js 在浏览器中运行 MobileViT。
Web浏览器
24
服务端部署
使用 TorchServe 或 Triton Inference Server 部署 MobileViT 为 REST API。
服务端API
25
模型压缩
知识蒸馏（KD）——以 MobileViT-S 为教师，训练更小的 MobileNetV3 学生网络。
蒸馏压缩
26
模型剪枝
结构化剪枝（Channel Pruning）在 MobileViT 上的应用与效果分析。
剪枝结构化
27
自定义任务（一）
将 MobileViT 用于目标检测（作为 YOLO 的 Backbone）。
检测YOLO
28
自定义任务（二）
将 MobileViT 用于语义分割（作为 DeepLabV3+ 的 Backbone）。
分割DeepLab
29
性能调优
分析 MobileViT 推理瓶颈（内存带宽、算子耗时），针对性优化（算子融合、内存复用）。
调优瓶颈
30
总结与展望
MobileViT 的局限性、最新变体（MobileViTv2/v3）介绍与未来趋势。
展望变体