01
MobileViT前世今生
从ViT到MobileViT的演进之路，为什么移动端需要轻量级ViT。
演进动机
02
模型结构拆解
MobileViT核心模块（MV2、MobileViT Block、融合模块）深度解析。
MV2Block
03
计算瓶颈分析
实时推理场景下的性能瓶颈（内存带宽、算子效率、量化误差）。
带宽算子
04
算子优化实战
使用TensorRT/TVM对MobileViT进行算子融合与图优化。
TensorRTTVM
05
量化感知训练
QAT原理、伪量化节点插入、校准数据集选择与精度调优。
QAT校准
06
INT8部署实战
从FP32到INT8的完整转换流程，精度损失分析与回退策略。
INT8回退
07
内存优化技巧
内存池复用、张量生命周期管理、减少显存碎片的实战经验。
内存池碎片
08
NMS优化
在MobileViT检测头中集成高效NMS，避免CPU-GPU同步开销。
NMS同步
09
多线程流水线
数据预处理、推理、后处理的三级流水线设计与实现。
流水线多线程
10
动态形状处理
应对可变输入尺寸的优化策略，避免频繁重新编译。
动态形状编译
11
端侧NPU适配
将MobileViT部署到高通SNPE/联发科NeuroPilot的踩坑记录。
SNPENeuroPilot
12
CoreML部署
iOS端使用CoreML部署MobileViT，ANE加速器的利用技巧。
CoreMLANE
13
Android NNAPI
利用Android神经网络API进行硬件加速的完整方案。
NNAPI加速
14
OpenCV DNN集成
将优化后的MobileViT模型集成到OpenCV推理管线。
OpenCVDNN
15
ONNX Runtime优化
使用ONNX Runtime的Execution Provider进行异构计算。
ONNXEP
16
模型剪枝实战
结构化剪枝与非结构化剪枝在MobileViT上的效果对比。
剪枝结构化
17
知识蒸馏
以MobileViT为教师网络，蒸馏出更小的学生模型。
蒸馏教师
18
重参数化技巧
在训练时引入重参数化分支，推理时合并以加速。
重参数合并
19
Winograd卷积
在MobileViT的3x3卷积中应用Winograd算法。
Winograd卷积
20
FlashAttention集成
将传统Attention替换为FlashAttention减少显存占用。
FlashAttn显存
21
半精度推理
FP16推理的精度表现与性能收益，混合精度策略。
FP16混合精度
22
Batch推理优化
动态Batch与静态Batch的选择，吞吐量与延迟的权衡。
Batch吞吐
23
异步推理框架
基于C++的异步推理引擎设计与线程池管理。
异步线程池
24
性能Profiling
使用Nsight Systems/NVIDIA Nsight Compute定位瓶颈。
NsightProfiling
25
端到端延迟优化
从摄像头输入到结果显示的全链路延迟拆解与优化。
全链路延迟
26
功耗优化
移动端推理时的CPU/GPU频率调节与功耗控制策略。
功耗调频
27
模型加密与保护
模型文件加密、运行时解密、防止模型被盗用。
加密安全
28
多模型协同
MobileViT与轻量级分类器/分割模型的协同推理方案。
协同分类
29
A/B测试框架
在线上环境中对比优化前后模型的精度与性能。
A/B对比
30
未来展望
下一代移动端ViT架构（MobileViTv3、EfficientViT）的演进方向。
展望EfficientViT