📚 课程目录第1章课程导入

1. 课程导入

欢迎进入《ACT机器人策略训练与部署》课程。ACT（Action Chunking Transformer）是一类面向精细操作任务的模仿学习策略，它把连续动作预测转化为“动作块”生成问题，通过 Transformer 建模视觉、关节状态与动作序列之间的时序依赖，从而让机械臂在抓取、插拔、折叠、装配等任务中表现出更平滑、更稳定的操作能力。本课程不讨论抽象理论堆砌，而是围绕一条完整工程链路展开：数据采集 → 数据清洗与标注 → 策略训练 → 仿真/真机评估 → 部署推理 → 现场排障与迭代。

本课程的核心目标不是“会跑一个脚本”，而是让你能够独立完成从任务定义到机器人端稳定执行的闭环：知道每一步的输入输出、关键参数、常见失败模式，并能用日志和可视化定位问题。

一、学习目标：从“能跑”到“能交付”

完成本课程后，你应当具备以下能力：

概念层：理解 ACT 的输入输出、动作块（action chunk）、时序集成（temporal ensembling）、观测编码与动作解码的基本原理。
数据层：能够设计采集流程，使用遥操作或示教方式获取多模态数据，并完成时间对齐、异常帧剔除、归一化与数据集划分。
训练层：能够配置训练参数（学习率、批大小、chunk size、图像分辨率、backbone 等），读懂损失曲线与验证指标，判断过拟合与欠拟合。
部署层：能够将策略导出为推理服务，接入真实机器人控制频率，处理延迟、抖动、动作平滑与安全限幅。
排障层：能够根据“抓不住、对不准、抖动、漂移、卡死”等现象，反推是数据、模型还是部署环节的问题。

二、核心概念：ACT 到底在做什么

传统单步策略在每一时刻只预测一个动作，容易受噪声影响，且高频推理对算力要求高。ACT 的关键思想是：一次预测未来若干步的动作序列，即“动作块”。机器人执行时不必每步都重新推理，而是按块执行并在必要时重叠融合。这样既降低了推理频率，又提升了动作连贯性。

可以把 ACT 看作一个条件生成模型：输入是当前观测（多路相机图像 + 关节位置/速度），输出是未来 K 步的动作序列。Transformer 负责在观测 token 与动作 token 之间建立注意力关系，使模型能够关注“当前看到什么”与“接下来该怎么做”的对应关系。训练时通常使用监督学习，以专家示教动作作为目标；推理时则结合时序集成，把多次预测的重叠部分加权平均，减少突变。

理解 ACT 的一个实用类比：它不是“每一步都问一次路”，而是“一次看好前面一段路，按计划走一段，再根据新观察修正计划”。这解释了为什么 chunk size、推理频率和时序集成策略会直接影响操作手感。

三、整体框架：一条从数据到机器人的流水线

本课程的整体框架可以概括为五个阶段，每个阶段都有明确的交付物和验收标准：

阶段	核心任务	关键输入	关键输出	常见风险
数据采集	遥操作/示教录制多模态轨迹	任务定义、相机标定、机器人接口	原始 episode 数据集	时间不同步、视角遮挡、动作抖动
数据处理	清洗、对齐、归一化、划分	原始数据集	训练/验证集与统计量	泄漏、分布偏移、标签错位
策略训练	配置模型与超参，监督训练	训练集、配置文件	检查点与评估曲线	过拟合、chunk 设置不合理
评估验证	仿真回放与真机小批量测试	检查点、评估任务	成功率、平滑度、耗时	仿真到真机差距、指标单一
部署推理	导出服务、接入控制循环	检查点、机器人 SDK	可执行策略服务	延迟、频率不匹配、安全限幅缺失

下面这张图展示了本课程的整体学习路径与各阶段之间的依赖关系。它同时标出了“数据流”和“反馈流”：训练依赖数据，部署依赖模型，而现场失败案例又会回流到数据采集与训练配置中，形成迭代闭环。

四、方法流程：一次完整迭代怎么走

为了让学习路径可操作，下面给出一个最小可用的迭代流程。你可以把它当作本课程的“实验模板”：

定义任务与成功判据：明确物体、初始位姿范围、目标位置、允许误差和最大耗时。没有判据就无法评估。
搭建采集环境：固定相机与光照，完成手眼标定，确认关节状态与图像时间戳可对齐。
采集 30～50 条示教轨迹：覆盖不同初始位置和轻微干扰，避免只采“完美轨迹”。
数据清洗与划分：剔除丢帧、卡顿、误操作片段，按任务实例划分训练/验证集，防止同一轨迹泄漏。
训练与监控：先小规模过拟合验证管线，再放大数据；关注训练损失、验证损失和动作平滑度。
评估与部署：先在仿真或回放中验证，再以低速、小范围接入真机，逐步放开速度与工作空间。
复盘与回流：记录失败类型，补充对应数据或调整参数，进入下一轮迭代。

# 典型训练配置片段（示意）
task_name: pick_insert
chunk_size: 100
observation:
  cameras: [top, wrist]
  image_size: [224, 224]
  state_dim: 14
training:
  batch_size: 32
  lr: 1e-4
  epochs: 2000
  val_ratio: 0.15
deployment:
  control_freq_hz: 30
  temporal_ensemble: true
  max_action_delta: 0.05

五、案例与场景：为什么 ACT 适合精细操作

以“插销入孔”为例：单步策略容易在接近孔位时来回抖动，因为每一步的视觉误差都会被放大。ACT 预测未来一段动作，模型可以“提前减速、对准、再插入”，动作更接近人类示教的节奏。再以“折叠衣物”为例，动作块让机械臂在抓取边角后连续完成翻折，而不是每步重新决策，显著减少停顿和漂移。

但 ACT 并非万能。如果任务需要极高频率的力反馈闭环，或环境变化剧烈、示教数据无法覆盖，单纯模仿学习会受限。这时需要结合力控、视觉伺服或在线修正。本课程会在后续章节中逐步展开这些边界与组合方案。

六、常见误区与复盘清单

误区一：数据越多越好。低质量、重复、未对齐的数据会稀释有效信号。先保证采集规范，再谈规模。
误区二：只看训练损失。训练损失下降不代表真机成功率高，必须结合验证集和真机小批量测试。
误区三：忽略部署频率。训练时的 chunk 与部署时的控制频率不匹配，会导致动作跳跃或延迟累积。
误区四：没有安全限幅。策略输出可能超出关节限位或速度限制，部署前必须加限幅与急停逻辑。

建议你在每个阶段结束时回答三个问题：输入是否干净？输出是否可量化？失败是否可复现？如果这三个问题都有明确答案，说明你已经走在正确的工程路径上。接下来，课程将沿着这条路径逐层深入，从数据采集的细节开始，逐步构建可训练、可评估、可部署的 ACT 策略系统。