VIP20

本课程属于：035-Flink状态管理 数据工程与实时数据平台 · 共 20 门相关课程，组合学习更完整。

查看所属VIP全部课程 →

← 返回所属目录咨询 / 购买

大规模状态下的Checkpoint优化

📚 共计 30 章节

点击此处阅读海量试读课程：100+行业、1000+细分领域

Checkpoint基础与痛点

什么是Checkpoint、为什么需要它、大规模训练下的IO瓶颈与存储挑战。

同步与异步Checkpoint

同步Checkpoint的阻塞问题、异步Checkpoint的机制与一致性保证。

分布式Checkpoint框架

基于PyTorch Distributed的State Dict保存、Megatron-LM与DeepSpeed的Checkpoint机制。

分布式框架

增量Checkpoint与内存优化

只保存变化参数、内存去重、稀疏化存储策略。

Checkpoint压缩与序列化

使用Zstandard、LZ4等压缩算法、优化Pickle/Protobuf序列化性能。

压缩序列化

多级存储与分层Checkpoint

内存→本地SSD→远端对象存储（S3/OSS）的分层策略。

异步上传与流水线

Checkpoint写入本地后异步上传云端、流水线重叠计算与存储。

异步流水线

故障恢复与一致性

Exactly-Once语义、两阶段提交协议、Write-Ahead Log在Checkpoint中的应用。

一致性恢复

大规模集群下的调度优化

Checkpoint与训练任务的资源争抢、优先级调度、Backpressure机制。

监控与告警

Checkpoint耗时、成功率、存储用量监控、异常自动重试与告警。

Checkpoint版本管理

多版本保留策略、自动清理过期Checkpoint、回滚与热切换。

GPU显存与Checkpoint

显存快照、Mixed Precision下的Checkpoint、ZeRO优化器的状态保存。

模型并行与Checkpoint

Tensor Parallelism、Pipeline Parallelism下的Checkpoint分片与合并。

模型并行分片

数据并行与Checkpoint

DDP与FSDP下的状态同步、Sharded State Dict的设计。

数据并行FSDP

Checkpoint在强化学习中的应用

PPO、DQN等算法的经验回放与模型快照。

Checkpoint在推荐系统中的应用

大规模Embedding表的增量保存与热加载。

推荐系统Embedding

Checkpoint在NLP大模型中的应用

、LLaMA等千亿参数模型的Checkpoint策略。

Checkpoint在CV大模型中的应用

ViT、Stable Diffusion的Checkpoint与继续训练。

Checkpoint在联邦学习中的应用

客户端本地Checkpoint、聚合服务器的状态恢复。

联邦学习隐私

Checkpoint在自动驾驶仿真中的应用

多智能体场景的Checkpoint与回放。

自动驾驶仿真

Checkpoint在科学计算中的应用

分子动力学、气象模拟的Checkpoint与容错。

科学计算HPC

Checkpoint在流式计算中的应用

Flink、Spark Streaming的状态快照与恢复。

流式计算Flink

Checkpoint在数据库系统中的应用

WAL、MVCC与Checkpoint的关系。

Checkpoint在容器编排中的应用

Kubernetes的Pod Checkpoint与迁移。

Checkpoint在边缘计算中的应用

断点续训、模型热更新与资源受限下的优化。

边缘计算轻量

Checkpoint在量子计算中的应用

量子态保存与纠错码的Checkpoint。

Checkpoint在区块链中的应用

状态快照与轻节点同步。

区块链快照

Checkpoint在游戏AI中的应用

AlphaGo、 Five的Checkpoint与分布式训练。

游戏AI强化学习

Checkpoint在生物信息学中的应用

基因序列模型、蛋白质结构预测的Checkpoint。

生物信息蛋白质

Checkpoint未来趋势

无状态训练、内存计算、CXL与Chiplet对Checkpoint的影响。