VIP20

本课程属于：021-推理性能瓶颈 AI算力与GPU工程 · 共 20 门相关课程，组合学习更完整。

查看所属VIP全部课程 →

← 返回所属目录咨询 / 购买

算力调度器核心原理解析

📚 共计 30 章节

调度器概述

什么是算力调度器 · 分布式位置 · 核心目标：吞吐量、延迟、公平性

调度器核心模型

任务与资源抽象 · 调度队列模型 · 周期与事件驱动

常见调度算法 (上)

FCFS · SJF · 时间片轮转 (RR)

常见调度算法 (下)

优先级调度 · MLFQ · 完全公平调度 CFS

算法多级队列

资源抽象与建模

CPU/内存/GPU-NPU模型 · 异构资源统一描述

任务状态机

生命周期 Pending→Running→Succeeded/Failed · 状态转换图

状态生命周期

调度策略与亲和性

CPU亲和性 · NUMA感知 · GPU拓扑感知

亲和性拓扑

抢占与驱逐

Preemption · Eviction · 优先级反转与解决

调度器架构设计

单体 vs 两级 vs 共享状态调度器

分布式调度器

Google Borg · Omega · Kubernetes Scheduler

核心数据结构

堆与优先队列 · 红黑树 · 跳表应用

数据结构性能

乐观锁 vs 悲观锁 · 无锁队列 · CAS

调度器性能优化

延迟优化 · 吞吐量 · 水平扩展

调度器可观测性

Metrics · Tracing · Logging

监控可观测

测试与验证

模拟测试 · 混沌工程 · 正确性验证

GPU调度原理

显存管理 · CUDA Stream · MIG调度

NPU/TPU调度原理

AI芯片调度 · 张量核心 · 模型/数据并行

Docker · Kubernetes Pod · Requests & Limits

批处理调度

Slurm · YARN · Spark任务调度

批处理集群

硬/软实时 · EDF · RMS

优先级与QoS

优先级队列 · QoS分级 · 资源抢占

回退与重试

指数退避 · 重试策略 · 死锁检测恢复

静态/动态 · 一致性哈希 · Power of Two Choices

数据局部性

Data Locality · 计算存储协同 · 缓存感知

局部性缓存

节点故障 · 任务重调度 · 调度器HA

容错高可用

资源碎片管理

碎片产生 · 整理策略 · 碎片感知调度

多租户隔离

租户隔离 · Quota · Dominant Resource Fairness

多租户公平

自动扩缩容 · HPA · VPA

Spot实例 · 竞价管理 · 成本感知策略

调度器未来趋势

AI驱动 · Serverless · 边缘计算 · 联邦调度