首页
›
AI智能与边缘计算工程
›
038-大模型推理并发与调度工程
›
《推理并发调度核心原理解析》
VIP8
本课程属于:038-大模型推理并发与调度工程
AI智能与边缘计算工程 · 共 8 门相关课程,组合学习更完整。
查看所属VIP全部课程 →
← 返回所属目录
咨询 / 购买
推理并发调度核心原理解析
📚 共计 30 章节
01
并发调度概述
什么是并发调度 · 为什么需要并发调度 · 并发与并行区别 · 调度器核心目标
基础
概念
02
进程与线程基础
进程概念与生命周期 · 线程概念与优势 · 进程线程对比 · 用户态/内核态线程
操作系统
核心
03
协程与轻量级线程
协程基本原理 · 协程与线程对比 · goroutine与纤程 · 协程调度模型
并发
现代
04
调度算法基础
FCFS · SJF · 时间片轮转 · 优先级调度 · 多级反馈队列
算法
经典
05
调度器架构设计
集中式 · 分布式 · 两级调度模型 · 调度器核心组件
架构
设计
06
任务队列与优先级
任务队列数据结构 · 优先级队列 · 任务窃取 · 全局/本地队列
数据结构
性能
07
工作窃取算法
工作窃取思想 · 窃取策略与触发 · 冲突处理 · 实际案例
算法
负载均衡
08
负载均衡策略
静态/动态/自适应负载均衡 · 一致性哈希应用
分布式
调度
09
锁与同步机制
互斥锁 · 读写锁 · 条件变量 · 信号量 · 无锁编程与CAS
同步
并发
10
原子操作与内存屏障
原子操作原理 · 内存屏障类型 · MESI协议 · 伪共享问题
硬件
内存
11
无锁队列实现
无锁队列原理 · Michael-Scott队列 · 环形缓冲区 · ABA问题
无锁
高性能
12
调度上下文切换
上下文切换开销 · 切换触发条件 · 优化技巧 · TLB刷新
性能
内核
13
中断与异常处理
中断分类与优先级 · 处理流程 · 软/硬中断 · 中断屏蔽
系统
底层
14
实时调度系统
硬实时/软实时 · RMS · EDF · 实时调度挑战
实时
嵌入式
15
多核调度策略
SMP调度 · AMP调度 · 处理器亲和性 · NUMA感知调度
多核
架构
16
GPU调度原理
GPU架构特点 · 线程调度 · Warp与Wavefront · CPU协同
GPU
并行
17
分布式调度框架
MapReduce · Spark · Kubernetes · YARN调度
分布式
框架
18
调度器性能指标
吞吐量 · 延迟 · 公平性 · 资源利用率 · 调度开销
度量
优化
19
调度器调优实践
性能分析工具 · 参数调优 · 常见瓶颈 · 案例分析
调优
实战
20
调度死锁与饥饿
死锁四个条件 · 预防与避免 · 饥饿 · 活锁与优先级反转
死锁
并发
21
调度器测试与验证
单元测试 · 压力测试 · 模拟仿真 · 形式化验证
测试
质量
22
调度器安全与隔离
资源隔离 · 攻击面 · 侧信道攻击 · 安全调度策略
安全
隔离
23
调度器可观测性
日志与追踪 · 指标收集 · 可视化 · 分布式追踪
可观测
运维
24
调度器扩展性设计
水平/垂直扩展 · 无状态调度 · 分片调度 · 高可用
扩展性
架构
25
调度器与操作系统
Linux调度演进 · CFS · BFS · Windows调度器
OS
内核
26
调度器与虚拟化
虚拟机调度 · 容器调度 · CPU pinning · 内存超分
虚拟化
容器
27
调度器与AI
AI工作负载特点 · 训练调度 · 推理调度 · 弹性伸缩
AI
ML
28
调度器未来趋势
异构计算 · 边缘计算 · 量子计算 · 自动化调度
前沿
趋势
29
调度器案例分析
Google Borg · 阿里Sigma · 腾讯TKE · 华为MindSpore
案例
工业
30
调度器实战项目
构建任务调度器 · 实现工作窃取 · 集成监控 · 性能对比
项目
综合
所属VIP或分类
同VIP:Batch推理参数调优实战
同VIP:Batch推理部署实践手册
同VIP:Batch队列与显存协同优化实战