VIP20
本课程属于:029-推理并发调度 AI算力与GPU工程 · 共 20 门相关课程,组合学习更完整。
查看所属VIP全部课程 →
← 返回所属目录 咨询 / 购买

推理并发调度部署实践

📚 共计 30 章节
01
并发调度基础
进程与线程概念 · GIL锁对Python并发的影响 · 并发与并行的区别
进程线程GIL
02
多线程编程
threading模块详解 · 线程创建与启动 · 同步机制 (Lock/RLock/Semaphore)
threading锁
03
线程间通信
Queue队列 · Event事件 · Condition条件变量
QueueEvent
04
线程池实践
ThreadPoolExecutor · 任务提交与结果获取 · 调优参数
线程池Future
05
多进程编程
multiprocessing模块 · 进程创建与通信 · 进程池Pool
多进程Pool
06
进程间通信
Pipe管道 · Queue队列 · Manager共享 · Value与Array
IPC共享内存
07
异步编程入门
asyncio库基础 · 协程定义与运行 · await与async关键字
asyncio协程
08
事件循环机制
事件循环创建 · Task与Future · 回调函数注册
事件循环Task
09
异步HTTP请求
aiohttp实战 · 并发请求控制 · 超时与重试
aiohttpHTTP
10
异步文件操作
aiofiles库 · 异步读写大文件 · 性能对比分析
aiofilesIO
11
并发模型对比
多线程 vs 多进程 vs 异步IO · 适用场景 · 选型决策树
对比选型
12
调度算法基础
FCFS先来先服务 · SJF短作业优先 · RR时间片轮转
FCFSSJFRR
13
优先级调度
静态/动态优先级 · 优先级反转 · 优先级继承协议
优先级反转
14
多级反馈队列
MLFQ算法原理 · 优先级调整策略 · 实际应用案例
MLFQ调度
15
调度器设计
调度器架构 · 任务队列管理 · 调度策略插件化
架构插件化
16
任务依赖调度
DAG有向无环图 · 拓扑排序 · 依赖解析与执行顺序
DAG拓扑
17
分布式调度框架
Celery架构与原理 · 任务队列与结果后端 · Worker管理
Celery分布式
18
Celery实战
任务定义与绑定 · 定时任务Beat · 路由与优先级
Beat路由
19
任务结果处理
结果后端配置 · 状态追踪 · 失败重试与告警
结果重试
20
调度监控与告警
Prometheus指标 · Grafana可视化 · 告警规则配置
监控Grafana
21
容器化部署
Docker镜像构建 · 容器资源限制 · 多容器编排
Docker编排
22
Kubernetes基础
Pod与Deployment · Service与Ingress · ConfigMap与Secret
K8sPod
23
K8s调度器
默认调度器 · 节点亲和性/反亲和性 · Taints与Tolerations
调度亲和性
24
自定义调度器
调度器扩展 · Scheduler Framework · 自定义插件
扩展插件
25
部署策略
滚动更新 · 蓝绿部署 · 金丝雀发布 · A/B测试
蓝绿金丝雀
26
负载均衡
反向代理 · Nginx配置 · 会话保持 · 健康检查
Nginx均衡
27
服务发现
Consul注册中心 · DNS解析 · 客户端/服务端发现
Consul发现
28
配置中心
etcd与Consul · 动态配置刷新 · 配置版本控制
etcd配置
29
性能调优
并发数优化 · 连接池配置 · 内存/CPU调优 · JVM调优
调优连接池
30
生产环境实战
高可用架构 · 容灾备份 · 日志收集 · 全链路监控
高可用监控