首页
›
实战100例
›
016-大模型部署与推理优化实战
›
《开源大模型本地部署与训练实战100例》
VIP15
本课程属于:016-大模型部署与推理优化实战
实战100例 · 共 15 门相关课程,组合学习更完整。
查看所属VIP全部课程 →
← 返回所属目录
咨询 / 购买
《开源大模型本地部署与训练实战100例》
共 100 例
01
环境准备
02
安装PyTorch与Transformers库
03
下载并加载第一个开源模型
04
使用Transformers Pipeline进行文本分类
05
模型推理性能基准测试
06
使用Hugging Face Hub管理模型
07
模型量化基础
08
使用量化模型
09
使用AWQ量化模型
10
使用llama.cpp部署LLaMA模型
11
使用Ollama运行开源模型
12
使用vLLM部署高性能推理服务
13
使用Text Generation Inference (TGI)部署模型
14
使用FastAPI封装模型推理接口
15
使用Gradio构建交互式聊天界面
16
使用Streamlit构建模型演示应用
17
模型并行推理
18
使用ONNX Runtime加速推理
19
使用TensorRT优化推理
20
使用CTranslate2加速推理
21
模型缓存与内存管理
22
使用PEFT进行参数高效微调
23
LoRA微调
24
QLoRA微调
25
Prefix Tuning微调
26
P-Tuning v2微调
27
全参数微调
28
使用DeepSpeed进行分布式训练
29
使用FSDP进行分布式训练
30
使用Accelerate库简化训练流程
31
数据预处理
32
数据增强
33
数据清洗
34
使用Hugging Face Datasets库管理数据
35
自定义损失函数微调
36
学习率调度策略实验
37
梯度累积与梯度裁剪
38
混合精度训练
39
模型评估
40
模型评估
41
模型评估
42
模型保存与加载最佳实践
43
模型转换
44
模型转换
45
模型转换
46
模型转换
47
模型转换
48
使用Docker部署模型服务
49
使用Kubernetes部署模型服务
50
使用Helm管理模型服务部署
51
模型服务监控
52
模型服务安全
53
模型服务负载均衡
54
模型服务A/B测试
55
模型版本管理
56
模型回滚策略
57
使用LangChain构建应用
58
使用LlamaIndex构建知识库问答
59
使用Haystack构建RAG系统
60
使用向量数据库存储嵌入
61
构建简单的RAG应用
62
使用Embedding模型进行文本相似度计算
63
使用本地模型进行文本摘要
64
使用本地模型进行命名实体识别
65
使用本地模型进行机器翻译
66
使用本地模型进行代码生成
67
使用本地模型进行对话系统
68
使用本地模型进行情感分析
69
使用本地模型进行文本分类
70
使用本地模型进行文本生成
71
使用本地模型进行问答
72
使用本地模型进行文本纠错
73
使用本地模型进行文本改写
74
使用本地模型进行关键词提取
75
使用本地模型进行文本蕴含识别
76
使用本地模型进行自然语言推理
77
使用本地模型进行文本相似度匹配
78
使用本地模型进行文本生成控制
79
使用本地模型进行少样本学习
80
使用本地模型进行零样本分类
81
使用本地模型进行多任务学习
82
使用本地模型进行长文本处理
83
使用本地模型进行流式生成
84
使用本地模型进行批处理推理
85
使用本地模型进行动态批处理
86
使用本地模型进行模型蒸馏
87
使用本地模型进行模型剪枝
88
使用本地模型进行模型并行
89
使用本地模型进行流水线并行
90
使用本地模型进行张量并行
91
使用本地模型进行序列并行
92
使用本地模型进行模型融合
93
使用本地模型进行集成学习
94
使用本地模型进行主动学习
95
使用本地模型进行半监督学习
96
使用本地模型进行迁移学习
97
使用本地模型进行多模态学习
98
使用本地模型进行语音识别
99
使用本地模型进行语音合成
100
使用本地模型进行图像描述
所属VIP或分类
同VIP:DeepSpeed-ZeRO训练优化实战100例
同VIP:DeepSpeed大模型训练优化库实战100例
同VIP:FlashAttention推理优化实战100例