所属分类：AI大模型与智能应用 当前为单品课程，可返回上一级继续浏览同方向资料。
← 返回上一级
← 返回所属目录 咨询 / 购买

LLaMA-Factory大模型微调实战

共计 30 章节
点击此处阅读海量试读课程：100+行业、1000+细分领域
01
课程导入
学习目标 · 适用人群 · 课程整体框架与实战项目预览
课程导入学习目标
02
大模型微调基础
什么是微调 · 预训练与微调的区别 · 全量微调与参数高效微调（PEFT）的…
大模型微调基础什么是微调
03
LLaMA-Factory简介
项目背景 · 核心功能 · 支持的主流模型（LLaMA
LLaMA-Factor…简介
04
环境搭建
Python环境 · CUDA/GPU配置 · 安装LLaMA-Factory
环境搭建Python
05
数据准备基础
微调数据格式（Alpaca · ShareGPT等） · 数据清洗
数据准备基础Alpaca
06
数据集构建实战
从公开数据集下载 · 自定义JSON数据 · 多轮对话数据构造与去重
数据集构建实战从公开数据集下载
07
配置文件详解
YAML配置 · 模型路径 · 数据集路径
配置文件详解YAML
08
单卡微调实战
使用LLaMA-Factory命令行… · 完整流程演示与日志解读
单卡微调实战LLaMA-Factor…
09
多卡分布式微调
DeepSpeed · FSDP配置 · 多GPU并行训练
多卡分布式微调DeepSpeed
10
LoRA与QLoRA原理
低秩适配 · 量化感知训练 · bit量化
LoRAQLoRA
11
全量微调实战
全参数微调的适用场景 · 显存估算 · 训练策略与注意事项
全量微调实战全参数微调的适用…
12
指令微调（SFT）
指令数据构建 · 模板设计 · 损失计算
SFT指令微调
13
人类反馈强化学习（RLHF）基础
RLHF流程 · 奖励模型 · PPO算法与DPO简介
RLHF人类反馈强化学习
14
DPO实战
使用LLaMA-Factory进行D… · 偏好数据准备 · 训练参数与效果评估
DPOLLaMA-Factor…
15
模型评估与验证
自动评估指标（BLEU · ROUGE · 困惑度）
模型评估验证
16
推理与部署
模型导出（合并LoRA权重） · 量化推理 · 使用vLLM或TGI部署API服务
推理部署
17
WebUI与API使用
LLaMA-Factory的Web界… · 训练任务管理 · 模型对话测试
WebUIAPI
18
领域微调案例（医疗）
医疗问答数据构建 · 微调医疗大模型 · 效果对比与优化
领域微调案例医疗
19
领域微调案例（法律）
法律文书数据 · 合同审查任务微调 · 数据隐私与合规注意事项
领域微调案例法律
20
领域微调案例（金融）
金融舆情分析 · 财报问答 · 风险提示生成与模型鲁棒性
领域微调案例金融
21
多语言微调
多语言数据混合 · 语言平衡策略 · 跨语言迁移效果与评测
多语言微调多语言数据混合
22
长文本微调
长上下文数据构造 · 位置编码扩展 · 显存优化与训练稳定性
长文本微调长上下文数据构造
23
灾难性遗忘与缓解
微调后通用能力下降问题 · 回放数据 · 混合训练与正则化方法
灾难性遗忘缓解
24
超参数调优
学习率 · 批次大小 · 优化器选择
超参数调优学习率
25
常见错误与调试
显存溢出（OOM） · loss不下降 · 过拟合
常见错误调试
26
模型合并与转换
LoRA权重合并 · 模型格式转换（HuggingFace · GGUF）
模型合并转换
27
微调加速技巧
梯度累积 · 混合精度 · 梯度检查点
微调加速技巧梯度累积
28
模型安全与对齐
有害内容过滤 · 安全微调 · 红队测试
模型安全对齐
29
综合实战项目
从零微调一个领域助手（如客服机器人） · 涵盖数据 · 训练
综合实战项目从零微调一个领域…
30
课程总结与进阶方向
常见问题回顾 · 学习资源推荐 · 未来趋势（Agent微调
课程总结进阶方向