首页
›
实战100例
›
016-大模型部署与推理优化实战
›
《llama.cpp本地大模型推理部署实战100例》
VIP15
本课程属于：016-大模型部署与推理优化实战
实战100例 · 共 15 门相关课程，组合学习更完整。
查看所属VIP全部课程 →
← 返回所属目录
咨询 / 购买
《llama.cpp本地大模型推理部署实战100例》
共 100 例
01
环境准备与llama.cpp源码编译
02
Windows平台编译与配置
03
macOS（Apple Silicon）编译与Metal支持
04
Docker容器化部署llama.cpp
05
下载并转换GGUF模型
06
量化模型：从FP16到Q4_K_M
07
使用llama-cli进行文本生成
08
交互式聊天模式
09
批处理推理：从文件输入输出
10
调整推理参数：温度与top_p
11
设置上下文长度与最大生成令牌
12
使用GPU加速推理（CUDA）
13
多GPU并行推理
14
CPU线程优化
15
使用llama-server启动HTTP服务
16
调用兼容API
17
流式输出实现
18
并发请求处理
19
自定义系统提示词与角色扮演
20
使用llama-perplexity评估困惑度
21
模型合并与拆分
22
模型信息查看
23
LoRA微调模型加载
24
嵌入模型使用
25
使用llama.cpp进行文本分类
26
使用llama.cpp进行命名实体识别
27
使用llama.cpp进行摘要生成
28
使用llama.cpp进行翻译
29
使用llama.cpp进行代码生成
30
使用llama.cpp进行代码解释
31
使用llama.cpp进行问答
32
使用llama.cpp进行多轮对话管理
33
使用llama.cpp进行JSON结构化输出
34
使用llama.cpp进行表格数据生成
35
使用llama.cpp进行文本纠错
36
使用llama.cpp进行文本改写
37
使用llama.cpp进行创意写作
38
使用llama.cpp进行关键词提取
39
使用llama.cpp进行情感分析
40
使用llama.cpp进行文本蕴含识别
41
使用llama.cpp进行文本相似度计算
42
使用llama.cpp进行文本聚类
43
使用llama.cpp进行语义搜索
44
使用llama.cpp进行零样本分类
45
使用llama.cpp进行少样本学习
46
使用llama.cpp进行思维链推理
47
使用llama.cpp进行指令遵循
48
使用llama.cpp进行多语言支持
49
使用llama.cpp进行长文本处理
50
使用llama.cpp进行对话摘要
51
使用llama.cpp进行文本生成控制
52
使用llama.cpp进行文本填充
53
使用llama.cpp进行文本扩写
54
使用llama.cpp进行文本压缩
55
使用llama.cpp进行文本风格迁移
56
使用llama.cpp进行文本去毒
57
使用llama.cpp进行文本简化
58
使用llama.cpp进行文本形式化
59
使用llama.cpp进行文本口语化
60
使用llama.cpp进行文本幽默化
61
使用llama.cpp进行文本讽刺检测
62
使用llama.cpp进行文本情绪识别
63
使用llama.cpp进行文本意图识别
64
使用llama.cpp进行对话生成
65
使用llama.cpp进行故事生成
66
使用llama.cpp进行诗歌生成
67
使用llama.cpp进行歌词生成
68
使用llama.cpp进行剧本生成
69
使用llama.cpp进行广告文案生成
70
使用llama.cpp进行邮件撰写
71
使用llama.cpp进行简历优化
72
使用llama.cpp进行面试问题生成
73
使用llama.cpp进行合同条款解释
74
使用llama.cpp进行医疗咨询模拟
75
使用llama.cpp进行法律咨询模拟
76
使用llama.cpp进行金融分析
77
使用llama.cpp进行市场调研
78
使用llama.cpp进行教育辅导
79
使用llama.cpp进行编程辅导
80
使用llama.cpp进行SQL查询生成
81
使用llama.cpp进行正则表达式生成
82
使用llama.cpp进行命令行操作建议
83
使用llama.cpp进行系统管理自动化
84
使用llama.cpp进行日志分析
85
使用llama.cpp进行数据清洗
86
使用llama.cpp进行数据标注
87
使用llama.cpp进行数据增强
88
使用llama.cpp进行特征提取
89
使用llama.cpp进行模型蒸馏
90
使用llama.cpp进行模型评估
91
使用llama.cpp进行模型对比
92
使用llama.cpp进行模型微调（LoRA）
93
使用llama.cpp进行模型量化感知训练
94
使用llama.cpp进行模型剪枝
95
使用llama.cpp进行模型融合
96
使用llama.cpp进行模型缓存
97
使用llama.cpp进行模型并行
98
使用llama.cpp进行模型服务化
99
使用llama.cpp进行模型监控
100
使用llama.cpp进行模型安全测试
所属VIP或分类
同VIP：DeepSpeed-ZeRO训练优化实战100例
同VIP：DeepSpeed大模型训练优化库实战100例
同VIP：FlashAttention推理优化实战100例