首页
›
实战100例
›
016-大模型部署与推理优化实战
›
《Llama.cpp边缘部署实战100例》
VIP15
本课程属于：016-大模型部署与推理优化实战
实战100例 · 共 15 门相关课程，组合学习更完整。
查看所属VIP全部课程 →
← 返回所属目录
咨询 / 购买
《Llama.cpp边缘部署实战100例》
共 100 例
01
环境搭建与模型下载
02
CPU推理基础
03
模型量化与精度对比
04
GGUF格式转换
05
交互式聊天模式
06
批处理推理
07
流式输出
08
上下文窗口调整
09
温度与采样参数调优
10
提示词工程基础
11
模型并行推理
12
GPU加速推理
13
内存优化策略
14
低功耗模式
15
模型缓存与加载优化
16
多模型管理
17
API服务搭建
18
客户端调用API
19
并发请求处理
20
安全认证与访问控制
21
日志与监控
22
模型微调与部署
23
自定义词表
24
多语言支持
25
长文本摘要
26
情感分析
27
命名实体识别
28
文本分类
29
问答系统
30
代码生成
31
代码解释
32
翻译任务
33
文本改写
34
关键词提取
35
文本纠错
36
对话系统
37
角色扮演
38
故事生成
39
诗歌创作
40
广告文案生成
41
邮件自动回复
42
会议纪要生成
43
简历优化
44
法律文书辅助
45
医疗咨询辅助
46
教育辅导
47
历史知识问答
48
科学知识问答
49
金融分析
50
旅游规划
51
菜谱推荐
52
健身计划
53
心理疏导
54
智能家居控制
55
语音助手集成
56
边缘设备性能基准
57
模型压缩与剪枝
58
知识蒸馏
59
模型融合
60
异常检测
61
数据脱敏
62
文本摘要与关键词结合
63
多轮对话状态跟踪
64
意图识别
65
槽位填充
66
任务型对话
67
开放域问答
68
知识图谱问答
69
文本蕴含
70
语义相似度
71
文本生成控制
72
少样本学习
73
零样本学习
74
指令微调模型部署
75
对话模型部署
76
代码模型部署
77
多模态模型部署
78
嵌入式系统部署
79
容器化部署
80
边缘计算框架集成
81
模型热更新
82
负载均衡
83
断网离线运行
84
低延迟优化
85
高吞吐量优化
86
模型量化感知训练
87
动态量化
88
混合精度推理
89
内存映射优化
90
多线程优化
91
SIMD指令优化
92
模型分片
93
模型压缩存储
94
模型加密
95
模型版本管理
96
自动化测试
97
性能监控仪表盘
98
故障恢复
99
多用户隔离
100
资源限制
所属VIP或分类
同VIP：DeepSpeed-ZeRO训练优化实战100例
同VIP：DeepSpeed大模型训练优化库实战100例
同VIP：FlashAttention推理优化实战100例