VIP20
本课程属于：004-llama cpp AI与大模型 · 共 20 门相关课程，组合学习更完整。
查看所属VIP全部课程 →
← 返回所属目录 咨询 / 购买

Raspberry Pi部署llama cpp实操

共计 30 章节
点击此处阅读海量试读课程：100+行业、1000+细分领域
01
Raspberry Pi概述
型号选择与硬件准备
RaspberryPi
02
安装Raspberry Pi OS与基础配置
安装Raspberry Pi OS与基础… · 核心概念 · 实践要点
RaspberryPi
03
远程访问Raspberry Pi
SSH与VNC
RaspberryPi
04
系统更新与常用工具安装
系统更新与常用工具安装 · 核心概念 · 实践要点
系统更新常用工具安装
05
了解llama.cpp项目与原理
了解llama.cpp项目与原理 · 核心概念 · 实践要点
llama.cpp了解
06
安装依赖
CMake · Git · Python等
安装依赖CMake
07
从源码编译llama.cpp（CPU版本）
从源码编译llama.cpp（CPU版本… · 核心概念 · 实践要点
llama.cppCPU
08
编译llama.cpp（OpenBLAS加速）
编译llama.cpp（OpenBLAS… · 核心概念 · 实践要点
llama.cppOpenBLAS
09
编译llama.cpp（CLBlast GPU加速）
编译llama.cpp（CLBlast… · 核心概念 · 实践要点
llama.cppCLBlast
10
模型文件获取
从Hugging Face下载GGM…
模型文件获取Hugging
11
使用llama-cli运行模型（命令行对话）
使用llama-cli运行模型（命令行对… · 核心概念 · 实践要点
llama-cli使用
12
参数调优
上下文长度 · 线程数 · 温度等
参数调优上下文长度
13
使用llama-server搭建API服务
使用llama-server搭建API服… · 核心概念 · 实践要点
llama-serverAPI
14
调用API
Python客户端示例
API调用
15
使用llama-server的Web界面
使用llama-server的Web界面 · 核心概念 · 实践要点
llama-serverWeb
16
模型量化
将模型转换为GGUF格式
模型量化GGUF
17
运行量化后的模型对比性能
运行量化后的模型对比性能 · 核心概念 · 实践要点
运行量化后的模型…重点
18
性能监控
CPU · 内存 · 温度
性能监控CPU
19
使用systemd设置自启动服务
使用systemd设置自启动服务 · 核心概念 · 实践要点
systemd使用
20
安全加固
防火墙 · 用户权限
安全加固防火墙
21
外接硬件
USB麦克风 · 摄像头（扩展）
外接硬件USB
22
集成语音识别（Whisper.cpp）与llama.cpp
集成语音识别（Whisper.cpp）与… · 核心概念 · 实践要点
Whisper.cppllama.cpp
23
搭建本地知识库
结合向量数据库
搭建本地知识库结合向量数据库
24
使用llama.cpp的C++ API编写自定义应用
使用llama.cpp的C++ API编… · 核心概念 · 实践要点
llama.cppC++
25
使用llama.cpp的Python绑定（llama-cpp-python）
使用llama.cpp的Python绑定… · 核心概念 · 实践要点
llama.cppPython
26
多模型管理
切换不同模型
多模型管理切换不同模型
27
错误排查
常见编译问题与运行时错误
错误排查常见编译问题
28
性能优化
使用OpenMP多线程 · 设置CPU亲和性
性能优化OpenMP
29
功耗管理
降低功耗以稳定运行
功耗管理降低功耗以稳定运…
30
项目总结与进一步学习资源
项目总结与进一步学习资源 · 核心概念 · 实践要点
项目总结进一步学习资源