AI与大模型
大模型推理部署、AI产品需求文档PRD与模型卡片编写、知识蒸馏、llama cpp、世界模型
全部合集
点击标题进入目录,或筛选下方课程。
模型与算法基础 2 个合集
- 011-vLLM推理框架实战:从入门到精通20 门课程
课程示例:《PagedAttention机制深度解析》;《vLLM全链路推理延迟综合调优》
- 013-RDMA高性能网络:InfiniBand与RoCE原理20 门课程
课程示例:《InfiniBand与RoCE技术通识》;《InfiniBand交换机配置与故障恢复》
训练、推理与数据 9 个合集
- 005-世界模型20 门课程
课程示例:《JEPA模型多模态应用项目实战讲义》;《JEPA模型推理与评估全流程实战课程》
- 008-GPU数据中心AI算力集群部署20 门课程
课程示例:《AI大模型集群全链路性能调优实战》;《AI算力集群全栈监控与统一运维体系》
- 012-GPU算力集群架构与运维20 门课程
课程示例:《AI算力集群分布式资源调度与负载均衡》;《AI算力集群硬件选型与配置指南》
- 014-GPU Direct与RDMA加速技术详解20 门课程
课程示例:《GPU Direct P2P传输延迟优化》;《GPU Direct RDMA生产环境部署实践》
- 019-英伟达IB:GPU集群网络搭建20 门课程
课程示例:《GPU集群IB拥塞根因与对策》;《GPU集群IB组网硬件选型初探》
- 020-数据中心:RoCE组网20 门课程
课程示例:《DCB环境下RoCE流量控制进阶》;《RoCE协议栈速览与组网基础》
- 021-GPU数据中心:AI算力集群部署20 门课程
课程示例:《AI算力集群中端存储性能调优精讲》;《AI算力集群基础概念速览》
- 022-数据湖仓一体:Delta Lake、Apache Iceberg与Apache Hudi20 门课程
课程示例:《Apache Hudi 写入模式与增量查询速览》;《Apache Iceberg 表格式入门必修课》
- 023-数据湖仓一体:Delta Lake、Apache Iceberg与Apache Hudi20 门课程
课程示例:《Apache Hudi表服务与Compaction调优》;《Delta Lake Change Data Feed增量处理实战》
应用开发与项目 3 个合集
- 017-TensorRT-LLM 实战课程20 门课程
课程示例:《TensorRT-LLM 内存管理与显存优化实战》;《TensorRT-LLM 动态批处理调优指南》
- 025-系统化实战技能19 门课程
课程示例:《AI平台安全与权限管理实战》;《AI训练平台搭建完整实战手册》
- 029-Agent智能体开发20 门课程
课程示例:《AutoGPT模式实现与性能调优》;《AutoGPT模式实现与调优》
部署、评估与优化 1 个合集
- 015-使用NVIDIA Nsight Compute进行内核级性能分析与优化20 门课程
课程示例:《CUDA占用率调优核心原理剖析》;《GPU内存访问模式优化与缓存命中提升进阶》
其他专题 14 个合集
- 001-大模型推理部署20 门课程
课程示例:《GPU显存管理与优化》;《KV缓存优化加速推理》
- 002-AI产品需求文档PRD与模型卡片编写实战20 门课程
课程示例:《AI产品PRD与模型卡片的系统化实战》;《AI产品PRD结构设计:从构思到落地》
- 003-知识蒸馏20 门课程
课程示例:《NLP蒸馏损失函数调试与温度系数优化学习资料》;《NLP蒸馏模型压缩调试与性能优化实战训练指南》
- 004-llama cpp20 门课程
课程示例:《Android ARM环境交叉编译指南》;《CUDA编译与GPU显存管理实战》
- 006 vLLM20 门课程
课程示例:《vLLM与HuggingFace模型无缝集成实战》;《vLLM与LangChain集成开发实战》
- 007-大模型部署20 门课程
课程示例:《大模型推理服务部署项目实战》;《大模型部署API网关优化指南》
- 009-AI+DevOps20 门课程
课程示例:《AI DevOps全链路监控与智能告警系统》;《AI与DevOps融合全景速览》
- 010-CUDA+TensorRT20 门课程
课程示例:《CUDA+TensorRT协同工作流地图》;《CUDA TensorRT多流并发实战》
- 016-InfiniBand+RDMA20 门课程
课程示例:《InfiniBand RC传输服务机制解析》;《InfiniBand与RDMA全景速览》
- 018-AI DevOps实战:从代码到部署全自动化20 门课程
课程示例:《AI DevOps与MLOps融合必修课》;《AI DevOps全流程知识框架》
- 024-英伟达技术20 门课程
课程示例:《AI加速计算全景入门》;《GPU计算资源管理入门》
- 026-vLLM吞吐优化实战指南19 门课程
课程示例:《vLLM与PagedAttention吞吐优化深度解析》;《vLLM与TensorRT吞吐调优对比与选择》
- 027-DeepSpeed20 门课程
课程示例:《DeepSpeed ZeRO优化三阶段精讲》;《DeepSpeed入门与零基础知识框架》
- 028-ONNX模型部署与推理优化20 门课程
课程示例:《ONNX模型C++部署实战指南》;《ONNX模型CPU推理优化指南》
没有匹配的合集,请换一个关键词。
完整课程目录
逐页浏览全部课程目录(无需加载搜索)