VIP8

本课程属于：011-ONNX跨平台模型部署工程 AI智能与边缘计算工程 · 共 8 门相关课程，组合学习更完整。

查看所属VIP全部课程 →

← 返回所属目录咨询 / 购买

ONNX模型Java部署实战

共计 30 章节

点击此处阅读海量试读课程：100+行业、1000+细分领域

学习目标 · 课程结构 · ONNX与Java部署的概述

课程导入学习目标

安装Java JDK · Maven · ONNX Runtime Java库

环境搭建Java

ONNX模型基础

理解ONNX格式 · 模型结构 · 张量概念

ONNX模型基础

将PyTorch/TensorFlo…

模型转换PyTorch/Tens…

ONNX Runtime Java API

加载模型 · 创建会话 · 输入输出处理

创建张量 · 数据类型转换 · 形状操作

张量操作创建张量

执行推理 · 获取输出 · 处理结果

模型推理执行推理

图像预处理

图像加载 · 缩放 · 归一化

图像预处理图像加载

图像分类实战

使用预训练模型进行图像分类

图像分类实战使用预训练模型进…

目标检测实战

使用YOLO等模型进行目标检测

目标检测实战YOLO

文本分词 · 词嵌入 · 序列填充

文本处理文本分词

情感分析实战

使用BERT等模型进行情感分析

情感分析实战BERT

量化 · 剪枝 · 加速推理

模型优化量化

多线程推理

并发处理多个请求

多线程推理并发处理多个请求

配置CUDA · 使用GPU进行推理

常见异常 · 调试技巧

错误处理常见异常

基准测试 · 内存管理 · 批处理

性能调优基准测试

版本控制 · 动态加载 · 热更新

模型管理版本控制

Spring Boot集成

构建REST API服务

微服务架构

部署模型服务到微服务

微服务架构部署模型服务到微…

容器化部署

使用Docker打包应用

容器化部署Docker

部署到AWS · Azure或阿里云

安全与隐私

模型加密 · 输入验证 · 防止攻击

监控与日志

记录推理日志 · 监控性能指标

模型加载失败 · 推理结果错误 · 内存泄漏

常见问题模型加载失败

构建一个完整的图像分类服务

案例实战构建一个完整的图…

构建一个实时目标检测系统

案例实战构建一个实时目标…

部署一个文本生成模型

案例实战部署一个文本生成…

端到端部署一个多模型应用

综合项目端到端部署一个多…

回顾关键点 · 未来学习方向 · 资源推荐

课程总结回顾关键点