VIP10
本课程属于：052-模型压缩、ONNX与推理优化 智能金融与金融工程 · 共 10 门相关课程，组合学习更完整。
查看所属VIP全部课程 →
← 返回所属目录 咨询 / 购买

金融模型TensorRT推理加速实战

共计 30 章节
可可资料掘金营 · 点击在线试看
01
课程导入
目标=金融模型推理加速的背景 · 学习目标 · 核心概念与整体课程框架
课程导入目标=金融模型推…
02
金融模型推理场景
目标=量化交易 · 风险控制 · 信用评分
金融模型推理场景目标=量化交易
03
TensorRT基础
目标=TensorRT架构 · 核心组件 · 工作流程与版本特性
TensorRT目标=
04
环境搭建
目标=CUDA · cuDNN · TensorRT安装与验证
环境搭建CUDA
05
模型转换基础
目标=ONNX导出 · 模型检查 · 动态轴设置与常见转换错误
模型转换基础ONNX
06
TensorRT引擎构建
目标=Builder · Network · Parser
TensorRT引擎构建
07
精度校准
目标=FP32 · FP16 · INT8精度模式对比与校准器实现
精度校准FP32
08
量化实战
目标=金融时序模型INT8量化校准 · 精度损失评估与调优
量化实战INT8
09
动态形状支持
目标=金融变长输入 · 批处理动态维度与优化配置文件设置
动态形状支持目标=金融变长输…
10
算子融合与图优化
目标=层融合 · 内核自动调优 · 内存优化与性能分析
算子融合图优化
11
插件开发
目标=自定义金融算子插件编写 · 注册与集成到TensorRT引擎
插件开发目标=自定义金融…
12
推理运行时
目标=ExecutionContex… · 内存管理 · 异步执行与CUDA流
推理运行时ExecutionCon…
13
批处理与并发
目标=多流推理 · 动态批处理 · 服务端并发优化
批处理并发
14
性能分析工具
目标=Nsight Systems · Nsight Compute · TensorRT Profiler使…
性能分析工具Nsight
15
金融时序模型实战
目标=LSTM · GRU · Transformer模型Tenso…
金融时序模型实战LSTM
16
金融CV模型实战
目标=K线图 · 票据识别等CNN模型TensorRT…
CV金融
17
推荐与排序模型实战
目标=DeepFM · Wide&Deep等模型Tensor…
推荐排序模型实战
18
模型服务化
目标=Triton Inferenc…
模型服务化Triton
19
边缘部署
目标=金融终端 · 移动端TensorRT推理优化与资源…
边缘部署目标=金融终端
20
精度与性能权衡
目标=金融风控场景下延迟 · 吞吐与精度的平衡策略
精度性能权衡
21
常见错误与调试
目标=引擎构建失败 · 精度异常 · 内存泄漏等问题排查
常见错误调试
22
版本兼容与迁移
目标=TensorRT版本升级 · ONNX opset兼容与模型迁移
版本兼容迁移
23
安全与合规
目标=金融模型推理中的数据隐私 · 模型保护与审计要求
安全合规
24
端到端项目
目标=从PyTorch金融模型到Te…
端到端项目PyTorch
25
性能基准测试
目标=金融模型推理基准设计 · 指标采集与对比分析
性能基准测试目标=金融模型推…
26
高级优化技巧
目标=CUDA Graph · 多实例GPU · 稀疏化与结构化剪枝
高级优化技巧CUDA
27
云原生部署
目标=Kubernetes · KFServing与TensorRT…
云原生部署Kubernetes
28
监控与运维
目标=推理服务监控 · 日志 · 告警与自动扩缩容
监控运维
29
综合案例
目标=高频交易信号模型TensorR…
综合案例TensorR
30
课程总结与进阶
目标=知识体系回顾 · 最佳实践 · 学习资源与未来趋势
课程总结进阶