VIP20

本课程属于：023-信用评分模型在线推理链路 金融科技风控与量化工程 · 共 20 门相关课程，组合学习更完整。

查看所属VIP全部课程 →

← 返回所属目录咨询 / 购买

信用评分低延迟推理链路案例

共计 30 章节

点击此处阅读海量试读课程：100+行业、1000+细分领域

信用评分业务背景 · 低延迟推理的重要性 · 课程目标与学习路径

课程导论信用评分业务背景

信用评分模型基础

逻辑回归 · 决策树 · XGBoost在信用评分中的应用对比

信用评分模型基础逻辑回归

推理延迟的度量标准

P50/P99延迟 · 吞吐量 · 资源消耗

推理延迟的度量标…P50/P99

特征工程与预处理优化

特征存储选型（Redis/Feast… · 在线特征计算与缓存策略

特征工程预处理优化

模型序列化与加载优化

ONNX · PMML · TensorRT格式对比

模型序列化加载优化

推理引擎选型

Triton Inference S… · TorchServe · BentoML性能对比

推理引擎选型Triton

模型量化技术

FP16 · INT8量化原理 · 在信用评分场景下的精度损失评估

模型量化技术FP16

模型剪枝与蒸馏

结构化剪枝 · 知识蒸馏在保持AUC前提下的加速效果

模型剪枝蒸馏

批处理与动态批处理

静态批处理策略 · 动态批处理调度 · 延迟与吞吐量权衡

批处理动态批处理

GPU vs CPU推理

GPU推理优势 · CPU优化（MKL · AVX指令集）

请求路由与负载均衡

基于一致性哈希的模型分片 · Nginx/Envoy网关配置

请求路由负载均衡

LRU缓存 · 特征缓存 · 结果缓存

缓存策略LRU

异步推理与流式处理

gRPC流式推理 · Kafka事件驱动 · 异步回调模式

异步推理流式处理

推理服务容器化

Docker镜像优化 · Kubernetes部署 · HPA自动扩缩容

推理服务容器化Docker

服务网格与可观测性

Istio流量管理 · Prometheus监控 · Grafana仪表盘

服务网格可观测性

OpenTelemetry集成 · Jaeger追踪 · 推理耗时瓶颈定位

链路追踪OpenTelemetr…

AB测试与灰度发布

模型版本灰度 · 流量切分 · 冠军/挑战者模式

特征漂移与模型监控

PSI指标 · 实时特征分布监控 · 告警与回滚机制

特征漂移模型监控

安全与合规

数据脱敏 · 模型加密 · 推理请求鉴权

端到端延迟优化案例

某银行信用评分系统从200ms到20…

端到端延迟优化案…ms

特征工程流水线

使用Feast管理在线特征 · 特征预计算与物化视图

特征工程流水线Feast

模型集成与融合

多模型投票 · Stacking集成 · 模型融合延迟优化

模型集成融合

在移动端/边缘设备部署轻量信用评分模… · 离线推理场景

边缘推理移动端

Serverless推理

AWS Lambda · 阿里云函数计算部署信用评分模型

Serverless推理

推理成本优化

Spot实例 · 预留实例 · 模型缓存

推理成本优化Spot

多租户隔离

模型服务多租户资源隔离 · QoS保障 · 配额管理

多租户隔离模型服务多租户资…

混沌工程与容错

注入延迟故障 · 模拟节点宕机 · 验证系统韧性

混沌工程容错

性能压测方法论

wrk · Locust · JMeter压测脚本设计

性能压测方法论wrk

最佳实践总结

架构设计原则 · 常见陷阱 · 优化checklist

最佳实践总结架构设计原则

课程总结与展望

低延迟推理未来趋势 · 联邦学习与隐私计算结合

课程总结低延迟推理未来趋…