VIP20

本课程属于：023-信用评分模型在线推理链路 金融科技风控与量化工程 · 共 20 门相关课程，组合学习更完整。

查看所属VIP全部课程 →

← 返回所属目录咨询 / 购买

信用评分model serving部署教程

共计 30 章节

点击此处阅读海量试读课程：100+行业、1000+细分领域

课程导论与信用评分模型概述

信用评分模型在金融风控中的核心价值 · 模型Serving的定义与挑战 · 课程整体路线图

课程导论信用评分模型概述

模型Serving基础概念

什么是模型Serving · 在线推理与批量推理的区别 · Serving系统的关键性能指标（延…

信用评分模型开发回顾

常用算法（逻辑回归 · XGBoost · LightGBM）

信用评分模型开发…常用算法

模型导出与序列化

使用Pickle · Joblib · ONNX格式保存模型

模型导出序列化

环境准备与依赖管理

Python虚拟环境（venv/Co… · 依赖锁定（requirements.… · Docker基础镜像选择

环境准备依赖管理

Flask基础API搭建

Flask框架简介 · 创建第一个REST API端点 · 处理GET/POST请求

Flask模型Serving实战

加载预训练模型 · 实现/predict端点 · 输入数据校验与预处理

FastAPI基础与异步特性

FastAPI框架优势 · 异步请求处理 · 自动生成OpenAPI文档

FastAPI异步特性

FastAPI模型Serving实战

使用Pydantic定义请求/响应模… · 依赖注入 · 高性能模型推理

模型Serving的输入输出设计

特征向量标准化 · 评分结果格式化 · 错误码与异常处理

Docker容器化部署

编写Dockerfile · 构建镜像 · 运行容器

Docker容器化部署

Docker Compose多服务编排

定义Web服务与模型服务 · 网络配置 · 服务依赖管理

使用Gunicorn与Uvicorn提升性能

WSGI与ASGI服务器对比 · 多worker配置 · 生产级启动参数

GunicornUvicorn

Nginx反向代理与负载均衡

Nginx配置基础 · 反向代理到模型服务 · 简单负载均衡策略

Nginx反向代理

模型Serving的监控与日志

Prometheus指标暴露 · Grafana可视化 · 结构化日志（ELK Stack简介）

模型版本管理与A/B测试

多版本模型共存 · 流量切分策略 · A/B测试实验设计

A/B模型版本管理

特征存储与在线特征计算

特征平台概念 · Redis缓存特征 · 实时特征计算管道

特征存储线特征计算

批处理Serving与调度

使用Celery或Airflow进行… · 任务队列设计 · 结果回写

Serving批处理

使用TensorFlow Serving部署深度学习模型

TF Serving架构 · 模型配置 · gRPC与REST接口

TensorFlowServing

使用MLflow进行模型生命周期管理

MLflow Tracking · Model Registry · Serving集成

Kubernetes基础与集群搭建

K8s核心概念（Pod · Service · Deployment）

Kubernetes集群搭建

在Kubernetes上部署模型Serving

编写Deployment与Servi… · 滚动更新策略

KubernetesServing

使用KFServing/KServe实现Serverless推理

KServe架构 · InferenceService C… · 自动扩缩容

KFServing/KS…Serverless

模型Serving的安全防护

API认证（JWT/API Key） · 请求速率限制 · 输入注入防护

性能压测与优化

使用Locust或wrk进行压力测试 · 瓶颈分析 · 模型量化与批处理优化

性能压测优化

边缘端模型Serving

模型轻量化（TensorFlow L… · 边缘设备部署策略

Serving边缘端模型

多云与混合云部署策略

AWS SageMaker · 阿里云PAI · 私有化部署对比与选型

多云混合云部署策略

模型漂移与Serving监控

数据漂移检测 · 概念漂移检测 · 自动回滚机制

Serving模型漂移

CI/CD流水线集成

GitHub Actions自动化测… · 构建镜像 · 部署到K8s

CI/CD流水线集成

课程总结与最佳实践

生产环境Serving Checkl… · 常见陷阱 · 未来趋势（LLM Serving）

课程总结最佳实践