VIP20

本课程属于：028-模型风险管理API限流熔断 金融科技风控与量化工程 · 共 20 门相关课程，组合学习更完整。

查看所属VIP全部课程 →

← 返回所属目录咨询 / 购买

模型风险管理中的API网关限流教程

共计 30 章节

点击此处阅读海量试读课程：100+行业、1000+细分领域

模型风险管理概述

定义 · 重要性 · 监管要求（如巴塞尔协议）

模型风险管理概述定义

API网关基础

什么是API网关 · 核心功能（路由 · 认证

API网关基础

限流基本概念

限流定义 · 为什么需要限流（保护模型服务 · 防止滥用）

限流基本概念限流定义

模型风险中的限流场景

高并发模型调用 · 恶意攻击防护 · 成本控制

模型风险限流场景

常见限流算法（上）

令牌桶算法原理 · 实现方式 · 优缺点

常见限流算法令牌桶算法原理

常见限流算法（下）

漏桶算法 · 滑动窗口算法 · 计数器算法原理对比

常见限流算法漏桶算法

API网关限流配置（以Kong为例）

Kong简介 · 安装 · 配置Rate Limiting插件

API网关限流配置（以Nginx为例）

Nginx限流模块（limit_re… · 配置语法 · 实战案例

API网关限流配置（以Spring Cloud Gateway为例）

Spring Cloud Gatew… · RequestRateLimiter…

基于用户维度的限流

按API Key · 用户ID · IP地址进行限流策略设计

基于用户维度的限…API

基于模型维度的限流

按模型ID · 模型版本 · 模型类型（如LLM

基于模型维度的限…ID

基于时间维度的限流

秒级 · 分钟级 · 小时级

基于时间维度的限…秒级

动态限流策略

根据模型负载 · 系统健康状态动态调整限流阈值

动态限流策略根据模型负载

限流与模型风险监控

限流触发告警 · 日志记录 · 与Prometheus/Grafan…

限流模型风险监控

限流与模型版本管理

灰度发布时的限流策略 · 新旧版本模型流量分配

限流模型版本管理

限流与模型安全

防止模型窃取（Model Steal… · 防止DDoS攻击 · 防止推理成本爆炸

限流模型安全

限流与模型公平性

多租户场景下的公平调度 · 权重分配 · 优先级队列

限流模型公平性

限流与模型成本优化

基于Token消耗的限流 · 基于推理时间的限流 · 预算控制

限流模型成本优化

限流与模型SLA

定义SLA指标（QPS · 延迟） · 限流对SLA的影响

限流与模型合规

GDPR · 金融监管对模型调用的审计要求 · 限流日志的合规存储

限流模型合规

限流与模型可观测性

分布式追踪（OpenTelemetr… · 限流事件的可观测性 · 链路分析

限流模型可观测性

限流与模型弹性伸缩

限流与Kubernetes HPA联… · 自动扩容时的限流调整

限流模型弹性伸缩

限流与模型缓存

缓存策略对限流的影响 · 缓存命中率与限流阈值的关系

限流模型缓存

限流与模型重试机制

客户端重试策略 · 退避算法（Exponential B… · 防止重试风暴

限流模型重试机制

限流与模型降级

限流触发后的降级方案（返回默认值 · 返回缓存结果 · 返回错误提示）

限流模型降级

限流与模型熔断

熔断器模式（Circuit Brea… · 与限流的协同工作 · 状态机（Closed/Open/Ha…

限流模型熔断

限流与模型负载测试

使用JMeter/Locust进行限… · 测试用例设计 · 结果分析

限流模型负载测试

限流与模型混沌工程

注入限流故障 · 验证系统韧性 · 限流策略的混沌实验

限流模型混沌工程

限流与模型治理平台

统一限流配置中心 · 策略下发 · 可视化Dashboard

限流模型治理平台

模型风险管理中限流的最佳实践

总结 · 常见陷阱 · 未来趋势（AI驱动的限流）

模型风险管理限流的最佳实践