3. 模型压缩概述
在金融业务中，模型往往不是“训练完就结束”，而是要进入交易、风控、投研、客服等真实链路。此时模型能否上线，取决于它是否满足延迟、吞吐、成本、合规与稳定性约束。模型压缩正是连接“实验室指标”与“生产可用性”的关键工程环节。
一、核心定义：压缩的不是精度，而是冗余
模型压缩（Model Compression）是指在尽量保持模型预测能力的前提下，降低模型参数量、计算量、内存占用或推理延迟的一系列技术。它的本质不是简单“把模型变小”，而是识别并移除参数、激活值、权重矩阵或计算路径中的冗余，使模型在目标硬件与业务约束下更高效地运行。
可以用一个更工程化的表达来理解：给定原始模型 f(x; θ) 与目标约束（如延迟 ≤ 20ms、内存 ≤ 200MB），压缩要寻找一个更小的模型 f'(x; θ')，使得 |f(x) - f'(x)| 在业务可接受范围内，同时 cost(f') ≤ budget。因此，压缩是一个带约束的优化问题，而不是单一算法。
关键判断：压缩是否成功，不只看模型大小下降多少，而要看“业务指标—资源指标”的联合曲线是否落在可上线区间。金融场景中，AUC 下降 0.3% 可能可接受，但逾期召回率下降 1% 往往不可接受。
二、动机：为什么金融模型必须压缩
金融场景对模型压缩的动机，通常来自以下五类压力：
- 延迟与吞吐：高频交易、实时反欺诈、支付风控要求毫秒级响应，大模型直接推理无法满足。
- 成本控制：GPU/CPU 资源、云服务费用、能耗与运维成本随模型规模上升，压缩可显著降低单位推理成本。
- 部署环境受限：边缘设备、移动端、柜台终端、嵌入式风控盒子内存与算力有限。
- 合规与可解释：监管要求模型可审计、可追溯，压缩后结构更简单，反而有利于解释与验证。
- 稳定性与版本迭代：小模型更容易做灰度、回滚与多版本并行，降低上线风险。
需要强调的是，金融领域的压缩动机与互联网推荐、CV 场景并不完全相同。金融模型常面对强类别不平衡、低信噪比、时序漂移和严格合规，因此“压缩后精度不掉”往往比“压缩率极高”更重要。
三、主要技术分类：四条主流路线
模型压缩的主流技术可分为剪枝、量化、知识蒸馏和低秩分解四类。它们可以单独使用，也可以组合成压缩流水线。
| 技术 | 核心思想 | 典型收益 | 金融适用点 | 主要风险 |
|---|---|---|---|---|
| 剪枝 | 移除不重要的权重、神经元或通道 | 参数量与计算量下降 | 风控评分卡、树模型、MLP | 剪枝过度导致召回下降 |
| 量化 | 用低比特表示权重/激活 | 内存与延迟显著下降 | 实时反欺诈、移动端推理 | 数值精度损失、校准偏差 |
| 知识蒸馏 | 用大模型指导小模型学习 | 小模型精度接近大模型 | 投研文本分类、客服意图识别 | 教师模型偏差传递 |
| 低秩分解 | 将大矩阵分解为小矩阵乘积 | 矩阵乘法加速 | 因子模型、嵌入层压缩 | 分解秩选择困难 |
下面给出一个典型的压缩配置片段，用于说明量化与剪枝在工程中的参数表达：
compression:
pruning:
method: magnitude
sparsity: 0.5
schedule: gradual
quantization:
weight_bits: 8
activation_bits: 8
calibration_samples: 1024
distillation:
teacher: model_large_v3
temperature: 3.0
alpha: 0.7
四、金融领域的适用性分析
金融业务并非所有模型都适合压缩。判断适用性时，建议从“数据模态、模型结构、延迟要求、合规要求、精度容忍度”五个维度评估。
- 高适用：实时反欺诈、支付风控、移动端信贷审批、客服意图分类。这些场景延迟敏感、模型多为 MLP/树模型/小型 Transformer，量化与剪枝收益明显。
- 中适用：投研文本情感分析、舆情监控、智能投顾问答。模型较大，知识蒸馏与低秩分解更合适，但需关注语义漂移。
- 低适用：高频交易中的超低延迟信号模型、监管报送中的强解释模型。前者对数值精度极敏感，后者对结构变更极敏感，压缩需非常谨慎。
实践建议：在金融场景中，优先选择“量化 + 剪枝”组合处理结构化风控模型；对 NLP 类模型，优先用知识蒸馏获得小模型，再叠加量化。低秩分解更适合嵌入层和全连接层，不宜盲目用于所有矩阵。
五、案例与复盘：一个风控模型的压缩路径
某消费金融风控团队有一个 12 层 MLP 模型，输入 800 维特征，输出逾期概率。线上要求 P99 延迟 ≤ 15ms，原模型在 CPU 上 P99 为 42ms，无法满足。团队按以下流程压缩：
- 用验证集做敏感度分析，发现第 3、5、7 层冗余最高。
- 对全连接层做幅度剪枝，稀疏度从 0.2 逐步升到 0.5。
- 对权重与激活做 8bit 量化，校准集使用最近 30 天样本。
- 用原模型作为教师，对小模型做蒸馏微调，恢复召回。
- 上线前做 A/B 测试，监控 KS、AUC、逾期召回与延迟。
最终模型大小下降 68%，P99 延迟降至 11ms，AUC 仅下降 0.15%，逾期召回持平。复盘发现，最大的风险不是精度，而是校准集分布偏移：如果校准样本只取历史某一段，量化后概率输出会整体偏移，导致阈值策略失效。
常见误区：①只看压缩率，不看业务指标；②量化后不重新校准阈值；③剪枝后不做微调；④蒸馏时教师模型本身有偏差，学生模型放大偏差；⑤忽略线上数据漂移，压缩模型比原模型更脆弱。
总结来看，模型压缩在金融领域的价值，不是追求“最小模型”，而是在业务约束下找到最优的精度—成本平衡点。理解四类技术的原理与边界，再结合金融场景的延迟、合规与漂移特征做选择，才能让压缩真正服务于上线，而不是停留在实验报告里。