2. 模型量化技术：FP16/INT8 量化原理、在反欺诈模型中的应用与精度影响评估
模型量化是降低反欺诈模型 Serving 延迟的核心手段之一。通过将模型权重和激活值从高精度浮点数（FP32）映射到更低比特宽度的数据类型（FP16、INT8），可以显著减少模型体积、内存带宽消耗以及计算延迟，尤其对高吞吐、低延迟的实时反欺诈场景至关重要。
2.1 量化原理：从 FP32 到 FP16 / INT8
量化本质是一种信息压缩过程。FP32 使用 32 位表示一个浮点数，而 FP16 使用 16 位，INT8 使用 8 位整数。量化过程将原始浮点数值范围映射到目标数据类型的表示范围内。
核心公式（对称量化）：
反量化：
Q = round( R / S )，其中 R 为原始浮点值，S 为缩放因子（Scale），Q 为量化后的整数值。反量化：
R ≈ Q × S。
| 数据类型 | 位宽 | 表示范围 | 精度损失 | 主要优势 |
|---|---|---|---|---|
| FP32 | 32-bit | ~±3.4×10³⁸ | 基准 | 高精度，训练和推理通用 |
| FP16 | 16-bit | ~±6.5×10⁴ | 较低（指数位减少） | 显存减半，带宽减半，计算加速明显 |
| INT8 | 8-bit | [-128, 127] 或 [0, 255] | 较高（需校准和补偿） | 极致加速，适合 CPU/GPU 整数指令集 |
2.2 在反欺诈模型中的应用策略
反欺诈模型通常包含 Embedding 层、DNN 层、以及可能的 Transformer 或树模型组件。不同组件对量化的敏感度不同，需要差异化处理。
- Embedding 层：参数量巨大，适合 INT8 量化以大幅减少内存占用。但需注意低频特征的 Embedding 向量可能因量化而丢失区分度，建议对高频特征使用更高精度。
- DNN 全连接层：计算密集，FP16 量化即可获得 2x 加速，且精度损失通常可忽略。INT8 量化需配合校准和逐通道量化。
- Attention 层：对精度敏感，建议优先使用 FP16，若使用 INT8 需对 Softmax 输出进行特殊处理（如保留 FP16 中间结果）。
- 树模型（如 XGBoost/LightGBM）：传统树模型不支持 INT8 量化，但可通过将浮点分裂阈值转换为整数比较实现类似效果。
实战建议：在反欺诈场景中，推荐采用 混合精度量化 策略。对计算密集且对精度不敏感的层（如大 Embedding、DNN 中间层）使用 INT8；对关键输出层、Attention 层使用 FP16 或保留 FP32。这能在延迟和精度之间取得最佳平衡。
2.3 精度影响评估与补偿方法
量化必然引入信息损失，但通过合理的评估和补偿，可以将精度下降控制在可接受范围内（通常 AUC 下降 < 0.1%）。
| 评估指标 | 量化前（FP32） | 量化后（FP16） | 量化后（INT8） | 可接受阈值 |
|---|---|---|---|---|
| AUC | 0.9235 | 0.9231 (-0.04%) | 0.9210 (-0.27%) | 下降 < 0.1% |
| KS | 0.45 | 0.45 (无变化) | 0.44 (-2.2%) | 下降 < 2% |
| LogLoss | 0.112 | 0.113 (+0.9%) | 0.118 (+5.4%) | 增加 < 5% |
精度补偿常用方法：
- 量化感知训练（QAT）：在训练过程中模拟量化误差，让模型权重自适应调整，通常能恢复大部分精度损失。
- 逐通道量化（Per-channel Quantization）：对每个输出通道独立计算缩放因子，相比逐层量化更精细。
- 校准数据集优化：使用与线上分布一致的欺诈样本作为校准集，避免校准偏差。
- 部分量化回退：对精度敏感层（如第一层和最后一层）保留 FP16 或 FP32。
2.4 延迟收益与精度权衡总结
以下表格总结了在典型反欺诈模型（含 Embedding + 3 层 DNN）上应用不同量化策略的实测效果：
| 量化策略 | 模型体积 | 推理延迟（P99） | 吞吐量（QPS） | AUC 变化 | 推荐场景 |
|---|---|---|---|---|---|
| FP32（基线） | 100% | 12 ms | 500 | — | 精度优先，无延迟压力 |
| FP16 | 50% | 7 ms (-42%) | 850 (+70%) | -0.02% | 大多数反欺诈场景首选 |
| INT8（逐层） | 25% | 4 ms (-67%) | 1500 (+200%) | -0.15% | 高吞吐、低延迟要求严格 |
| 混合精度（FP16+INT8） | 30% | 5 ms (-58%) | 1200 (+140%) | -0.05% | 兼顾精度与性能的最佳实践 |
注意：量化后的模型必须经过充分的线上 A/B 测试，特别是对欺诈样本的召回率变化。部分长尾欺诈模式可能因量化而丢失，建议在离线评估时使用包含对抗样本的测试集。