第1章 复盘启动准备
本章定位:复盘启动准备是整个机会评分模型复盘优化的“零号里程碑”。在正式开展数据清洗、模型校准、策略调整之前,必须先做对方向、搭对班子、排好日程、定好产出。缺了这一步,后续所有工作都可能陷入目标模糊、资源错配、输出失范的困境。
1. 适用场景
- 已完成一轮机会评分模型的初版部署与线上运行,需要系统复盘模型表现差异的团队。
- 模型上线后关键指标(如准确率、召回率、覆盖率、分箱单调性)明显下滑或与预期偏差超过10%。
- 业务方(销售、运营、风控)对评分结果产生质疑,要求给出模型调整方案。
- 距离下一轮模型迭代窗口有至少2周以上的准备时间,能够在不影响日常作业的前提下完成复盘。
2. 前置条件
| 前置条件 | 验收标准 | 负责人 |
|---|---|---|
| 模型已上线运行满1个完整业务周期(通常≥1个月) | 至少积累5000条以上评分记录及实际结果 | 建模负责人 |
| 有可追溯的模型版本记录与评分日志 | 可从数据库/日志系统回溯评分时间、版本、输入特征 | 数据工程师 |
| 业务方已提出复盘需求或模型监控告警触发 | 有正式的复盘申请工单或邮件 | 模型运营 |
| 团队核心成员时间可用 | 2周内无重大项目冲突,确认参团人员 | 项目经理 |
3. 操作步骤
- 明确复盘目标:召集业务方与模型团队对齐复盘核心问题(如“评分倒挂”“头部机会缺失”),将目标写入《复盘目标说明书》模板。
- 组建复盘团队:确定项目经理、建模专家、数据支撑、业务方代表、风控/合规顾问,并明确各角色权责。
- 制定时间计划:划分三个阶段——数据准备(3天)、模型诊断(5天)、策略优化与输出(4天),预留2天缓冲。
- 确定输出物模板:产出《模型偏差分析报告》《特征稳定性报告》《策略调整建议书》《复盘总结会议纪要》四份模板,并统一格式。
4. 输入输出物
| 输入物 | 输出物 |
|---|---|
| 线上评分日志(含时间戳、客户ID、评分、最终结果) | 《复盘目标说明书》 |
| 模型版本配置文件(特征定义、权重、分箱) | 《复盘团队通讯录及职责矩阵》 |
| 业务方反馈问题清单 | 《复盘时间甘特图》 |
| 模型监控看板截图(PSI、KS、AUC趋势) | 四份输出物模板(空白模板文件) |
5. 责任边界
- 项目经理:负责目标确认、进度推进、干系人沟通;对复盘整体产出负责。
- 建模专家:负责模型诊断技术路线、分箱与特征分析;对技术结论准确性负责。
- 数据支撑:负责日志抽取、数据清洗、一致性校验;对数据质量负责。
- 业务方代表:提供业务视角反馈、确认策略可落地性;对业务合理诉求负责。
- 风控/合规顾问:审视评分模型在监管及风险偏好框架内的合规性;对合规风险负责。
6. 记录材料
以下为本阶段须归档的关键记录,存入项目共享文件夹 复盘启动包/:
复盘目标说明书_v1.0.docx—— 含目标来源、期望效果、优先级判断。复盘团队通讯录.xlsx—— 含姓名、角色、邮箱、可用时间。复盘时间计划_v1.0.mpp或复盘时间计划_v1.0.pdf—— 甘特图。输出物模板包/—— 内含4份模板文件(偏差报告、特征报告、策略建议、会议纪要)。
7. 异常处理
常见异常及预案:
- 目标冲突:业务方要求“尽快出分”,模型团队坚持“完整诊断”——由项目经理组织优先级投票,若无法达成一致则上升至业务负责人裁定。
- 关键成员无法参会:若建模专家或数据支撑因紧急生产事故无法参与,则复盘启动延期至其到位,或由备份人员临时顶替(须在通讯录中标注B角)。
- 数据不可用:日志缺失超过30%或关键字段被覆盖——立即触发数据回滚方案,寻找备份日志;若仍不可用,则缩小复盘范围至“仅存量可用数据段”。
- 输出物模板冲突:模板格式与公司标准不一致——参考最近一次模型评审会议模板格式对齐,并同步更新至共享文件夹。
8. 验收标准
| 验收项 | 通过标准 |
|---|---|
| 复盘目标说明书 | 包含3个以上可量化指标(如“将前10%机会的过期率降低20%”),且业务方签字确认。 |
| 复盘团队 | 至少覆盖建模、数据、业务、风控4个角色,通讯录中已包含B角信息。 |
| 时间计划 | 甘特图细化到每日任务,里程碑节点清晰,总工期≤14个工作日。 |
| 输出物模板 | 4份模板均经过项目经理预审,格式统一、字段完整、无前后矛盾。 |