4. 证据留痕基础
在金融AI治理中，控制措施是否真正落地，最终都要回到一个朴素的问题：出了事，你能不能证明当时做了什么、为什么这么做、谁批准的、模型是哪个版本？证据留痕就是回答这个问题的机制。它不是简单的“多存点文件”，而是把治理动作转化为可追溯、可验证、可审计的结构化记录。
一、核心原理：证据留痕是什么
证据留痕（Evidence Logging & Traceability）是指在AI系统的全生命周期中，对关键决策、操作、变更和审批行为进行及时、完整、不可篡改的记录，使治理过程具备可回溯性。它包含三个层次：
- 记录层：系统自动或人工产生日志、文档、审批单、版本快照等原始材料。
- 关联层：把“谁、何时、对什么、做了什么、依据什么”绑定在一起，形成证据链。
- 验证层：通过时间戳、哈希、签名、权限控制等手段，保证证据真实且未被篡改。
金融监管强调“可解释、可追溯、可问责”，证据留痕正是这三者的共同底座。没有留痕，模型风险报告只是自说自话；有了留痕，每一次阈值调整、每一次人工复核都能被还原。
二、四类核心证据及其用途
金融AI治理中，证据通常分为四类，它们各自回答不同的问题，缺一不可。
| 证据类型 | 典型内容 | 回答的问题 | 留存要点 |
|---|---|---|---|
| 日志（Log） | 调用记录、输入输出、异常、访问日志 | 系统当时运行了什么？ | 时间戳、唯一请求ID、脱敏、防篡改 |
| 文档（Document） | 模型卡、风险报告、策略说明、评估报告 | 依据什么规则和结论？ | 版本号、责任人、审批状态 |
| 审批记录（Approval） | 上线审批、阈值变更、例外放行 | 谁批准了？权限是否合规？ | 审批人、时间、意见、电子签名 |
| 模型版本（Model Version） | 权重、训练数据快照、超参数、代码提交 | 用的是哪个模型？能否复现？ | 版本哈希、血缘关系、回滚点 |
这四类证据不是孤立的。一次信贷审批拒绝，可能同时涉及：推理日志（输入特征与输出分数）、模型版本（当时生效的v2.3）、策略文档（拒绝阈值依据）、审批记录（阈值调整由风控负责人批准）。只有把它们关联起来，才能形成完整证据链。
三、方法流程：如何建立可用的留痕机制
留痕机制的建设应遵循“先定义、再采集、后治理”的顺序，避免一开始就陷入工具选型。
- 识别关键控制点：梳理AI生命周期中的高风险节点，如数据接入、模型训练、上线审批、阈值调整、人工复核、下线退役。
- 定义证据规格：为每个控制点明确“需要哪类证据、包含哪些字段、由谁产生、保存多久”。
- 嵌入采集动作：把留痕设计进系统和流程，而不是事后补录。例如推理服务自动写入带请求ID的日志。
- 建立关联索引：用统一标识（请求ID、模型版本号、审批单号）把四类证据串起来。
- 设置留存与销毁策略：按监管要求和数据分类分级设定保存期限，到期合规销毁。
- 定期审计与演练：模拟监管问询，检验能否在限定时间内调取完整证据链。
在技术实现上，日志采集通常需要结构化字段。例如一条推理日志可以设计为：
{
"request_id": "req-20240612-8f3a91",
"model_version": "credit-score-v2.3.1",
"timestamp": "2024-06-12T10:23:41+08:00",
"input_hash": "sha256:9c1f...",
"output_score": 0.72,
"decision": "manual_review",
"operator": "system",
"policy_id": "POL-CR-017"
}其中 request_id 和 model_version 是关联四类证据的关键外键，input_hash 用于验证输入未被篡改，policy_id 指向对应策略文档。
四、案例与场景：一次阈值调整的留痕复盘
某银行消费金融AI模型将拒绝阈值从0.65调整为0.70，以降低误拒率。三个月后监管检查，要求说明该调整的依据与审批过程。由于该行建立了留痕机制，调取过程如下：
- 从审批记录中找到变更单，显示由模型风险负责人批准，附有影响评估意见。
- 从文档中调取阈值调整评估报告，说明基于近30天样本的回测结果。
- 从模型版本记录中确认调整后生效版本为v2.4.0，并保留回滚点v2.3.1。
- 从日志中抽取调整前后各1000笔推理记录，验证实际决策分布变化。
四类证据通过变更单号关联，形成完整链条，检查在半天内完成。反之，若只有一份邮件批准、没有版本记录和日志，则很难自证合规。
五、合规要求与常见误区
金融行业的留痕要求主要来自监管对可追溯性和审计配合的强调，通常涉及以下方面：
- 完整性：关键控制点不得缺失记录，禁止选择性留痕。
- 真实性：证据应防篡改，可采用时间戳、哈希链、电子签名。
- 可读性：留存内容应在保存期内可解析、可导出，避免格式过时导致无法读取。
- 保密与脱敏：日志中涉及个人信息需脱敏，访问证据本身也要有权限控制。
- 保存期限：按监管和内部制度设定，通常与业务档案要求一致。
复盘来看，证据留痕的成熟度可以分为三级：能存（有记录）、能找（有索引、可检索）、能证（可验证、可关联、可还原）。金融AI治理的目标应至少达到“能找”，关键控制点达到“能证”。这既是监管要求，也是机构自身风险管理的需要。