3. 决策证据审计基础

当AI系统参与信贷审批、医疗分诊、招聘筛选或内容风控时，模型给出的分数、标签或建议往往直接影响个人权益。此时，仅说明“模型准确率95%”远远不够。决策证据审计要回答的是：这个具体决策是如何产生的、依据了哪些数据与规则、能否被独立复核、责任由谁承担。它把可解释性从“解释模型”推进到“证明决策”，是AI治理落地的关键环节。

一、核心原理：审计目标与证据链

决策证据审计的首要任务是明确审计目标。常见目标包括：验证决策是否符合既定政策、确认输入数据未被篡改、还原模型推理路径、评估人工复核是否到位，以及判定异常决策的责任归属。目标不同，所需证据的类型和粒度也不同。

证据链是审计的核心结构。一条完整的决策证据链通常包含五个环节：数据来源（原始输入及其采集时间）、特征处理（清洗、编码、归一化记录）、模型推理（版本、参数、中间输出）、决策规则（阈值、策略、人工干预）、结果与反馈（最终动作、申诉与修正）。每个环节都必须可追溯，即能够通过唯一标识回放到当时的状态。

二、方法流程：从证据采集到问责判定

决策证据审计不是一次性检查，而是一个可重复的流程。典型步骤如下：

1. 确定审计范围与目标：明确审计对象是单个决策、一批决策还是整个系统。
2. 建立证据清单：列出每个环节应产生的证据类型、存储位置和保留期限。
3. 采集与固化证据：使用日志、快照、哈希校验等方式确保证据完整且不可抵赖。
4. 重建决策路径：按时间顺序或数据流顺序还原决策过程。
5. 比对合规要求：将证据与内部政策、外部法规进行逐条比对。
6. 判定问责对象：区分模型缺陷、数据问题、流程漏洞或人为失误。
7. 输出审计结论与整改建议：形成可执行的治理动作。

在技术实现上，证据通常以结构化日志和不可变存储保存。例如，一次信贷决策的证据记录可能如下：

{
  "decision_id": "LN-2024-05-17-88321",
  "timestamp": "2024-05-17T09:23:41+08:00",
  "input_snapshot_hash": "sha256:9f2c...a1",
  "feature_version": "feat_v3.2",
  "model_version": "credit_model_7.1",
  "threshold": 0.62,
  "score": 0.58,
  "decision": "REJECT",
  "human_review": false,
  "policy_id": "CR-POL-2024-03"
}

该记录使审计人员能够验证：输入是否与快照一致、模型版本是否正确、阈值是否被违规修改、人工复核是否按政策触发。

三、合规性、问责制与AI治理的关系

合规性回答“是否遵守规则”，问责制回答“谁对结果负责”，AI治理则回答“如何持续保证两者有效”。三者通过证据链连接：没有证据，合规无法验证；没有可追溯性，问责无法定位；没有治理机制，证据链本身也无法维持。

以医疗AI分诊为例：若系统将某患者标记为低优先级，而实际病情危重，审计需要回答——输入的生命体征是否准确？模型版本是否为最新？阈值是否被调整？医生是否复核？若证据链完整，则可判定是模型偏差、数据错误还是流程失守；若证据缺失，则问责无法进行，治理也无从改进。

四、常见误区与复盘要点

复盘时建议围绕三个问题展开：第一，给定任意决策ID，能否在10分钟内还原完整证据链？第二，证据链中哪个环节最薄弱、最常缺失？第三，问责判定后，治理动作是否真正改变了系统行为？只有把审计结论转化为模型更新、流程修补或权限调整，决策证据审计才形成闭环，AI治理才不是纸面文章。