2. 生成式AI基础

在审计场景中引入生成式AI,第一步不是写提示词,而是理解它“为什么会这样回答”。大语言模型(LLM)本质上是一个基于海量文本训练的概率模型:它并不检索数据库中的标准答案,而是根据当前上下文,逐词预测下一个最可能出现的词元()。理解这一点,才能解释为什么同一提示词两次输出可能不同,也才能设计出可复核、可留痕的审计用法。

一、核心原理:从词元预测到上下文窗口

LLM的工作可以拆成三个关键环节。第一是分词:输入文本被切分为词元,中文通常按字或词组切分,英文按子词切分。第二是注意力机制:模型在上下文窗口内计算每个词元与其他词元的相关权重,从而“关注”关键信息。第三是自回归生成:模型每次输出一个词元,再把它拼回输入,继续预测下一个,直到遇到结束符或达到长度上限。

对审计人员而言,最需要记住的是上下文窗口这一约束。窗口是模型单次能“看到”的词元总量,超出部分会被截断或需要外部检索补充。因此,把一整年的凭证直接粘贴给模型往往无效,正确做法是先做结构化抽样,再分批送入。

大语言模型自回归生成链路 输入提示词 含角色/任务/约束 分词与向量化 → embedding 注意力计算 窗口内权重分配 逐词元概率采样 温度/Top-p 控制 自回归:输出词元回填为下一轮输入 上下文窗口边界 可见上下文(提示词 + 已生成内容) 超出部分被截断或需外部检索

二、提示词工程:把审计意图翻译成模型可执行指令

提示词工程不是“话术技巧”,而是把审计目标拆解为模型可执行的结构化指令。一个可复核的提示词通常包含四要素:角色(以审计师视角)、任务(做什么)、约束(依据什么规则、不得做什么)、输出格式(表格/JSON/清单)。

角色:你是一名内部审计师,熟悉《企业内部控制基本规范》。
任务:对下列10笔费用报销记录进行异常识别。
约束:
1. 仅依据给定字段判断,不得编造缺失信息;
2. 每条记录给出风险等级(高/中/低)与判断理由;
3. 理由必须引用具体字段值。
输出格式:Markdown表格,列为 序号 | 风险等级 | 判断理由。
数据:
{此处粘贴结构化记录}

在审计实战中,常用技巧包括:少样本示例(给出1~2个已判定样例,让模型模仿格式与尺度)、思维链(要求先列判断依据再给结论,便于复核)、分步拆解(先抽取字段,再比对规则,最后汇总)。但要注意:思维链提升的是可读性,不等于结论正确,仍需人工复核。

三、输出生成机制:为什么同一提示词结果不稳定

模型输出受温度(temperature)与Top-p等采样参数影响。温度越低,输出越确定、越保守;温度越高,输出越发散、越有创造性。审计场景应优先选择低温度,减少随机性。此外,幻觉是生成式AI的固有风险:模型可能生成看似合理但不存在的事实、法规条款或数据。控制手段包括:限定“仅依据给定材料回答”、要求引用原文、对关键结论做二次验证。

参数/机制作用审计场景建议
温度 temperature控制输出随机性取0~0.3,保证结论稳定可复核
Top-p限制候选词元范围取0.8~0.9,兼顾稳定与表达自然
最大长度限制单次输出词元数按任务设定,避免截断关键结论
上下文窗口决定单次可见信息量超长材料先抽样或分段处理
幻觉生成不实内容要求引用原文并人工抽验

四、常见应用场景与审计误区复盘

在审计与风控工作中,LLM的典型应用场景包括:制度与合同条款比对(提取关键条款并标注差异)、凭证与发票信息抽取(结构化字段)、异常描述生成(把规则命中结果转写为审计说明)、访谈纪要归纳(提炼风险点)、底稿初稿撰写(生成框架后人工修订)。这些场景的共同点是:模型负责“语言转换与初筛”,人负责“判断与定责”。

常见误区一:把模型当数据库。模型不保证事实准确,涉及金额、法规、日期时必须回源核对。

常见误区二:提示词越短越好。审计任务需要明确约束与输出格式,过短提示词会导致结论不可复核。

常见误区三:一次输入全部数据。超出上下文窗口会被截断,应分批处理并保留批次编号。

常见误区四:直接采用模型结论。模型输出应作为审计线索,而非审计证据。

复盘要点:建立“提示词版本 + 输入数据 + 输出结果 + 人工复核意见”的四件套留痕,才能在审计项目中证明结论的可追溯性。建议对高风险任务固定提示词模板与采样参数,形成可复用的审计AI工作底稿。