第三章 — AI能力边界图
AI解决方案设计的第一项架构决策不是选择模型或框架，而是判断当前问题是否位于AI的能力边界之内。本章建立一套可复用的问题分类—模型匹配—边界识别框架，帮助架构师在项目启动阶段快速排除不可行路径，避免将资源投入AI无法有效解决的场景。
架构决策预警： 根据内部项目复盘统计，约34%的AI PoC失败源于“问题本身不适合AI求解”，而非技术实现能力不足。本章框架可作为PoC立项前的必经检查点。
3.1 AI可解问题分类：三维判定模型
采用输入确定性、输出开放性、反馈延迟三个维度将问题划分为8个类别，其中只有类别1~5适合当前主流AI方案。
| 类 | 输入确定性 | 输出开放性 | 反馈延迟 | 典型问题举例 | AI适用性 |
|---|---|---|---|---|---|
| 1 | 高（结构化） | 低（分类/回归） | 短（秒~分钟） | 信用卡欺诈检测、设备故障分类 | ✔ 强适用 |
| 2 | 高（结构化） | 中（多标签） | 短 | 医学影像病灶标注、零件缺陷检测 | ✔ 强适用 |
| 3 | 中（半结构化） | 低 | 短 | 客服工单分类、日志异常检测 | ✔ 强适用 |
| 4 | 中（半结构化） | 高（生成） | 中（分钟~小时） | 合同摘要生成、代码补全、文案撰写 | ◐ 有条件适用 |
| 5 | 低（非结构化） | 高（开放） | 长（天~周） | 开放式问答、创意设计、战略分析 | ◐ 有条件适用 |
| 6 | 高 | 高 | 短 | 实时对话生成（无事实约束） | ✘ 需人工兜底 |
| 7 | 低 | 低 | 短 | 模糊图像分类（低信噪比） | ✘ 不推荐 |
| 8 | 低 | 高 | 长 | 无约束长期规划、伦理决策 | ✘ 不适合 |
架构速查： 输入确定性可通过“字段缺失率 < 5% + 值域可枚举”快速判定；输出开放性判断标准为“是否存在唯一正确答案”。两个条件同时满足即落入类别1~3，可优先采用监督学习方案。
3.2 模型能力与人类判断边界：四层能力分层
将AI模型的能力成熟度划分为四个层级，每个层级对应不同的判断职责分配。
| 能力层 | 模型表现 | 人类介入要求 | 典型模型举例 | 架构信任策略 |
|---|---|---|---|---|
| L1 — 感知 | 特征识别、模式匹配 | 结果复核 | ResNet、YOLO、语音唤醒 | 阈值告警 + 人工抽样 |
| L2 — 判断 | 分类、排序、异常打分 | 人工审批高置信区间 | BERT、XGBoost、DNN | 置信度门控 → 人工接管 |
| L3 — 生成 | 文本/代码/图像生成 | 事实核查 + 风格调优 | GPT-4、Claude、Stable Diffusion | 输出层校验 + 人工修正 |
| L4 — 决策 | 策略推荐、路径规划 | 仅在边界条件触发时介入 | 强化学习、MoE系统 | 沙盒仿真 + 异常回滚 |
判断边界原则： 当输出错误可能造成直接人身伤害、重大财务损失或违反法律法规时，无论模型属于L几，都必须保留人类在环（Human-in-the-Loop）。此原则在系统架构层面体现为一条不可熔断的信任链路。
3.3 不适合AI的场景识别：决策树与风险矩阵
以下决策树用于快速过滤不适合AI求解的场景。路径终点标记为“✘ 不具备可行性”时，应终止AI方案立项。
Q1: 问题是否存在可获取的历史数据或可模拟的反馈环境？
├── 否 → ✘ 不具备可行性（数据饥饿）
└── 是 → Q2
Q2: 问题是否要求100%可解释且零容错？
├── 是 → Q3
└── 否 → Q4
Q3: 是否可以通过规则引擎 + 人工兜底实现？
├── 是 → ✘ 不推荐AI（规则已足够）
└── 否 → ✘ 不具备可行性（可解释性不满足）
Q4: 问题是否存在唯一正确答案或明确评价指标？
├── 是 → 进入AI能力边界（类别1~3）
└── 否 → Q5
Q5: 输出是否需要满足严格的事实一致性或法律合规？
├── 是 → ✘ 不具备可行性（幻觉风险不可控）
└── 否 → 有条件进入（类别4~5，需人工核查）3.3.1 风险矩阵：六个不可行信号
| 风险信号 | 问题特征 | 典型反例 | 架构应对 / 替代方案 |
|---|---|---|---|
| R1 — 数据饥饿 | 标注样本 < 500，且无法模拟 | 罕见故障诊断、小众语言翻译 | 规则引擎 + 人工流程；或主动学习冷启动 |
| R2 — 解释锁死 | 法规要求逐条决策可解释 | 信贷审批、医疗处方推荐 | 符号AI + 决策树；或仅限于辅助排序 |
| R3 — 幻觉不可接受 | 输出事实误差会导致直接损害 | 药物剂量计算、飞行航线规划 | 禁用生成式模型；采用确定性计算 |
| R4 — 反馈延迟过长 | 结果评估周期 > 3个月 | 宏观经济预测、长期育种策略 | 改用仿真环境 + 离线评估；或放弃AI |
| R5 — 人机边界模糊 | 无法划定模型决策与人类职责 | 司法量刑、儿童教育内容审核 | 只做信息聚合，保留人类完全决策权 |
| R6 — 开放域无约束 | 问题空间无限且无评价锚点 | “如何实现世界和平？” | 分解为子问题；或定位为探索型工具 |
架构落地提示： 识别出R1或R6时，通常意味着当前阶段不应启动AI项目。如果业务方坚持推进，应将其定义为“可行性探索POC”，并设置明确的前置条件——例如“在3周内获取至少2000条高质量标注数据”，否则自动终止资源投入。
3.4 能力边界图：端到端决策框架
下方SVG将前三节的核心判断逻辑整合为一个可交互参考的结构化框架。图中从左到右依次呈现问题输入、三维分类、能力分层、风险过滤和最终决策输出。
3.5 落地步骤与验收标准
按照下表中的五个步骤执行本章能力边界分析，并在步骤结束时生成《AI可行性判断书》作为决策存档。
| 步骤 | 活动 | 输出物 | 验收标准 | 责任角色 |
|---|---|---|---|---|
| S1 | 问题三维分类 | 分类卡（类别1~8） | 业务方确认问题描述准确，三维评分可复现 | 解决方案架构师 |
| S2 | 能力层匹配 | 能力分层表 + 信任链路设计 | 每层明确人类介入点，且与业务风险承受度对齐 | 架构师 + 风控 |
| S3 | 风险信号扫描 | 风险矩阵（R1~R6） | 所有“不适合”信号均已记录，且制定缓解或终止决策 | 架构师 + 产品经理 |
| S4 | 可行性判断 | 《AI可行性判断书》 | 包含结论（✔ / ◐ / ✘）、依据、前置条件、决策人签字 | 技术委员会 |
| S5 | 输出至方案设计 | 技术选型输入 + 验收锚点 | 判断书中的约束条件已传递至下一阶段方案文档 | 解决方案架构师 |
架构交付物样例： 可行性判断书的结论页应包含一句话决策、分类卡片、能力层选择、风险标记和前置条件。例如：
“✔ 可进入AI方案设计 | 类别2（输入高·输出中·反馈短）| L2判断层 + 置信门控 | 无R1~R6信号 | 前置条件：标注样本量≥5,000且标注一致性≥90%”
“✔ 可进入AI方案设计 | 类别2（输入高·输出中·反馈短）| L2判断层 + 置信门控 | 无R1~R6信号 | 前置条件：标注样本量≥5,000且标注一致性≥90%”
3.6 技术选型权衡：边界图对模型选择的约束
能力边界分析直接决定了技术选型的搜索空间：
- 类别1~3（强适用）： 优先选择监督学习或轻量预训练模型，架构重心放在特征工程和推理延迟优化上。
- 类别4~5（有条件适用）： 必须采用生成式模型 + 输出校验管线，架构中需要嵌入事实核查、风格控制和人工修正回路。
- 识别出R2（解释锁死）： 即使问题属于类别1，也应优先选择决策树、逻辑回归或符号AI，而非深度神经网络。
- 识别出R3（幻觉不可接受）： 禁用任何生成式模型，架构中只能包含判别式模型或确定性算法。
架构风险提示： 在能力边界未明确前启动模型选型，是AI项目中最常见的架构负债。根据边界图，约22%的问题在分类阶段就会被判定为“不适合AI”，此时任何模型选型都是无效投入。请务必将本章作为技术可行性分析的第一道闸门。