1. 课程导入

2018年我刚接手一个电商中台项目，代码量已经超过50万行。每次加个促销活动，要改六个微服务。那时候我就在想——这真的是架构的终点吗？

直到GPT-3的API开放，我试着把商品描述生成外包给大模型。结果呢？一周的工作量，三小时搞定。但问题也来了：怎么让这个"外来和尚"跟我们的订单系统、库存系统好好配合？

这就是接口集成的起点。说白了，大模型再强，也得通过接口跟你的业务系统"握手"。

1.1 从单体到微服务：接口一直在进化

先回顾一下接口的演变史。我刚开始写代码那会儿，接口就是函数调用。后来变成RESTful API，再后来是gRPC、消息队列。每一次变化，都是为了解决一个核心问题：系统之间怎么高效通信。

架构阶段	接口形式	典型问题
单体应用	函数调用、本地方法	牵一发动全身，部署困难
SOA	SOAP/XML-RPC	协议太重，解析慢
微服务	RESTful API、gRPC	服务治理复杂，调用链长
LLM驱动	自然语言接口、Function Calling	非确定性输出，延迟高

你看，每个阶段都在"解耦"。但LLM带来的变化不一样——它把接口从"机器语言"变成了"人类语言"。你想想看，以前调用一个库存查询接口，你得传JSON参数。现在呢？你直接说"查一下SKU-001的库存"，大模型自己就能理解并调用。

1.2 为什么非集成不可？三个真实场景

我在项目里遇到过不少"硬上大模型"的案例。有的直接把用户输入扔给GPT，结果输出格式乱七八糟。有的把整个数据库暴露给模型，差点酿成数据泄露。这些教训告诉我：集成不是可选项，是必选项。

具体来说，有三个场景让我彻底明白了集成的价值：

• 场景一：智能客服——用户问"我的订单到哪了？"大模型得先调用订单查询API，拿到物流信息，再组织成自然语言回复。没有集成，模型就是个"哑巴"。
• 场景二：代码生成——让模型写一段数据库查询代码。它得知道你的表结构、字段类型、索引情况。这些信息从哪里来？从你的元数据API来。
• 场景三：自动化报表——"帮我生成上季度的销售分析"。模型需要调用数据仓库API、图表生成API、邮件发送API。每一步都是集成点。

1.3 架构演进：从"调用"到"对话"

传统的接口集成是"请求-响应"模式。你发一个HTTP请求，服务器返回一个JSON。但LLM集成是"对话-行动"模式。模型理解你的意图，然后决定调用哪个工具、传什么参数、怎么处理结果。

我画了一张图，帮你理解这个变化：

嗯，这里要注意一点。LLM驱动的架构不是要推翻你现有的系统。恰恰相反，它是在你已有的API之上，加了一层"智能调度层"。我习惯把这层叫做LLM Gateway。

1.4 接口集成的三个层次

根据我的落地经验，LLM接口集成可以分成三个层次。每个层次解决的问题不同，技术难度也不同。

1. 第一层：基础调用——把LLM当API用。输入prompt，拿到输出。适合内容生成、文本分类等场景。技术门槛最低，但效果也最受限。
2. 第二层：工具调用——让LLM能调用外部API。通过Function Calling或Tool Use机制，模型可以查询数据库、发送邮件、操作文件。这是目前最主流的集成方式。
3. 第三层：自主代理——LLM自主规划任务、调用工具、评估结果。比如让它"分析上季度销售数据并生成报告"，它会自己决定先查数据、再分析、最后生成图表。

1.5 接口革命带来的新挑战

接口从"确定"变成"不确定"，这是最大的变化。以前你调用一个API，返回什么格式、什么内容，都是写死的。现在呢？模型可能今天给你JSON，明天给你Markdown，后天给你一段散文。

我整理了几个常见问题：

挑战	表现	应对策略
输出不稳定	同样的输入，每次输出不一样	设置temperature=0，使用结构化输出约束
延迟不可控	响应时间从1秒到10秒不等	异步调用、超时重试、流式输出
成本难预估	Token消耗随输入变化	设置Token上限、缓存常见请求
安全风险	Prompt注入、数据泄露	输入过滤、权限隔离、审计日志

说白了，这些挑战的本质是：我们正在把"非确定性"引入"确定性"的系统。传统的软件工程追求可预测、可重复。但LLM天生就是概率模型。怎么在两者之间找到平衡？这就是本课程要解决的核心问题。