2. 金融数据源概览
构建金融智能体的第一步,不是写提示词,也不是调模型,而是回答一个更基础的问题:数据从哪里来,以什么形态来,来了之后能不能用。金融领域的数据源高度异构,行情是毫秒级流式数字,财报是季度级结构化表格,新闻是分钟级非结构化文本,研报是带图表的半结构化长文档,公告是强合规的格式化文本,宏观数据则是低频、多口径、常修订的统计序列。理解这些差异,是后续检索增强(RAG)与工具调用设计的前提。
一、六类核心金融数据源及其数据特征
从接入视角看,金融数据源可按“更新频率—结构程度—合规敏感度”三个维度划分。下表给出六类常见数据源的典型特征,这是选择接入方式与存储策略的直接依据。
| 数据源 | 典型内容 | 更新频率 | 结构形态 | 接入要点 |
|---|---|---|---|---|
| 行情数据 | OHLC、盘口、逐笔成交 | 毫秒~秒级 | 结构化时序 | 低延迟推送、断线重连、复权处理 |
| 财报数据 | 三大报表、附注、指标 | 季度/年度 | 结构化表格 | 口径统一、科目映射、追溯重述 |
| 新闻资讯 | 快讯、深度报道 | 分钟级 | 非结构化文本 | 去重、时效过滤、实体对齐 |
| 研究报告 | 行业/个股深度研报 | 日级 | 半结构化长文 | PDF解析、图表抽取、分块策略 |
| 公司公告 | 定期报告、临时公告 | 事件驱动 | 格式化文本 | 合规校验、版本管理、原文溯源 |
| 宏观数据 | GDP、CPI、社融、利率 | 月/季度 | 结构化序列 | 多口径、修订值、发布日历 |
二、核心原理:数据源差异如何决定接入架构
金融智能体的数据接入并非“统一抓取—统一入库”这么简单。不同数据源的时间语义和结构语义差异,直接决定了三条技术路径:
- 流式路径:行情类数据要求低延迟、高吞吐,通常走 WebSocket 或专用行情网关,进入内存队列后由智能体实时消费,不适合先落库再检索。
- 批式路径:财报、宏观数据按发布周期批量拉取,经清洗、对齐、入库后供检索与计算使用,强调口径一致与历史可追溯。
- 文档路径:新闻、研报、公告属于文本密集型数据,需要经过解析、分块、向量化后进入向量库,供 RAG 检索增强使用。
这三条路径在智能体内部最终要统一到同一套“数据契约”上:每条数据都必须携带来源、时间戳、实体标识和版本号。缺少任一字段,后续的检索结果就无法被可信地引用。
三、方法流程:从数据源到可用上下文的接入步骤
无论哪类数据源,接入流程都可以抽象为五个阶段。以下以“接入一份上市公司公告并供智能体检索”为例说明:
- 采集:通过官方披露接口或合规数据商获取原文,记录抓取时间与来源 URL。
- 解析:将 PDF/HTML 转为纯文本,保留标题层级与表格结构,抽取公司代码、公告类型、发布日期等元数据。
- 清洗与对齐:统一实体名称(如“贵州茅台”与股票代码 600519 对齐),去除页眉页脚与重复段落。
- 分块与向量化:按语义段落分块,控制块长在 300~600 字,生成向量并写入向量库,同时保留原文定位信息。
- 检索与引用:智能体检索时返回块内容及其来源、日期、版本,确保回答可溯源、可审计。
在工程实现上,元数据字段建议至少包含以下结构,便于后续过滤与排序:
{
"source_type": "announcement",
"source_name": "巨潮资讯",
"entity_code": "600519",
"publish_time": "2024-04-02T18:30:00+08:00",
"doc_version": "v1",
"chunk_id": "ann_600519_20240402_003",
"raw_url": "https://example.com/notice/xxx.pdf"
}
四、案例与场景:一次跨源检索的真实链路
假设用户提问:“贵州茅台最近一期财报的营收增速如何,市场对此有何反应?”这个问题同时触发了三类数据源:财报数据提供营收增速数值,新闻与研报提供市场解读,行情数据提供发布前后的股价波动。智能体的处理链路是:先从结构化财报库中按实体与报告期精确查询,得到数值;再从向量库中检索相关新闻与研报片段,按时间与相关性排序;最后从行情接口拉取发布日前后行情,形成“数据—解读—反应”的完整上下文。若缺少统一的数据契约,这三路结果的时间戳与实体口径不一致,模型极易给出张冠李戴的结论。
五、常见误区与复盘
- 误区一:所有数据都先入库再检索。行情类数据入库即产生延迟,应走流式通道直接消费,落库仅用于回测与审计。
- 误区二:忽视财报的追溯重述。同一报告期可能存在修订版本,若不记录版本号,检索结果会新旧混杂。
- 误区三:新闻去重只看标题。同一事件的多篇转载标题不同但内容高度重复,需基于正文相似度去重,否则检索结果被同一事件淹没。
- 误区四:宏观数据口径混用。不同来源的 CPI 可能同比、环比、翘尾因素口径不同,接入时必须标注口径,不能直接拼接。
总结来看,金融数据源接入的核心不是“抓得多”,而是“接得准、标得清、查得到”。六类数据源在频率、结构与合规上的差异,决定了流式、批式、文档三条路径并存;而统一的数据契约,是让这三条路径在智能体内部汇合成可信上下文的粘合剂。掌握这一点,后续的检索增强与工具调用才有稳固的地基。