3. 数据需求分析
在金融研究数据集的生产流程中,数据需求分析是承上启下的关键环节。它把“研究问题”翻译成“可采集、可计算、可验证”的数据规格。如果跳过这一步直接抓数据,最常见的后果是:字段缺失、频率错配、样本区间不覆盖关键事件,最终导致实证结果无法复现或结论不稳健。本节将围绕字段、时间范围、频率和覆盖范围四个维度,建立一套从问题到规格的推导方法。
一、核心原理:研究问题决定数据规格
数据需求不是“越多越好”,而是“与研究设计严格对齐”。一个规范的数据需求,本质上是对研究假设中每个变量给出可操作化定义。我们可以用一条推导链来理解:研究问题 → 理论构念 → 可观测变量 → 数据字段 → 采集口径。例如研究“货币政策冲击对银行信贷供给的影响”,理论构念是“货币政策冲击”和“信贷供给”,前者可观测为政策利率变动或高频率事件窗口,后者可观测为银行层面贷款余额增速。字段、频率、区间都由这条链自然导出。
核心判断标准:任何一个字段,都必须能回答“它对应哪个变量、用于哪个回归或检验、缺失时如何处理”。无法回答的字段,应暂缓采集。
二、方法流程:四步定义数据需求
- 拆解研究设计:明确被解释变量、核心解释变量、控制变量、工具变量或分组变量,列出每个变量的理论定义与预期符号。
- 确定字段与口径:为每个变量选择数据源与字段名,明确单位、币种、复权方式、是否季节调整、是否剔除异常值。
- 确定时间范围与频率:根据事件窗口、政策实施日、样本可得性确定起止日期;频率需匹配模型要求,必要时说明升频或降频规则。
- 确定覆盖范围:明确市场、国家、行业、机构类型、样本筛选条件,以及幸存者偏差、退市、并购等处理方式。
示例:数据需求规格片段
研究问题:政策利率变动对上市银行信贷增速的影响
被解释变量:loan_growth(季度,同比,%)
核心解释变量:policy_rate_change(事件窗口内累计变动,bp)
控制变量:asset_size, capital_ratio, deposit_ratio, gdp_growth
时间范围:2015Q1 - 2024Q4
频率:季度(政策事件按日对齐后汇总到季度)
覆盖范围:A股上市银行,剔除数据缺失超过20%的样本
三、案例场景:从模糊需求到可执行规格
假设研究问题是“ESG评级变动是否影响债券信用利差”。初始需求往往写成“需要ESG数据和债券数据”,这无法执行。经过需求分析后,应细化为:ESG评级字段包括评级机构、评级日期、评级等级、变动方向;债券字段包括债券代码、剩余期限、信用利差、成交量;时间范围覆盖评级变动前后各60个交易日;频率为日度;覆盖范围为银行间与交易所市场公开发行的公司债,剔除城投与金融债。这样,采集、清洗和合并才有明确依据。
| 需求维度 | 关键问题 | 常见规格示例 |
|---|---|---|
| 字段 | 每个变量如何观测? | 评级等级、利差、期限、成交量 |
| 时间范围 | 样本从何时到何时? | 2018-01-01 至 2024-12-31 |
| 频率 | 数据按什么周期对齐? | 日度;季度;事件窗口 |
| 覆盖范围 | 哪些对象纳入样本? | 公司债;剔除金融与城投 |
四、误区与复盘:需求分析中最容易踩的坑
误区一:先抓数据再想问题。数据源决定了研究能做什么,而不是研究问题决定数据。正确顺序永远是问题先行。
误区二:频率越高越好。高频数据噪声大、缺失多,且未必匹配模型。频率应与经济机制和模型设定一致。
误区三:覆盖范围写成“全部”。“全部A股”不是规格,必须说明板块、上市时间、ST处理、退市处理等。
复盘建议:完成需求规格后,用“反向验证法”检查——假设只拿到规格中列出的字段和区间,能否完整复现研究设计中的每一个回归与检验?若不能,说明需求仍有遗漏。
数据需求分析的最终交付物是一份可执行的数据需求规格书,它至少包含:变量清单、字段定义、时间范围、频率、覆盖范围、缺失与异常处理规则。这份规格书既是采集脚本的输入,也是后续质量校验的基准。只有把研究问题真正翻译成数据语言,数据集生产才不会沦为无目标的“数据搬运”。