2. 数据源基础概念
在采购支出分析中,数据源是一切分析的起点。它决定了你能分析什么、分析多深、以及分析结果的可信度。本节将系统讲解数据源的核心定义、两大分类体系,以及企业级数据存储架构中的关键概念——数据仓库与数据集市。
2.1 数据源的定义
数据源(Data Source)是指提供原始数据的系统、文件或接口。在采购领域,数据源可以是 ERP 系统中的采购订单表、供应商主数据、合同文件、电子发票、甚至是从供应商门户爬取的报价单。
核心要点:数据源 ≠ 数据本身。数据源是数据的“源头位置”或“获取通道”,而数据是经过提取、清洗后用于分析的内容。
一个典型的采购分析项目可能涉及以下数据源:
- 内部系统:SAP/Oracle ERP、SRM(供应商关系管理)、OA 审批系统
- 外部来源:供应商门户、行业价格指数、海关数据
- 非结构化文件:PDF 合同、扫描发票、邮件附件
2.2 数据源的类型:结构化 vs 非结构化
根据数据的组织形式和可解析程度,数据源分为两大类:
| 对比维度 | 结构化数据 | 非结构化数据 |
|---|---|---|
| 定义 | 以固定格式组织,每行每列有明确含义 | 没有预定义数据模型,格式自由 |
| 典型格式 | 数据库表、CSV、Excel 规范表格 | PDF、Word、图片、邮件正文、音频 |
| 存储方式 | 关系型数据库(MySQL、SQL Server) | 文件系统、对象存储、NoSQL |
| 查询方式 | SQL 精确查询、聚合分析 | 全文检索、NLP 解析、OCR 识别 |
| 采购分析示例 | 采购订单明细表、供应商主数据 | 合同条款 PDF、供应商资质扫描件 |
| 分析难度 | 低,可直接建模 | 高,需预处理和转换 |
实战建议:在采购支出分析项目中,80% 的核心指标(支出金额、采购量、单价)来自结构化数据;但 80% 的合规风险信息(合同条款、付款条件)隐藏在非结构化数据中。两者缺一不可。
2.3 数据仓库与数据集市
当数据源分散在多个系统时,直接查询原始系统会导致性能问题、数据不一致和安全风险。因此,企业通常构建数据仓库或数据集市作为分析的基础设施。
2.3.1 数据仓库(Data Warehouse)
数据仓库是一个面向主题的、集成的、非易失的、随时间变化的数据集合,用于支持管理决策。它将来自多个异构数据源的数据统一存储,经过 ETL(抽取-转换-加载)过程后,形成企业级单一事实来源。
- 面向主题:按采购、财务、库存等业务主题组织数据
- 集成:统一编码规则、单位、货币
- 非易失:数据写入后一般不修改,只追加
- 随时间变化:保留历史快照,支持趋势分析
2.3.2 数据集市(Data Mart)
数据集市是数据仓库的子集,专门为某个部门或业务线设计。例如,采购数据集市只包含与采购相关的数据表,结构更轻量,查询响应更快。
| 对比维度 | 数据仓库 | 数据集市 |
|---|---|---|
| 范围 | 企业级,覆盖所有业务域 | 部门级,聚焦单一主题 |
| 数据粒度 | 明细级,保留最细颗粒度 | 汇总级或轻度明细 |
| 数据来源 | 多个源系统 + 外部数据 | 通常来自数据仓库 |
| 建设周期 | 6~18 个月 | 2~4 个月 |
| 典型用户 | 数据分析师、BI 团队 | 采购经理、业务分析员 |
| 采购分析适用场景 | 跨部门支出对比、集团采购合规 | 品类支出仪表板、供应商绩效看板 |
常见误区:不要试图用数据集市替代数据仓库。如果企业有多个数据集市但缺乏统一的数据仓库,会导致“数据孤岛”——采购数据集市和财务数据集市中的同一笔订单金额可能不一致。
2.4 数据源到分析看板的完整链路
下面的 SVG 图展示了从原始数据源到最终采购分析看板的典型数据流架构:
2.5 采购分析中的数据源选择策略
在实际项目中,选择数据源和存储架构时需考虑以下因素:
- 分析目标:如果是集团级支出全景分析,优先从数据仓库取数;如果是品类经理日常监控,使用数据集市更高效。
- 数据时效性:实时看板需要直连源系统(如 ERP 实时接口),而历史趋势分析适合从仓库读取。
- 数据质量:源系统数据可能存在缺失、重复、编码不一致,必须在 ETL 阶段完成清洗。
- 合规要求:合同、发票等非结构化数据需保留原始文件,同时提取关键字段进入结构化存储。
本章小结:数据源是采购分析的“原材料”,结构化数据提供量化指标,非结构化数据补充业务上下文。数据仓库与数据集市是两种互补的存储架构——前者保全局一致性,后者保部门敏捷性。理解这些基础概念,是后续配置看板数据源的前提。