4、探索性数据分析(EDA):描述性统计、可视化方法(折线图、直方图、箱线图)、相关性分析、季节性初步观察
消防数据往往体量大、维度多、噪声高,直接进入建模或规则判断容易“只见树木不见森林”。探索性数据分析(EDA)是在正式分析之前,通过统计指标、图形工具和初步关联检验,快速建立对数据整体形态、分布特征、异常点、趋势与周期性的直觉认知。本章围绕消防数据的描述性统计、三类核心可视化方法、相关性分析以及季节性初步观察展开,帮助分析人员建立一套可复用的数据体检流程。
4.1 描述性统计:数据体检的第一道关口
核心原理:描述性统计通过少量关键指标概括数据集的集中趋势、离散程度和分布形态。对于消防数据,常用的指标包括:均值(平均每日报警次数)、中位数(避免极端值干扰)、标准差(波动程度)、四分位数(数据分段)、偏度(分布对称性)和峰度(尾部厚度)。这些指标能快速暴露数据质量问题,例如缺失值、异常大值或录入错误。
操作流程:
- 对数值型字段(报警次数、出警时长、损失金额、过火面积)计算五数概括(最小值、Q1、中位数、Q3、最大值)。
- 计算均值和标准差,与中位数对比:若均值远大于中位数,说明数据右偏,存在高值极端事件。
- 检查缺失值比例和唯一值数量,判断字段是否可用。
- 按年份、月份分组计算统计量,观察稳定性。
| 指标 | 计算公式 | 消防数据解读 | 异常阈值参考 |
|---|---|---|---|
| 偏度 | 三阶中心矩/标准差³ | 正偏表示少数大火警拉高均值 | >1 明显右偏 |
| 峰度 | 四阶中心矩/标准差⁴ - 3 | 高峰度表示极端值出现概率高于正态 | >3 重尾分布 |
| 变异系数 | 标准差/均值 | 衡量不同区域报警波动性 | >0.5 波动较大 |
| IQR | Q3 - Q1 | 用于箱线图离群点判定 | 超出1.5×IQR |
4.2 可视化方法:从数字到图形的认知跃迁
核心原理:可视化将统计指标转化为空间位置、长度、颜色等视觉通道,帮助分析者快速识别模式。消防数据分析中,折线图用于时间趋势,直方图用于分布形态,箱线图用于离群点检测和组间对比。三种图形互为补充,构成EDA的“铁三角”。
方法详解:
- 折线图:横轴为时间(小时/日/月),纵轴为报警量或损失金额。重点观察趋势方向、周期波动、突变点。建议叠加7日移动平均线平滑噪声。
- 直方图:将连续变量分段计数,观察数据分布形态。消防报警量通常呈右偏分布,可尝试对数变换后观察是否接近正态。
- 箱线图:展示最小值、Q1、中位数、Q3、最大值,并标记离群点。适合按区域、季节、时段分组对比,快速发现异常高发组。
| 图形类型 | 适用场景 | 消防案例 | 关键观察点 |
|---|---|---|---|
| 折线图 | 时间序列趋势 | 近3年火灾报警月度趋势 | 季节性峰值、年度增长斜率 |
| 直方图 | 单变量分布 | 单次火灾损失金额分布 | 是否长尾、是否有双峰 |
| 箱线图 | 分组对比+离群点 | 各行政区月均报警量对比 | 组间中位数差异、离群点数量 |
4.3 相关性分析:寻找变量间的协同变化
核心原理:相关性分析量化两个变量间线性关联的强度和方向。消防数据中常用Pearson相关系数(适用于连续、正态数据)和Spearman秩相关系数(适用于有序或非正态数据)。相关系数范围[-1,1],值越接近1表示关联越强。
分析流程:
- 筛选数值型变量:报警量、温度、湿度、风速、降水量、GDP、人口密度等。
- 计算相关系数矩阵,生成热力图,颜色深浅表示强度。
- 重点关注|r|>0.5的变量对,结合业务逻辑判断因果关系。
- 对高相关变量做散点图验证,排除伪相关。
| 变量对 | Pearson r | Spearman ρ | 业务解读 |
|---|---|---|---|
| 温度 vs 森林火灾数 | 0.72 | 0.68 | 高温干燥易发火 |
| 湿度 vs 电气火灾数 | -0.45 | -0.41 | 干燥环境增加电气风险 |
| 报警量 vs 出警时长 | 0.28 | 0.31 | 弱相关,受交通影响大 |
| GDP vs 火灾损失 | 0.15 | 0.12 | 无明显线性关系 |
4.4 季节性初步观察:识别周期性规律
核心原理:季节性指时间序列在固定周期内重复出现的波动模式。消防数据通常存在三种季节性:年度季节性(冬季火灾多)、月度季节性(节假日效应)、周内季节性(周末聚餐多导致厨房火灾多)。初步观察通过分组统计和可视化,判断是否存在显著周期。
操作步骤:
- 按月份汇总多年平均报警量,绘制月度曲线,观察峰值月份。
- 按星期几分组,计算平均报警量,判断周末效应。
- 按小时分桶,绘制24小时分布,识别昼夜差异。
- 使用季节指数(各月均值/全年均值)量化季节强度,指数>1.2为旺季,<0.8为淡季。
| 周期类型 | 消防数据表现 | 分析方法 | 管理启示 |
|---|---|---|---|
| 年度季节 | 冬季(12-2月)火灾占比高 | 月度折线图+季节指数 | 冬季前加强防火宣传 |
| 月度周期 | 春节、清明祭祀用火增加 | 节假日前后对比 | 重点时段值守 |
| 周内周期 | 周五、周六晚报警量上升 | 星期分组箱线图 | 周末夜间增派值班 |
| 日内周期 | 18-21时厨房火灾高发 | 24小时折线图 | 晚餐时段加强提示 |
本章通过描述性统计、可视化、相关性和季节性四个维度,建立了消防数据EDA的标准流程。实际工作中,这四步并非线性执行,而是循环迭代:统计指标发现异常→可视化确认形态→相关性寻找解释变量→季节性定位周期背景。完成EDA后,分析人员应能回答:数据质量如何?哪些变量值得进入模型?是否存在明显的季节模式?哪些时间点或区域需要重点关注?这些结论将直接指导后续的趋势预测和异常检测算法选择。