4、数据划分的核心原则：理解数据随机性、代表性、类别平衡、时间序列顺序等关键原则，避免数据泄漏

在Edge Impulse中构建可靠的机器学习模型，数据划分（Train/Validation/Test Split）是决定模型泛化能力的第一道关口。许多初学者在完成数据采集后，直接点击“Train Model”按钮，却忽略了划分策略对模型性能评估的深远影响。本章将深入剖析数据划分的四大核心原则——随机性、代表性、类别平衡与时间序列顺序，并重点阐述如何规避数据泄漏这一隐蔽陷阱。理解这些原则，不仅能帮助你在Edge Impulse中正确配置划分参数，更能从根源上提升模型在真实物理世界中的鲁棒性。

上图展示了数据划分的整体框架：原始数据集在四大原则的指导下被拆分为训练集、验证集和测试集，同时必须警惕数据泄漏的潜在风险。接下来，我们将逐一解析每个原则的具体内涵与工程实现方法。

4.1 随机性：打破时间与采集顺序的偏见

核心原理：随机性是指样本在划分时不应受采集时间、采集设备、操作人员等非特征因素的影响。Edge Impulse默认的划分方式是基于时间顺序的（例如前70%作为训练集），这在许多场景下会引入系统性偏差。例如，如果你在上午采集了前70%的数据，下午采集了后30%，而下午环境温度升高导致传感器基线漂移，那么模型在验证集上的表现就会失真。

判断方法：在Edge Impulse的Dashboard页面，查看样本的时间戳分布。如果训练集和验证集的样本时间范围存在明显断层，说明划分缺乏随机性。正确的做法是在划分前执行shuffle操作，打乱样本顺序。

案例拆解：某工业振动监测项目，工程师连续采集了7天的轴承振动数据。若按时间顺序划分，前5天数据作为训练集，后2天作为验证集，模型在验证集上的准确率高达98%。但当部署到现场后，准确率骤降至72%。原因在于第6-7天工厂调整了产线转速，振动频谱特征发生了偏移。若采用随机划分，训练集和验证集都包含不同转速下的样本，模型就能学到更泛化的特征。

4.2 代表性：确保划分后的子集覆盖全部特征空间

核心原理：代表性要求训练集、验证集和测试集在特征分布上保持一致。例如，一个手势识别项目包含“握拳”、“张开”、“左滑”、“右滑”四种手势，如果训练集中“握拳”样本占60%，而验证集中“握拳”仅占10%，模型就会对“握拳”过拟合，对其他手势欠拟合。

判断方法：在Edge Impulse的“Data explorer”页面，使用PCA或t-SNE降维可视化样本分布。如果训练集和验证集的样本在特征空间中重叠度低，说明代表性不足。更精确的方法是计算每个类别在训练集和验证集中的占比差异，差异超过5%即需调整。

操作流程：Edge Impulse支持“Stratified split”（分层划分）。在划分设置中，选择“Stratified”模式，系统会自动保证每个类别在训练集和验证集中的比例与原始数据集一致。对于自定义数据集，可以使用Python脚本结合sklearn.model_selection.train_test_split的stratify参数实现。

4.3 类别平衡：避免模型偏向多数类

核心原理：类别平衡关注的是训练集中各类别样本数量的均衡性。如果“正常”类别有1000个样本，而“故障”类别只有50个样本，模型会倾向于将所有样本预测为“正常”以获得高准确率。在Edge Impulse中，类别不平衡会直接影响损失函数的计算，导致模型决策边界偏移。

判断方法：在“Data acquisition”页面查看每个标签的样本计数。若最大类别与最小类别的样本数之比超过10:1，即视为严重不平衡。Edge Impulse的“Class balance”图表会以柱状图形式直观展示这一比例。

操作流程：

1. 过采样（Oversampling）：对少数类样本进行数据增强，如添加噪声、时间拉伸、频率偏移等。Edge Impulse内置了“Data augmentation”功能，可对加速度计、麦克风等数据生成变体。
2. 欠采样（Undersampling）：随机删除多数类样本，但需注意不要丢失重要特征信息。
3. 加权损失函数：在Edge Impulse的“Neural Network”配置中，设置class_weight参数，为少数类分配更高的损失权重。

4.4 时间序列顺序：保持时间依赖与防止未来信息泄漏

核心原理：对于时间序列数据（如振动信号、心电信号、环境监测数据），样本之间存在时间依赖关系。如果随机打乱样本，模型可能会“记住”时间上下文而非真正的特征模式。更严重的是，如果训练集中包含某个时间窗口的后半段，而验证集中包含该窗口的前半段，模型就能“偷看”到未来信息，导致验证集评估结果虚高。

判断方法：检查样本的时间戳是否连续。在Edge Impulse中，如果样本的timestamp字段存在重叠或交叉，即为时间泄漏。正确的时序划分应保证训练集的时间范围完全早于验证集，验证集早于测试集。

操作流程：

1. 按时间戳对样本排序。
2. 确定划分比例（如70%训练、15%验证、15%测试）。
3. 以时间点为界进行切分，例如第1-7天数据为训练集，第8-9天为验证集，第10天为测试集。
4. 在Edge Impulse中，选择“Sequential”划分模式，并手动指定时间断点。

4.5 数据泄漏的全面排查与规避

核心原理：数据泄漏是指模型在训练过程中接触到了本不应接触的信息，导致评估指标虚高。在Edge Impulse中，泄漏通常发生在以下环节：预处理参数（如归一化的均值和标准差）在划分前计算、同一物理事件的多段样本被分到不同集合、重复样本未去重。

判断方法：如果模型在验证集上的准确率异常高（如超过99%），而实际部署效果很差，首先怀疑数据泄漏。检查方法：

• 计算训练集和验证集样本之间的相似度（如余弦相似度），若存在大量高相似度样本对，则存在泄漏。
• 检查预处理流程：Edge Impulse的“Impulse design”中，如果Normalize模块的统计量是在整个数据集上计算的，则已发生泄漏。

操作流程：

1. 先划分，后预处理：在Edge Impulse中，确保所有预处理模块（如缩放、滤波）的参数仅在训练集上拟合，然后应用到验证集和测试集。使用“Save preprocessing parameters”功能，将训练集的统计量保存并用于后续集合。
2. 去重：使用hash或md5对样本文件进行去重，删除完全相同的样本。
3. 按事件分组：如果一次采集动作产生了多个连续样本（如10秒的加速度数据被切成10个1秒片段），确保同一事件的片段全部进入同一集合。

4.6 综合实战：构建一个无泄漏的划分策略

假设你正在开发一个基于加速度计的跌倒检测系统，数据来自5名受试者，每人佩戴传感器在腰部、手腕、脚踝三个位置，执行走路、跑步、坐下、跌倒四种动作，每种动作重复20次。总样本数：5人 × 3位置 × 4动作 × 20次 = 1200个样本。

初始目标：训练一个能区分跌倒与其他动作的分类器，要求跌倒检测召回率 ≥ 95%。

关键约束：模型需要部署到新用户（未参与训练）的设备上，因此测试集必须包含完全未见过的人。

分析判断过程：

1. 若随机划分，同一受试者的样本可能同时出现在训练集和测试集，模型会记住个人运动习惯，导致新用户准确率下降。
2. 若按时间顺序划分（前4人训练，第5人测试），则测试集只有1人，且该人的动作模式可能与其他4人差异较大，评估结果方差高。
3. 最佳方案：按受试者分组，采用“Leave-One-Subject-Out”交叉验证。即每次用4人数据训练，1人数据测试，循环5次，取平均指标。

实际操作步骤：

1. 在Edge Impulse中，为每个受试者创建独立的“Data item”标签（如subject_1至subject_5）。
2. 使用Python脚本（或Edge Impulse的API）按受试者ID进行分组划分，确保同一受试者的所有样本在同一集合中。
3. 对训练集进行数据增强（如添加高斯噪声、时间缩放），以模拟不同佩戴松紧度的影响。
4. 在“Impulse design”中，将预处理参数（如加速度计范围缩放）仅在训练集上拟合。
5. 训练模型后，在测试集（第5人数据）上评估，记录召回率。

结果对比：

风险与代价：按受试者分组划分导致训练数据减少（每次仅4人数据），模型准确率略有下降（从98%降至94%），但换来了对新用户更可靠的泛化能力。在实际部署中，94%的准确率远优于82%的“虚假高准确率”。

复盘经验：数据划分策略必须与部署场景对齐。如果模型只服务于已知用户，随机划分即可；如果面向新用户，必须采用按实体（人、设备、位置）分组划分。在Edge Impulse中，始终优先考虑“Group-wise split”功能，确保同一实体的数据不会跨集合。