📚 课程目录第3章特征提取优化

3. 特征提取优化：维度、归一化与融合策略

特征提取这一步，说白了就是决定算法“看”什么、怎么“看”。我见过不少团队，算法模型选得挺先进，但特征没处理好，上线后误识率和拒真率双双飙高。嗯，这里面的门道，咱们一个一个拆开讲。

3.1 特征向量维度选择：不是越大越好

很多人有个误区——特征维度越高，信息越丰富，效果肯定越好。其实不然。我踩过这个坑，有一次做人脸识别项目，把特征从128维提到512维，结果误识率反而涨了0.3%。为什么？维度高了，冗余信息和噪声也跟着进来了。

核心原则：特征维度选择要在“表达能力”和“泛化能力”之间找平衡。维度太低，区分不开不同类别；维度太高，容易过拟合，泛化变差。

我个人习惯用两个指标来辅助决策：

类间距离 / 类内距离比：比值越大越好，说明特征可分性强。
累积方差贡献率（PCA）：一般取贡献率超过95%的前k个主成分。

给你一个参考范围，不同模态的特征维度经验值：

模态	常用维度范围	典型模型
人脸	128 ~ 512	ArcFace, CosFace
指纹	64 ~ 256	Minutiae + Gabor
声纹	128 ~ 256	x-vector, ECAPA-TDNN
虹膜	256 ~ 1024	IrisCode, DeepIris

我的经验：先从一个较小的维度开始（比如128维），逐步增加，每次观察验证集上的误识率和拒真率变化。如果维度增加后性能提升不到0.5%，果断停住，别贪多。

3.2 特征归一化方法：让特征“站在同一起跑线”

特征归一化，听起来简单，但做不好会出大问题。我记得有一次，特征向量里既有像素值（0-255），又有纹理特征（0-1），还有角度值（0-360）。直接扔进距离计算，角度值把其他特征全“吃掉”了。这就是典型的量纲不统一。

常用的归一化方法有三种，我列个对比表：

方法	公式	适用场景	注意事项
Min-Max归一化	x' = (x - min) / (max - min)	特征值分布已知且稳定	对异常值敏感，容易压缩正常区间
Z-score标准化	x' = (x - μ) / σ	特征近似正态分布	需要估计均值和方差，在线更新时要注意
L2归一化	x' = x / \|\|x\|\|₂	余弦相似度计算场景	会丢失模长信息，但能消除光照等影响

我个人最常用的是 L2归一化 + Z-score标准化 的组合。先做Z-score去掉量纲差异，再做L2归一化让特征落在单位超球面上。这样做余弦相似度时，结果更稳定。

避坑指南：我曾经在线上系统里直接用全局均值和方差做Z-score，结果新注册的用户特征分布偏移，导致拒真率飙升。后来改成滑动窗口更新统计量，才稳住。归一化的统计量一定要考虑数据分布的变化。

3.3 特征融合策略：1+1 > 2 的艺术

单一模态的特征总有天花板。比如人脸识别，戴口罩就废了一半。这时候就需要多模态融合。特征融合不是简单地把向量拼起来，这里面有讲究。

我习惯把融合策略分成三类：

早期融合（Early Fusion）：在特征层直接拼接或加权组合。优点是简单，缺点是维度爆炸，且不同模态特征对齐困难。
中期融合（Mid Fusion）：各自提取特征后，通过注意力机制或变换层融合。效果好，但计算量大。
晚期融合（Late Fusion）：各自做决策，最后投票或加权平均。鲁棒性强，但可能丢失跨模态的互补信息。

给你看一个我常用的融合流程图：

实际项目中，我推荐用 注意力加权融合。举个例子，在光线暗的环境下，人脸特征质量差，注意力机制会自动降低人脸特征的权重，提高声纹特征的权重。这样系统整体鲁棒性就上来了。

一个实用的融合公式：

# 注意力加权融合示例
def attention_fusion(features, quality_scores):
    # features: [n_modalities, feature_dim]
    # quality_scores: [n_modalities]
    weights = softmax(quality_scores / temperature)
    fused = sum(w * f for w, f in zip(weights, features))
    return fused

我的建议：别一上来就搞复杂的融合。先试试简单的拼接+全连接降维，效果不好再上注意力机制。我曾经在一个项目里，拼接融合就比单模态降了0.8%的误识率，完全够用。

3.4 本章小结

特征提取优化，说白了就是三件事：选对维度、归一化到位、融合策略得当。维度选小了欠拟合，选大了过拟合；归一化做不好，特征之间互相打架；融合策略选错了，多模态反而拖后腿。