线性核与多项式核：从理论到实战

大家好，我是你们的老朋友。今天咱们聊聊核函数里最基础、也最容易被忽视的两个家伙——线性核和多项式核。

说实话，我刚入行那会儿，总觉得核函数越复杂越厉害。什么RBF核、拉普拉斯核，恨不得全用上。结果呢？模型跑得慢，调参调到怀疑人生。后来我才明白，最简单的往往最实用。

线性核函数详解

线性核，说白了就是不做任何映射。它的数学形式特别简单：

K(x, y) = x · y

就是两个向量的点积。嗯，你没看错，就这么简单。

那它有什么用？

我个人习惯把线性核看作一个「基准测试」。当你面对一个新数据集时，先用线性核跑一遍。如果效果不错，那就没必要折腾更复杂的核函数了。

我在项目中遇到过这样一个场景：一个文本分类任务，特征维度高达10万。用RBF核？训练时间直接爆炸。换成线性核，几分钟就搞定了，而且准确率只差了0.3%。你想想看，为了那0.3%的精度提升，多花几十倍的训练时间，值吗？

多项式核函数详解

多项式核就比线性核「高级」一点了。它的公式长这样：

K(x, y) = (γ · x · y + r)^d

这里有三个参数：γ（gamma）、r（coef0）、d（degree）。

每个参数是干嘛的？

• degree (d)：多项式的次数。d=1时退化为线性核。d越大，模型越复杂。
• gamma (γ)：控制单个样本的影响范围。γ越大，决策边界越「曲折」。
• coef0 (r)：偏置项。影响高次项和低次项的权重比例。

我曾经犯过一个错误：把degree设成5，结果模型在训练集上完美拟合，测试集上一塌糊涂。这就是典型的过拟合。所以我的建议是：degree一般不超过3，除非你有充分的理由。

参数调优与实战案例

好了，理论说完了，咱们来点实际的。参数调优，说白了就是「试」出来的。

我的调参策略：

1. 先用线性核跑一遍，记录基准性能
2. 换成多项式核，固定degree=2，调γ和r
3. 如果效果不好，试试degree=3
4. 用网格搜索（GridSearchCV）找到最优组合

下面是一个完整的实战代码示例：

from sklearn.svm import SVC
from sklearn.model_selection import GridSearchCV
from sklearn.datasets import make_classification
from sklearn.preprocessing import StandardScaler

# 生成模拟数据
X, y = make_classification(n_samples=1000, n_features=20, random_state=42)

# 数据标准化——这一步千万别忘！
scaler = StandardScaler()
X_scaled = scaler.fit_transform(X)

# 定义参数网格
param_grid = [
    {'kernel': ['linear'], 'C': [0.1, 1, 10]},
    {'kernel': ['poly'], 'degree': [2, 3], 
     'gamma': [0.01, 0.1, 1], 'coef0': [0, 1], 'C': [1]}
]

# 网格搜索
grid = GridSearchCV(SVC(), param_grid, cv=5, scoring='accuracy')
grid.fit(X_scaled, y)

print("最佳参数:", grid.best_params_)
print("最佳得分:", grid.best_score_)

什么时候用线性核？什么时候用多项式核？

场景	推荐核函数	原因
特征维度很高（>1000）	线性核	计算快，不易过拟合
特征维度低，样本量适中	多项式核	能捕捉特征交互
数据线性可分	线性核	简单高效
需要特征组合	多项式核	天然支持特征交叉

我个人习惯是：先用线性核探路，再用多项式核提精度。如果多项式核提升不到1%，那就果断放弃，用回线性核。毕竟在工业界，稳定性和效率往往比那一点点精度更重要。

想要更多资料，联系可可