2、参数调优方法论：网格搜索、随机搜索、贝叶斯优化原理对比

调参这件事，说简单也简单，说复杂能让你加班到怀疑人生。我刚入行那会儿，调一个射频前端的匹配网络参数，手动试了三天三夜，最后发现还不如换个思路来得快。

这一章，咱们就把三种最主流的调参方法掰开揉碎讲清楚。网格搜索、随机搜索、贝叶斯优化，它们各自适合什么场景？坑在哪里？我踩过的雷，你就不用再踩了。

2.1 网格搜索（Grid Search）—— 最老实，也最笨重

网格搜索的思路特别直白：你把每个参数的可能取值列出来，然后穷举所有组合。说白了，就是“把所有路都走一遍，选最好的那条”。

举个例子，你调一个滤波器的截止频率和阶数：

• 截止频率：[1MHz, 2MHz, 3MHz]
• 阶数：[2, 4, 6]

网格搜索会跑 3 × 3 = 9 次实验。如果参数增加到 5 个，每个参数取 10 个值，那就是 10^5 = 100,000 次。嗯，你算算时间成本。

适用场景：

• 参数维度 ≤ 3
• 每个参数的候选值很少（比如 3-5 个）
• 你有足够的计算资源，且不在乎时间

优点：实现简单，结果可复现，适合并行计算。

缺点：维度灾难——参数一多，组合数爆炸；而且它完全忽略了参数之间的相关性。

2.2 随机搜索（Random Search）—— 用概率打败维度

随机搜索不搞穷举，而是在参数空间里随机采样。听起来有点“不靠谱”，但实际效果往往比网格搜索好得多。

为什么？我举个例子你就明白了。假设参数空间里只有 20% 的区域是“好区域”，网格搜索可能一个都没踩中，而随机搜索因为采样点分布更均匀，踩中的概率反而更高。

适用场景：

• 参数维度较高（4-10 维）
• 你只关心“找到足够好的解”，不追求全局最优
• 计算预算有限

优点：实现简单，能有效避免维度灾难，采样效率远高于网格搜索。

缺点：没有利用历史信息，每次采样都是“盲猜”；收敛速度慢，后期改进空间小。

2.3 贝叶斯优化（Bayesian Optimization）—— 让搜索“长眼睛”

前面两种方法都是“瞎子摸象”。贝叶斯优化不一样，它会根据已经跑过的点，建立一个概率模型（通常是高斯过程），然后预测哪些区域最有可能出好结果。

说白了，它像是一个有经验的工程师：先试几个点，然后说“嗯，这个区域看起来有戏，我再往那边探探”。

贝叶斯优化的核心是两个部分：

• 代理模型（Surrogate Model）：用高斯过程拟合已知数据，给出每个点的预测均值和方差。
• 采集函数（Acquisition Function）：决定下一个采样点在哪里。常用的有 EI（Expected Improvement）、UCB（Upper Confidence Bound）等。

适用场景：

• 目标函数计算成本高（仿真、实测）
• 参数维度 ≤ 20
• 你需要尽可能少的实验次数找到最优解

优点：采样效率极高，能利用历史信息，收敛速度快。

缺点：实现复杂，对超参数敏感（比如高斯过程的核函数选择）；不适合高维空间（>20 维）。

2.4 三种方法对比一览

方法	搜索策略	维度适应性	采样效率	实现难度	典型场景
网格搜索	穷举所有组合	低（≤3 维）	低	极低	小规模参数调优
随机搜索	随机采样	中（4-10 维）	中	低	快速探索参数空间
贝叶斯优化	基于概率模型	中高（≤20 维）	高	高	高成本仿真/实测

2.5 核心逻辑框架图

下面这张图帮你理清三种方法的决策逻辑。你想想看，你的项目属于哪种情况？

2.6 实战中的选择建议

我个人的经验是：别一上来就选最复杂的方法。先问问自己几个问题：

1. 你有多少时间？ 如果只有半天，别碰贝叶斯优化，随机搜索跑几轮就够了。
2. 参数之间有没有明显的交互？ 比如增益和带宽经常是 trade-off，这时候贝叶斯优化能帮你找到平衡点。
3. 你的目标函数是“平滑”的还是“毛刺”的？ 高斯过程假设函数是平滑的，如果你的目标函数噪声很大，贝叶斯优化的效果会打折扣。