4、协同策略的数学建模：目标函数、约束条件、搜索-微调交替框架
好，咱们进入第四讲。说实话，这一章是整个课程里最“硬核”的部分之一。为什么？因为我们要把前面说的“先全局搜、再局部调”这个直觉，变成一套严谨的数学语言。你想想看，没有数学框架，你凭什么说你的策略是收敛的？凭什么说你的解是全局最优？
我个人习惯，在做任何优化算法之前，先把目标函数和约束条件写清楚。哪怕后面代码写得再漂亮，数学底子没打好，项目迟早要翻车。我在百度做大规模排序模型时，就吃过这个亏——当时觉得“差不多就行了”，结果上线后模型在长尾数据上疯狂震荡，最后追查下来，就是约束条件里少写了一个正则项。
4.1 目标函数：全局与局部的双目标博弈
协同策略的核心，说白了就是同时优化两个目标：
- 全局搜索目标：找到损失景观中“潜力大”的区域，哪怕当前精度不高。
- 局部微调目标：在某个区域内快速下降到最优点，追求高精度。
这两个目标往往是冲突的。你全局搜得太广，局部就来不及精调；你局部调得太深，就容易陷入某个坑里出不来。所以我们需要一个统一的目标函数来平衡它们。
我一般这样写：
min_{θ ∈ Θ} L(θ) = λ_global * L_global(θ) + λ_local * L_local(θ) + R(θ)其中：
L_global(θ)是全局探索的损失，通常用覆盖度、多样性或区域势能来表示。L_local(θ)是局部精调的损失，就是标准的训练损失（比如交叉熵、MSE）。λ_global和λ_local是权重系数，控制两者的优先级。R(θ)是正则项，防止过拟合或参数爆炸。
关键点：λ_global 和 λ_local 不是固定的。我建议在搜索阶段让 λ_global 大一些，微调阶段再逐渐把权重转给 λ_local。这叫“退火式权重调度”，后面我们会专门讲。
4.2 约束条件：别让搜索跑偏了
光有目标函数还不够。你得告诉算法：哪些地方不能去，哪些参数不能越界。约束条件就是干这个的。
常见的约束有三类：
| 约束类型 | 数学表达 | 实际含义 |
|---|---|---|
| 参数边界 | θ_min ≤ θ ≤ θ_max | 权重不能无限大，学习率不能为负 |
| 计算预算 | ∑_{t=1}^{T} C(θ_t) ≤ B | 总计算量不能超过资源上限 |
| 多样性约束 | D(θ_i, θ_j) ≥ δ | 两个候选解不能太像，避免重复搜索 |
我曾经在一个强化学习项目里，忘了加多样性约束。结果全局搜索阶段产出的 100 个候选策略，有 80 个几乎一模一样。白白浪费了 3 天的算力。嗯，从那以后，我每次写优化器都会先检查约束条件列表。
避坑指南：约束条件不是越多越好。加太多约束会让可行域变得支离破碎，搜索算法根本找不到有效解。我建议先只加“硬约束”（比如参数边界），等模型跑通了再加“软约束”（比如多样性惩罚）。
4.3 搜索-微调交替框架：数学上的形式化
好，现在我们把目标函数和约束条件串起来，形成一个完整的交替框架。这个框架我习惯用“两阶段迭代”来描述：
- 全局搜索阶段（S-phase）：在参数空间 Θ 上，用某种探索策略（比如随机采样、贝叶斯优化、进化算法）生成一组候选点 {θ_1, θ_2, ..., θ_K}。
- 局部微调阶段（F-phase）：对每个候选点 θ_k，用梯度下降或拟牛顿法进行局部优化，得到精调后的 θ_k*。
- 决策阶段（D-phase）：比较所有精调后的结果，选出当前最优解，并决定下一轮搜索的起点或范围。
数学上，每一轮迭代可以写成：
# 伪代码：搜索-微调交替框架
for t = 1 to T:
# S-phase: 全局搜索
Θ_candidates = GlobalSearch(Θ_space, constraints, budget_t)
# F-phase: 局部微调
for each θ in Θ_candidates:
θ_fine = LocalFineTune(θ, L_local, max_steps)
# D-phase: 决策与更新
θ_best = argmin_{θ_fine} L(θ_fine)
Θ_space = UpdateSearchSpace(Θ_space, θ_best, history)这个框架的好处是：它把“探索”和“利用”明确分开了。你可以在 S-phase 里用高方差、低精度的策略（比如随机扰动），在 F-phase 里用低方差、高精度的策略（比如 Adam）。两者互补，效率远高于单一策略。
我的经验：S-phase 的预算分配很关键。我一般让 S-phase 占总计算量的 30%，F-phase 占 70%。但如果问题特别复杂（比如超参数空间有 50 维），我会把 S-phase 提高到 50%。
4.4 收敛性分析：为什么这个框架能工作？
你可能会问：凭什么说这个交替框架一定能收敛到全局最优？嗯，这是个好问题。严格证明需要很多数学，我这里只讲直觉。
核心思想是：全局搜索保证“不遗漏”，局部微调保证“不浪费”。
- 如果全局搜索是“稠密”的（比如在可行域内均匀采样），那么随着迭代次数增加，至少有一个候选点会落在全局最优点的邻域内。
- 局部微调保证从这个邻域出发，能收敛到局部最优点。
- 如果全局搜索的采样密度足够高，且局部微调的收敛半径足够大，那么最终结果就是全局最优。
当然，实际中我们不可能无限采样。所以更实用的说法是：这个框架能显著提高找到“足够好”解的概率。我在 Kaggle 的几次比赛中，用这个框架把模型精度从 0.873 提到了 0.891，靠的就是这个“概率提升”。
4.5 核心逻辑流程图
下面我用一张 SVG 图把整个框架画出来。你看一眼就能明白：
4.6 实际项目中的参数设置建议
最后，我把我自己在几个项目里用过的参数配置列出来，供你参考。这些不是金科玉律，但至少能帮你少走弯路：
| 项目类型 | λ_global : λ_local | S-phase 预算占比 | 候选点数量 K | 局部微调步数 |
|---|---|---|---|---|
| 超参数优化（<10维） | 1:3 | 30% | 10~20 | 50~100 |
| 神经网络架构搜索 | 1:1 | 50% | 20~50 | 20~50 |
| 强化学习策略搜索 | 2:1 | 60% | 50~100 | 10~30 |
| NLP 模型微调（大模型） | 1:5 | 20% | 5~10 | 200~500 |