1. 优化概述：什么是局部优化？什么是全局优化？

做算法优化这些年，我见过太多团队一上来就盯着某个模块死磕。调参调到凌晨三点，精度涨了0.5%，心里美滋滋。结果一跑全流程，整体性能反而下降了。为什么？因为他们在做局部优化，却忘了全局。

这一节，咱们先把这两个概念掰扯清楚。搞懂了它们，后面的课程才有根基。

1.1 什么是局部优化？

局部优化，说白了就是只盯着眼前的一亩三分地。你只关心某个子问题、某个模块、某个参数在当前条件下的最优解。至于这个解会不会让其他地方变差，不在考虑范围内。

举个例子，我早期做过一个推荐系统的排序模型。当时团队里有个同事，花了两周时间把AUC从0.82提到了0.85。看起来很厉害对吧？但上线后发现，用户点击率反而降了。为什么？因为他只优化了排序模型的精度，没考虑召回阶段已经把用户不感兴趣的内容推上来了。排序再准，也救不了糟糕的召回。

局部优化的典型特征：

• 视野窄：只看某个子模块或子目标
• 见效快：通常短期内能看到指标提升
• 容易陷入局部最优：你找到的“最优解”可能只是周围一小片区域里的最好结果
• 可能牺牲整体：局部变好了，全局反而变差了

1.2 什么是全局优化？

全局优化就不一样了。它要求你站在整个系统的角度，找到让整体性能最优的解。哪怕某个子模块不是最好的，只要整体最优，那就是对的。

我记得在做一个分布式存储系统的延迟优化时，遇到过这么个事。有个存储节点的读写延迟特别高，团队想把它优化到和别的节点一样快。但我拦住了。为什么？因为这个节点负责的是冷数据，访问频率极低。花大价钱优化它，对整体用户体验的提升微乎其微。不如把资源投到热数据节点上。这就是全局优化的思维——不追求每个模块都最优，追求整体最优。

全局优化的典型特征：

• 视野广：考虑整个系统、全流程、所有约束
• 见效慢：需要分析全局依赖关系，往往需要多次迭代
• 能找到全局最优：至少是接近全局最优的解
• 允许局部次优：某些模块可以不是最好的，只要整体最优就行

1.3 核心区别与联系

这两个概念的区别，我用一张图来展示。这是我做课程时习惯用的方式——先画结构，再讲细节。

嗯，这张图把核心差异说清楚了。但光有图还不够，咱们用表格再细化一下。

对比维度	局部优化	全局优化
优化范围	单个子模块或子问题	整个系统或全流程
目标函数	子目标（如模块精度）	整体目标（如系统吞吐量）
计算复杂度	低，通常可快速求解	高，往往需要启发式算法
收敛速度	快，几步就能看到效果	慢，需要多次全局迭代
最优性保证	只能保证局部最优	理论上可保证全局最优（但实际很难）
典型风险	局部最优 ≠ 全局最优	计算代价高，可能过拟合

1.4 两者的联系

你可能会问：那是不是局部优化就没用了？当然不是。实际上，全局优化往往建立在局部优化的基础之上。

我举个例子你就明白了。训练深度神经网络时，SGD（随机梯度下降）本质上是一种局部优化方法——它只沿着当前梯度方向更新参数。但通过精心设计学习率调度、动量项、批量大小，我们最终能收敛到一个不错的全局解。这就是用局部优化逼近全局最优的典型做法。

两者的联系可以总结为三点：

1. 局部优化是全局优化的基石：很多全局优化算法（如遗传算法）内部都包含局部搜索步骤
2. 全局优化指导局部优化：先做全局分析，找到关键瓶颈，再针对性地做局部优化
3. 实践中需要平衡：纯全局优化计算量太大，纯局部优化容易跑偏。好的工程师懂得在两者之间找平衡

1.5 一个简单的代码示例

光讲理论太干，咱们看个代码。假设你要优化一个函数 f(x, y) = x² + y² + 10*sin(x)*sin(y)。这个函数有很多局部极小值。

import numpy as np

def local_optimization():
    """局部优化：贪心下降，容易陷入局部最优"""
    x, y = 3.0, 3.0  # 初始点
    lr = 0.01
    for _ in range(1000):
        # 计算梯度（局部信息）
        grad_x = 2*x + 10*np.cos(x)*np.sin(y)
        grad_y = 2*y + 10*np.sin(x)*np.cos(y)
        # 沿梯度反方向更新
        x -= lr * grad_x
        y -= lr * grad_y
    return x, y, x**2 + y**2 + 10*np.sin(x)*np.sin(y)

def global_optimization():
    """全局优化：随机重启 + 局部搜索"""
    best_val = float('inf')
    best_xy = None
    for _ in range(20):  # 20次随机重启
        x0, y0 = np.random.uniform(-5, 5, 2)
        # 从随机起点做局部搜索
        x, y = x0, y0
        lr = 0.01
        for _ in range(500):
            grad_x = 2*x + 10*np.cos(x)*np.sin(y)
            grad_y = 2*y + 10*np.sin(x)*np.cos(y)
            x -= lr * grad_x
            y -= lr * grad_y
        val = x**2 + y**2 + 10*np.sin(x)*np.sin(y)
        if val < best_val:
            best_val = val
            best_xy = (x, y)
    return best_xy[0], best_xy[1], best_val

# 运行对比
lx, ly, lv = local_optimization()
gx, gy, gv = global_optimization()
print(f"局部优化结果: x={lx:.3f}, y={ly:.3f}, f={lv:.3f}")
print(f"全局优化结果: x={gx:.3f}, y={gy:.3f}, f={gv:.3f}")

你运行一下就会发现，局部优化每次结果都不一样，取决于初始点。而全局优化通过多次随机重启，总能找到更优的解。这就是两者的本质区别。

1.6 本章小结

这一节我们讲清楚了三个核心问题：

• 局部优化：盯着子问题找最优，见效快但容易跑偏
• 全局优化：站在系统层面找最优，效果好但计算代价高
• 两者的关系：局部优化是工具，全局优化是目标。好的工程师懂得用局部优化去逼近全局最优

记住一句话：不要为了局部的最优，牺牲了全局的胜利。后面的章节，我们会深入具体的优化策略和实战技巧。到时候你会发现，理解这两个概念的区别，是所有优化工作的起点。