VIP10

本课程属于：022-OSLO光学设计软件基础 光学光电与激光工程 · 共 10 门相关课程，组合学习更完整。

查看所属VIP全部课程 →

← 返回所属目录咨询 / 购买

局部全局数值优化算法设计与比较

📚 共计 30 章节

点击此处阅读海量试读课程：100+行业、1000+细分领域

什么是局部优化？什么是全局优化？两者的核心区别与联系，奠定课程基础。

局部搜索算法

爬山法原理、优缺点分析、适用场景，理解最朴素的局部搜索范式。

局部爬山法

模拟退火算法

物理退火启发、算法流程、温度衰减策略，跳出局部最优的经典方法。

生物进化启发、编码方式、选择/交叉/变异算子，进化计算核心。

粒子群优化

群体智能模型、速度与位置更新公式、参数调优，简洁高效的全局搜索。

信息素机制、路径构建、收敛性分析，组合优化中的明星算法。

信息素组合

局部优化陷阱

陷入局部最优、鞍点问题、初始点敏感性，揭示局部方法的脆弱性。

全局优化挑战

维度灾难、计算复杂度、早熟收敛，全局搜索面临的核心困难。

梯度下降法

批量梯度下降、随机梯度下降、小批量梯度下降，深度学习优化基石。

动量法与Adam

动量累积、自适应学习率、Nesterov加速，现代优化器核心机制。

牛顿法与拟牛顿法

二阶优化思想、BFGS/L-BFGS算法，利用曲率加速收敛。

共轭梯度法

共轭方向、线性搜索、非线性扩展，无需存储Hessian的经典方法。

共轭线性搜索

贝叶斯优化

高斯过程代理模型、采集函数、超参数调优，样本高效的全局优化。

贝叶斯超参数

CMA-ES算法、协方差矩阵自适应、无梯度优化，连续空间进化利器。

CMA-ES无梯度

变异向量生成、交叉策略、选择机制，结构简单而强大的全局搜索。

多目标优化

Pareto最优、NSGA-II算法、MOEA/D算法，权衡多个冲突目标。

罚函数法、拉格朗日乘子法、序列二次规划，处理现实约束条件。

旅行商问题、背包问题、图着色问题，离散空间经典难题。

Rosenbrock函数、Rastrigin函数、Ackley函数，基准测试函数集。

测试函数基准

无导数优化、响应面方法、代理模型，不依赖梯度信息的优化。

混合优化策略

局部搜索+全局搜索、元启发式+精确算法，取长补短的融合之道。

种群并行、任务并行、GPU加速，利用并行计算提升效率。

分布式优化

联邦学习、去中心化SGD、异步并行，大规模分布式场景优化。

分布式联邦

优化软件工具

SciPy.optimize、Optuna、Hyperopt、DEAP，主流优化库实战。

机器学习超参数优化

网格搜索、随机搜索、贝叶斯搜索，提升模型性能的关键技术。

超参数搜索

深度学习优化

学习率调度、权重初始化、批归一化，训练深度网络的核心技巧。

深度学习归一化

强化学习中的优化

策略梯度、Q学习、Actor-Critic，优化在序列决策中的应用。

强化学习策略

实际案例1：物流路径规划

物流路径规划中的局部与全局优化对比，从真实场景理解算法选择。

实际案例2：神经网络架构搜索

神经网络架构搜索中的优化策略选择，自动化机器学习实践。

总结与展望

优化理论前沿、自动机器学习、可解释优化，未来发展方向。