VIP10
本课程属于：021-LightTools照明优化方法 光学光电与激光工程 · 共 10 门相关课程，组合学习更完整。
查看所属VIP全部课程 →
← 返回所属目录 咨询 / 购买

单变量与多目标优化算法实现

📚 共计 30 章节
点击此处阅读海量试读课程：100+行业、1000+细分领域
01
优化问题概述
什么是优化问题？三要素：决策变量、目标函数、约束条件。单变量与多变量优化的区别。
基础概念
02
数学基础回顾
导数与梯度、凸函数与凹函数、泰勒展开与近似，为优化算法铺垫。
数学预备
03
黄金分割法（一维）
单变量无约束优化：黄金分割法原理与实现，区间消去策略。
无约束单变量
04
斐波那契法（一维）
斐波那契法原理与实现，最优区间缩减率分析。
无约束单变量
05
牛顿法（一维）
单变量无约束优化：牛顿法原理与实现，二阶近似与快速收敛。
无约束牛顿
06
二分法求极值
单变量无约束优化：二分法原理与实现，基于导数符号的搜索。
无约束二分
07
一维搜索与学习率调参
单变量优化实战：一维搜索在机器学习学习率调参中的应用。
实战学习率
08
方向导数·梯度·海森矩阵
多变量优化基础：方向导数与梯度、海森矩阵，二阶条件。
多变量基础
09
最速下降法（梯度下降）原理
多变量无约束优化：最速下降法原理，负梯度方向与步长选择。
无约束梯度
10
最速下降法实现与收敛性
多变量无约束优化：最速下降法实现细节与收敛性分析。
实现收敛
11
牛顿法（多维）
多变量无约束优化：牛顿法原理与实现，海森矩阵与二次收敛。
无约束牛顿
12
拟牛顿法（DFP、BFGS）原理
多变量无约束优化：拟牛顿法原理，DFP与BFGS更新公式。
拟牛顿BFGS
13
拟牛顿法实现与对比
多变量无约束优化：拟牛顿法实现细节与数值对比。
实现对比
14
共轭梯度法
多变量无约束优化：共轭梯度法原理与实现，共轭方向。
无约束共轭
15
线性回归参数优化
多变量优化实战：线性回归模型参数优化，最小二乘法与梯度下降对比。
实战回归
16
等式约束与拉格朗日乘子法
多变量约束优化：等式约束，拉格朗日乘子法推导与求解。
约束拉格朗日
17
不等式约束与KKT条件
多变量约束优化：不等式约束，KKT条件与对偶。
约束KKT
18
罚函数法
多变量约束优化：罚函数法原理与实现，外点与内点。
约束罚函数
19
增广拉格朗日法
多变量约束优化：增广拉格朗日法原理与实现，乘子更新。
约束增广
20
序列二次规划（SQP）
多变量约束优化：序列二次规划简介，QP子问题。
约束SQP
21
模拟退火算法
启发式算法：模拟退火原理与实现，Metropolis准则。
启发式退火
22
遗传算法
启发式算法：遗传算法原理与实现，选择、交叉、变异。
启发式遗传
23
粒子群优化算法
启发式算法：粒子群优化原理与实现，速度与位置更新。
启发式粒子群
24
蚁群算法
启发式算法：蚁群算法原理与应用简介，信息素机制。
启发式蚁群
25
帕累托最优与多目标建模
多目标优化：帕累托最优，多目标问题建模与占优。
多目标帕累托
26
加权和法与ε-约束法
多目标优化：加权和法与ε-约束法，标量化技术。
多目标方法
27
NSGA-II算法简介
多目标优化：NSGA-II算法原理，非支配排序与拥挤度。
多目标进化
28
SVM中的优化问题
优化实战：支持向量机中的凸优化，对偶与核技巧。
实战SVM
29
神经网络训练优化（SGD, Adam）
优化实战：神经网络训练中的优化，SGD、Adam等算法。
实战深度学习
30
课程总结与前沿方向
自动微分、凸优化进阶、优化在AI中的应用展望。
总结前沿
专注课程资料整理