优化问题基础：数学建模、可行域、目标函数、约束条件与问题分类
优化问题的本质是在给定资源与规则的限制下，寻找使某个评价指标达到最优的决策方案。无论是调整算法超参数、设计供应链网络，还是规划机器人运动轨迹，其数学内核都遵循同一套语言体系：决策变量、目标函数、约束条件与可行域。理解这套语言，是后续设计评价函数与优化策略的前提。本章将系统梳理优化问题的数学建模范式、核心要素的工程含义，以及线性/非线性、凸/非凸等关键分类维度，为后续章节的变量评价函数设计奠定形式化基础。
上图展示了优化问题建模的完整逻辑链：从决策变量出发，定义目标函数与约束条件，约束围成的可行域限定了搜索范围；而问题本身的线性/非线性、凸/非凸、连续/离散属性，直接决定了后续优化策略的选择。下面逐一展开。
2.1 数学建模：从实际问题到优化表达式
数学建模是将现实决策问题转化为数学语言的过程。一个完整的优化模型包含三个基本组件：决策变量（我们能够控制的选择）、目标函数（衡量方案优劣的指标）、约束条件（必须遵守的规则）。建模的核心在于抽象——忽略次要因素，保留影响决策的关键变量与关系。
以生产计划为例：某工厂生产两种产品A和B，每单位A需2小时机器工时和1小时人工，利润40元；每单位B需1小时机器工时和3小时人工，利润30元。工厂每天可用机器工时8小时、人工工时12小时。问如何安排生产使利润最大？
- 决策变量：设x₁为产品A的日产量，x₂为产品B的日产量，x₁, x₂ ≥ 0。
- 目标函数：最大化利润 f(x) = 40x₁ + 30x₂。
- 约束条件：机器工时 2x₁ + x₂ ≤ 8；人工工时 x₁ + 3x₂ ≤ 12；非负约束 x₁, x₂ ≥ 0。
这个线性规划模型虽然简单，却体现了建模的全部要素。实际工程中，决策变量可能是高维向量（如神经网络权重）、矩阵（如推荐系统的用户-物品矩阵）甚至函数（如最优控制中的控制律）。目标函数可能是损失函数、能耗、时延或综合评分；约束则可能来自物理定律、资源上限、安全规范或业务规则。
2.2 可行域与约束条件的工程语义
可行域是所有满足约束条件的决策变量集合，记作 Ω = {x | gᵢ(x) ≤ 0, hⱼ(x) = 0, i=1,...,m, j=1,...,p}。可行域的形状与大小直接决定了优化问题的难度。约束分为等式约束（hⱼ(x) = 0）和不等式约束（gᵢ(x) ≤ 0），前者将解限制在低维流形上，后者则切割出凸多面体或更复杂的区域。
在工程实践中，约束往往来自多个维度：
| 约束类型 | 数学形式 | 工程来源 | 典型例子 |
|---|---|---|---|
| 资源约束 | Ax ≤ b | 有限产能/预算 | CPU利用率 ≤ 80% |
| 物理定律 | h(x) = 0 | 能量守恒/运动学 | 电压-电流关系 V = IR |
| 边界约束 | l ≤ x ≤ u | 安全范围/规格 | 温度 ∈ [−40°C, 85°C] |
| 逻辑约束 | 整数/二进制 | 开关/选择决策 | x ∈ {0, 1} 表示是否启用 |
| 耦合约束 | g(x₁, x₂) ≤ 0 | 子系统间关联 | 总功率 = P₁ + P₂ ≤ P_max |
可行域分析的关键在于判断其是否非空、是否有界、是否连通。若可行域为空，说明约束过强或相互矛盾，需要放宽某些约束；若可行域无界，则目标函数可能无上界（最大化问题）或无下界（最小化问题），需要添加正则化项或额外约束。
2.3 优化问题的分类体系
优化问题的分类决定了可用的求解算法与理论保证。最核心的分类维度有三个：线性/非线性、凸/非凸、连续/离散。此外还有可微/不可微、单目标/多目标、确定性/随机性等维度。
2.3.1 线性优化与非线性优化
线性规划（LP）要求目标函数和所有约束均为线性函数，即 f(x) = cᵀx，Ax ≤ b。线性规划具有成熟的理论与算法（单纯形法、内点法），可在多项式时间内求解，且最优解一定在可行域的顶点上。当目标函数或约束中出现非线性项（如 x²、sin(x)、x₁x₂、eˣ）时，问题变为非线性规划（NLP）。非线性问题通常没有解析解，需要迭代求解，且可能陷入局部最优。
判断线性性的实用方法：检查目标函数和约束中是否包含变量的乘积、幂次、三角函数、指数/对数等非线性运算。例如，f(x) = 3x₁ + 2x₂ 是线性的；而 f(x) = x₁² + 3x₂ 是非线性的。工程中许多问题天然非线性，如功率损耗 P = I²R、流体阻力 F = kv²。
2.3.2 凸优化与非凸优化
凸优化要求目标函数是凸函数（或凹函数，最大化时），且可行域是凸集。凸函数满足 f(θx + (1−θ)y) ≤ θf(x) + (1−θ)f(y)，几何意义是函数图像上任意两点连线位于图像上方。凸集满足：集合内任意两点的连线仍完全在集合内。凸优化的核心优势在于：任何局部最优解都是全局最优解，且存在多项式时间算法（如梯度下降、内点法）保证收敛。
非凸问题则存在多个局部最优解，全局最优解的寻找是NP-hard的。典型的非凸问题包括：神经网络训练（损失函数非凸）、混合整数规划、带有非凸约束的工程设计。处理非凸问题的策略包括：多起点随机初始化、模拟退火、遗传算法、分支定界法，以及将非凸问题松弛为凸问题（如半定松弛）。
- 线性函数既是凸的也是凹的。
- 二次函数 f(x) = xᵀQx + cᵀx 是凸的当且仅当 Q 是半正定矩阵。
- 指数函数 eˣ 是凸的，对数函数 log(x) 是凹的。
- 凸函数的非负加权和仍是凸函数。
- 若约束 gᵢ(x) 均为凸函数且等式约束为仿射（线性），则可行域为凸集。
2.3.3 连续优化与离散优化
连续优化中决策变量在实数域取值，可以使用梯度信息进行高效搜索。离散优化（组合优化）中变量取整数值或来自有限集合，如调度问题、路径规划、资源分配。离散问题的可行域是离散点集，无法直接使用梯度方法，常用方法包括：整数规划（分支定界、割平面）、动态规划、贪心算法、元启发式算法（遗传算法、粒子群）。
实际工程中常遇到混合整数规划（MIP），即部分变量连续、部分变量离散。例如，在数据中心资源调度中，服务器开关状态是二进制变量（0/1），而CPU频率分配是连续变量。MIP的求解复杂度远高于纯连续或纯离散问题。
2.4 案例拆解：一个非凸非线性优化问题的建模与分类
为加深理解，我们分析一个实际的工程案例：电动汽车电池热管理系统的功率分配优化。
背景与约束：某电动汽车在高速巡航时，电池温度上升至45°C，需启动冷却系统。冷却系统包含两个执行器：压缩机（功率P_c，连续可调，范围2-6kW）和冷却风扇（转速N_f，离散档位{0, 1, 2, 3}，对应功率{0, 0.5, 1.2, 2.0}kW）。电池温度变化率由热模型决定：dT/dt = k₁·(T_amb − T) + k₂·I² − k₃·(P_c + P_f(N_f))，其中I为放电电流（已知），k₁, k₂, k₃为热参数。目标是在5分钟内将电池温度从45°C降至35°C以下，同时最小化总能耗。
建模过程：
- 决策变量：压缩机功率 P_c ∈ [2, 6]（连续），风扇档位 N_f ∈ {0,1,2,3}（离散）。
- 目标函数：最小化总能耗 E = P_c·Δt + P_f(N_f)·Δt，其中 Δt = 300秒。
- 约束条件：温度终值 T(300) ≤ 35°C；温度动态方程（微分约束）；功率上限 P_c + P_f ≤ 8kW（电源限制）。
分类分析：目标函数是线性的（P_c和P_f的线性组合），但温度动态方程中包含P_c与T的乘积项（通过微分方程耦合），且离散变量N_f使问题成为混合整数问题。整体上，该问题属于混合整数非线性规划（MINLP），且由于温度动态的非线性，问题是非凸的。求解时不能直接使用凸优化工具，需要采用分支定界结合非线性求解器，或使用启发式算法（如遗传算法）在离散档位和连续功率的联合空间中搜索。
求解与结果：采用遗传算法（种群规模50，迭代100代）求解，得到最优策略：P_c = 4.2kW，N_f = 2档（1.2kW），总能耗 = 5.4kW × 300s = 1620kJ。对比贪心策略（先开最大功率快速降温），贪心方案能耗为 8kW × 300s = 2400kJ，遗传算法方案节能32.5%。但遗传算法求解耗时约3.2秒，而贪心策略即时响应。在实车场景中，若需实时控制，可预先离线计算不同工况下的最优策略表，在线查表使用。
2.5 常见误区与总结
在优化问题建模与分类中，初学者常犯以下错误：
- 混淆凸性与线性：线性问题一定是凸的，但凸问题可以是非线性的（如 f(x) = x² 是凸的但非线性）。凸性关注的是函数形状，线性关注的是函数形式。
- 忽略约束的可行性检查：建模后未验证可行域是否非空，导致求解器报错或返回无意义结果。建议先用随机采样或线性规划松弛快速检查。
- 将非凸问题当作凸问题求解：直接使用梯度下降求解非凸问题，可能收敛到较差的局部最优。应先用多起点或全局算法探索。
- 过度简化约束：将非线性约束强行线性化，可能导致最优解违反真实物理规律。例如，将功率损耗 P = I²R 近似为 P ≈ k·I，在电流变化范围大时误差显著。
- 忽视数值尺度：变量量级差异过大（如 x₁ ∈ [0, 1]，x₂ ∈ [10⁶, 10⁷]）会导致梯度计算病态，需进行归一化或使用自适应步长算法。