运筹学

绪论

运筹学主要分支划分方法：一般数学规划模型/特定问题的数学模型。前者划分出线性规划/整数规划/非线性规划/DP/网络流/...，后者划分出网络计划/排队论/存储论/决策论/对策论/...
人工智能的许多问题均与运筹学密不可分
核心：建模与求解
e.g.

线性规划：给定基函数和数量，容易，找到最优解
非线性规划：给定数量，要求优化基函数，难，获得局部最优解；解决过拟合问题，很难，只能获得较好的解

优化方法简述

贪心：收敛到局部最优解（确定性搜索）
允许前进到结果变差的点：函数可能无法收敛
为了使算法收敛，只能引入不确定性，让算法在任何一点以一定的概率前进到邻近的某点，移动概率和相应点的目标函数值正相关。由此产生的算法是结果不确定的算法。（不确定性搜索，如模拟退火）

1. 线性规划

实际问题引入的约束常常是不等式约束，需要转化成等式约束。例如 \(x_1 + x_2 <= a \rightarrow x_1 + x_2 + x_3 = a, x_3 >= 0\)