数学优化与凸集（斯坦福凸优化笔记）

1 数学优化的概念：

在日常生活中，存在大量需要进行数学优化的实例，这类问题通常可以表示为以下标准形式：
minimize f_{0}(x)
subject to f_{i}(x)\leq b_{i}， i=1，…m
我们通常关注一些具有特定性质的优化问题。
当目标函数与约束函数均为线性函数时，即对于任意x,y \in R^{n}和\alpha,\beta \in R满足：
f_{i}(\alpha x+\beta y)=\alpha f_{i}(x)+\beta f_{i}(y)
此时所涉及的问题即为我们在高中阶段已接触过的线性规划问题。
实际上，一个优化问题是否能够有效求解，并不完全依赖于目标函数是否为线性函数，而更关键的是该函数是否具备凸性。
本课程正是围绕这一主题展开讨论。若目标函数与约束函数均为凸函数，则满足如下条件：对于任意x,y以及\alpha +\beta=1,\alpha \geq0 ,\beta \geq 0 成立：
f_{i}(\alpha x+\beta y)\leq\alpha f_{i}(x)+\beta f_{i}(y)
在这种情况下，原本的线性规划问题便转化为凸优化问题。可以将线性规划视为凸优化的一个具体情形。与线性规划相比，凸优化仅需满足不等式约束条件即可，而