解决机器学习中的凹优与非凹优问题是不合适的

题目（145）：机器学习中的优化问题是涉及的凸优化问题和非凸优化问题吗？分别举例说明。

凸优化定义

凸优化问题

非凸优化问题

凸优化定义：公式、geometric insight

以逻辑回归模型为例讨论凸优化问题。基于Hessian矩阵半正定性分析优化特性。探讨全局最优与局部最优点之间存在等价关系。

非凸优化问题：PCA；PCA求解方式

凸优化问题

逻辑回归

L_i(\theta) = \log(1+\exp(-y_i \theta^T x_i))

损失函数的求解过程 logistic regression model: 对于逻辑回归模型而言：
\log \frac{p}{1-p}=\theta^T x 表示对数几率等于参数向量与输入特征的线性组合：
由此可得 p = \frac{\exp(\theta^T x)}{1+\exp(\theta^T x)}

\max \text{MLE} \simeq -\min \log \text{MLE}:= \min L(x,y;\theta)

\begin{aligned} L &= \text{负的} \left( y \cdot \ln p + (1 - y) \cdot \ln(1 - p) \right) \\ &= -y \cdot \ln\lef