Ceres Solver官方教程学习笔记（十三）——解算Non-linear Least Squares问题（上）

介绍

为了能够快速且高效地利用CeresSolver进行优化，在这一部分中我们将详细介绍Ceres的核心优化算法及其工作原理。

令x \in \mathbb{R}^n为一个n维向量，则函数\textbf{F}(x) = [f_1(x), ..., f_m(x)]^\top构成关于x的一个方程组。进而我们聚焦于以下优化问题

其中 L和U分别是参数向量 的下限和上限。

arg min 就是使后面这个式子达到最小值时的变量的取值

由于对一般形式（1）中的任意函数求其全局极小值往往具有挑战性，在这种情况下我们不得不集中精力分析局部极小点的情况。考虑函数F(\mathbf{x})在\mathbf{x}处的雅可比矩阵\mathbf{J}(\mathbf{x})是一个m\times n阶矩阵（其中m,n\in\mathbb{N}^+），其元素定义为：

J_{ij}(\mathbf{x})=\frac{\partial f_i}{\partial x_j}(\mathbf{x})

（具体定义见雅可比矩阵相关内容）。而该函数在\mathbf{x}处的梯度向量则由下式给出：

\nabla g(\mathbf{x})=\nabla\left(\frac{1}{2}\|\mathbf{F}(\math