转载自：http://jacoxu.com/jacobian%E7%9F%A9%E9%98%B5%E5%92%8Chessian%E7%9F%A9%E9%98%B5/

在网上看到的一篇不错的关于雅克比矩阵，海森矩阵和牛顿法的介绍，非常的简单易懂，并且有Hessian矩阵在牛顿法上的应用。

Jacobian矩阵和Hessian矩阵

发表于 2012 年 8 月 8 日

1. Jacobian

在向量分析中, 雅可比矩阵是一阶偏导数以一定方式排列成的矩阵, 其行列式称为雅可比行列式. 还有, 在代数几何中, 代数曲线的雅可比量表示雅可比簇：伴随该曲线的一个代数群, 曲线可以嵌入其中. 它们全部都以数学家卡尔·雅可比(Carl Jacob, 1804年10月4日－1851年2月18日)命名；英文雅可比量”Jacobian”可以发音为[ja ˈko bi ən]或者[ʤə ˈko bi ən].

雅可比矩阵

雅可比矩阵的重要性在于它体现了一个可微方程与给出点的最优线性逼近. 因此, 雅可比矩阵类似于多元函数的导数.

雅可比行列式

如果m = n, 那么<span id="MathJax-Element-17-Frame" class="MathJax" data-mathml="F

“>FF是从n维空间到n维空间的函数, 且它的雅可比矩阵是一个方块矩阵. 于是我们可以取它的行列式, 称为雅可比行列式.

在某个给定点的雅可比行列式提供了 在接近该点时的表现的重要信息. 例如, 如果连续可微函数<span id="MathJax-Element-18-Frame" class="MathJax" data-mathml="F

“>FF在<span id="MathJax-Element-19-Frame" class="MathJax" data-mathml="p

“>pp点的雅可比行列式不是零, 那么它在该点附近具有反函数. 这称为反函数定理. 更进一步, 如果<span id="MathJax-Element-20-Frame" class="MathJax" data-mathml="p

“>pp点的雅可比行列式是正数, 则<span id="MathJax-Element-21-Frame" class="MathJax" data-mathml="F

“>FF在<span id="MathJax-Element-22-Frame" class="MathJax" data-mathml="p

“>pp点的取向不变；如果是负数, 则<span id="MathJax-Element-23-Frame" class="MathJax" data-mathml="F

“>FF的取向相反. 而从雅可比行列式的绝对值, 就可以知道函数<span id="MathJax-Element-24-Frame" class="MathJax" data-mathml="F

“>FF在<span id="MathJax-Element-25-Frame" class="MathJax" data-mathml="p

“>pp点的缩放因子；这就是为什么它出现在换元积分法中.

对于取向问题可以这么理解, 例如一个物体在平面上匀速运动, 如果施加一个正方向的力<span id="MathJax-Element-26-Frame" class="MathJax" data-mathml="F

“>FF, 即取向相同, 则加速运动, 类比于速度的导数加速度为正；如果施加一个反方向的力<span id="MathJax-Element-27-Frame" class="MathJax" data-mathml="F

“>FF, 即取向相反, 则减速运动, 类比于速度的导数加速度为负.

2. 海森Hessian矩阵

在数学中, 海森矩阵(Hessian matrix或Hessian)是一个自变量为向量的实值函数的二阶偏导数组成的方块矩阵, 此函数如下：

2), 最优化

在最优化的问题中, 线性最优化至少可以使用单纯形法(或称不动点算法)求解, 但对于非线性优化问题, 牛顿法提供了一种求解的办法. 假设任务是优化一个目标函数<span id="MathJax-Element-48-Frame" class="MathJax" data-mathml="f

“>ff, 求函数<span id="MathJax-Element-49-Frame" class="MathJax" data-mathml="f

“>ff的极大极小问题, 可以转化为求解函数<span id="MathJax-Element-50-Frame" class="MathJax" data-mathml="f

“>ff的导数<span id="MathJax-Element-51-Frame" class="MathJax" data-mathml="f′=0

“>f′=0f′=0的问题, 这样求可以把优化问题看成方程求解问题(<span id="MathJax-Element-52-Frame" class="MathJax" data-mathml="f′=0

“>f′=0f′=0). 剩下的问题就和第一部分提到的牛顿法求解很相似了.

这次为了求解<span id="MathJax-Element-53-Frame" class="MathJax" data-mathml="f′=0

“>f′=0f′=0的根, 把<span id="MathJax-Element-54-Frame" class="MathJax" data-mathml="f(x)

“>f(x)f(x)的泰勒展开, 展开到2阶形式：

<span class="MathJax" data-mathml="f′=0

“>