跳转到内容

黑塞矩阵

维基百科,自由的百科全书

海森矩阵(德语:Hesse-Matrix;英语:Hessian matrixHessian),又译作黑塞矩阵海塞(赛)矩阵海瑟矩阵等,是一个由多变量实值函数的所有二阶偏导数组成的方阵,由德国数学家奥托·黑塞引入并以其命名。

定义

[编辑]

假设有一实值函数,如果 的所有二阶偏导数都存在并在定义域内连续,那么函数的黑塞矩阵为

或使用下标记号表示为

显然黑塞矩阵 是一个方阵。黑塞矩阵的行列式被称为黑塞式(英语:Hessian),而需注意的是英语环境下使用Hessian一词时可能指上述矩阵也可能指上述矩阵的行列式[1]

性质

[编辑]

高等数学知识可知,若一元函数点的某个邻域内具有任意阶导数,则函数点处的泰勒展开式

其中,

同理,二元函数点处的泰勒展开式为

其中,

将上述展开式写成矩阵形式,则有

其中,转置是函数梯度,矩阵

即函数点处的黑塞矩阵。它是由函数点处的所有二阶偏导数所组成的方阵。

由函数的二次连续性,有

所以,黑塞矩阵对称矩阵

将二元函数的泰勒展开式推广到多元函数,函数点处的泰勒展开式为

其中, 为函数点的梯度,

为函数点的黑塞矩阵。若函数有次连续性,则函数的黑塞矩阵是对称矩阵。

说明:在优化设计领域中,黑塞矩阵常用表示,且梯度有时用表示。[2]

函数的黑塞矩阵和雅可比矩阵有如下关系:

即函数的黑塞矩阵等于其梯度的雅可比矩阵。

应用

[编辑]

函数的极值条件

[编辑]

对于一元函数,在给定区间内某点处可导,并在点处取得极值,其必要条件

即函数的极值必定在驻点处取得,或者说可导函数的极值点必定是驻点;但反过来,函数的驻点不一定是极值点。检验驻点是否为极值点,可以采用二阶导数的正负号来判断。根据函数点处的泰勒展开式,考虑到上述极值必要条件,有

点处取得极小值,则要求在某一邻域内一切点都必须满足

即要求

亦即要求

点处取得极大值的讨论与之类似。于是有极值充分条件

设一元函数点处具有二阶导数,且,则

  1. 时,函数处取得极小值;
  2. 时,函数处取得极大值。

而当时,无法直接判断,还需要逐次检验其更高阶导数的正负号。由此有一个规律:若其开始不为零的导数阶数为偶数,则驻点是极值点;若为奇数,则为拐点,而不是极值点。

对于二元函数,在给定区域内某点处可导,并在点处取得极值,其必要条件

同样,这只是必要条件,要进一步判断是否为极值点需要找到取得极值的充分条件。根据函数点处的泰勒展开式,考虑到上述极值必要条件,有

,则

点处取得极小值,则要求在某一邻域内一切点都必须满足

即要求

亦即要求





此条件反映了点处的黑塞矩阵的各阶主子式都大于零,即对于

要求



点处取得极大值的讨论与之类似。于是有极值充分条件:

设二元函数点的邻域内连续且具有一阶和二阶连续偏导数,又有,同时令,则

  1. 时,函数处取得极小值;
  2. 时,函数处取得极大值。

此外可以判断,当时,函数点处没有极值,此点称为鞍点。而当时,无法直接判断,对此,补充一个规律:当时,如果有,那么函数有极值,且当有极小值,当有极大值。

由线性代数的知识可知,若矩阵满足

则矩阵正定矩阵,或者说矩阵正定。

若矩阵满足

则矩阵负定矩阵,或者说矩阵负定。[3]

于是,二元函数点处取得极值的条件表述为:二元函数点处的黑塞矩阵正定,则取得极小值;在点处的黑塞矩阵负定,则取得极大值。

对于多元函数,若在点处取得极值,则极值存在的必要条件为

取得极小值的充分条件为

正定,即要求的各阶主子式都大于零,即







取得极大值的充分条件为

负定。[4][5][6]

拓展阅读

[编辑]

参考文献

[编辑]
  1. ^ Binmore, Ken; Davies, Joan. Calculus Concepts and Methods. Cambridge University Press. 2007: 190. ISBN 9780521775410. OCLC 717598615. 
  2. ^ 白清顺; 孙靖明; 梁迎春 (编). 机械优化设计(第6版). 北京: 机械工业出版社. 2017.6(2018.11重印): 35~36页. ISBN 978-7-111-56643-4. 
  3. ^ 刘二根; 谢霖铨 (编). 线性代数. 江西高校出版社. 2015.7: 164~166页. ISBN 978-7-5493-3588-6. 
  4. ^ 白清顺; 孙靖明; 梁迎春 (编). 机械优化设计(第6版). 北京: 机械工业出版社. 2017.6(2018.11重印): 37~39页. ISBN 978-7-111-56643-4. 
  5. ^ 同济大学数学系 (编). 高等数学(第七版)上册. 高等教育出版社. 2014.7: 155页. ISBN 978-7-04-039663-8. 
  6. ^ 同济大学数学系 (编). 高等数学(第七版)下册. 高等教育出版社. 2014.7: 113页. ISBN 978-7-04-039662-1. 
pFad - Phonifier reborn

Pfad - The Proxy pFad of © 2024 Garber Painting. All rights reserved.

Note: This service is not intended for secure transactions such as banking, social media, email, or purchasing. Use at your own risk. We assume no liability whatsoever for broken pages.


Alternative Proxies:

Alternative Proxy

pFad Proxy

pFad v3 Proxy

pFad v4 Proxy