Page 166 - 数学建模算法与应用

Mathematical Modeling Algorithms and Applications
数学建模算法与应用

k
算二导数矩阵 [ 2 f (x )] 及其逆阵，我们设法构造另一个矩阵，用它来逼近二
-1
k
阶导数矩阵的逆阵 [ 2 f (x )] ，这一类方法也称拟 Newton 法（Quasi-Newton
Method）。
(k )
下面研究如何构造这样的近似矩阵，并将它记为 H 。每个步骤可以基于可
用信息确定下一次搜索的方向；选择每一代会降低目标函数值。这些近似矩阵最
终应在解点处接近 Hesse 矩阵的逆。当 f (x) 是二次函数时，其 Hesse 阵为常数阵
k
A ，任两点 x 和 x k+1 处的梯度之差为

或

对于非二次函数，仿照二次函数的情形，要求其 Hesse 阵的逆阵的第 k +1
次近似矩阵 H (k +1) 满足关系式

（7）
这就是常说的拟 Newton 条件。
若令

（8）

则式（7）变为

（9）
现假定 H (k ) 已知，用下式求 H (k +1) （设 H (k ) 和 H (k +1) 均为对称正定阵）：

（10）
其中 ΔH (k ) 称为第 次校正矩阵。显然， H (k +1) 应满足拟 Newton 法 条件（9），
k
即要求

或
（11）
由此可以设想，ΔH (k ) 的一种比较简单的形式是

（12）
其中 Q (k ) 和 W (k ) 为两个待定列向量。
将式（12）中的 ΔH (k ) 代入（11），得

156