Page 161 - 数学建模算法与应用

第六章 非线性规划的研究

第三节 无约束极值问题的解法

无约束极值问题可表述为
（5）
求解问题（5）的迭代法大体上分为两点：一种是使用称为分析方法的函数
的一阶或二阶导数。第二种方法是只使用称为直接方法的函数的值。

一、解析法

（一）梯度法（最速下降法）

对基本迭代格式
（6）
k
k
我们总是考虑从点 x 出发沿哪一个方向 p ，使目标函数 f 下降得最快。微
k
积分的知识告诉我们，点 x 的负梯度方向

k
是从点 x 出发使 f 下降最快的方向。为此，称负梯度方向 – 为 f 在
k
点 x 处的最速下降方向。
k
按基本迭代格式（6），每一轮从点 x 出发沿最速下降方向 – 作一维
搜索，来建立求解无约束极值问题的方法，称之为最速下降法。

这个方法的特点是，每轮的搜索方向都是目标函数在当前点下降最快的方向。
同时，用 作为停止条件。其具体步骤如下：
1°选取初始数据。选取初始点 x0，给定终止误差，令 k ：= 0 。

2°求梯度向量。计算 f (xk) ， 若 停止迭代，输出 xk 。否则，
进行 3°。
3° 构造负梯度方向。取

k
4° 进行一维搜索。求 t ，使得

k+1
k
k
令 x = x + tk p ，k ：= k +1， 转 2°。
例 用最速下降法求解无约束非线性规划问题

151