Методы оптимизации. Рейзлин В.И. - 16 стр.

UptoLike

Составители: 

Рубрика: 

Квадратичная скорость сходимости объясняется тем обстоятельством, что
при исследовании неквадратичных функций метод Ньютона не отличается
высокой надежностью /1, 3/. Если точка
)0(
x
находится на значительном
расстоянии от точки
*
x
, шаг по методу Ньютона часто оказывается чрезмерно
большим, что может привести к отсутствию сходимости. Метод можно довольно
просто модифицировать с тем, чтобы обеспечить уменьшение целевой функции
от итерации к итерации и осуществлять поиск вдоль прямой, как в методе Коши.
Последовательность итераций строится в соответствии с формулой
)()(
)(1)(2)()()1( kkkkk
xfxfxx
. (6)
Выбор
)(k
осуществляется таким образом, чтобы
min)(
)1(
k
xf .
Это гарантирует выполнение неравенства
)()(
)()1( kk
xfxf
(7)
Такой метод носит название модифицированного метода Ньютона и в
случаях, когда вычисление точных значений первых и вторых производных не
сопряжено с существенными трудностями, оказывается надежным и
эффективным.
1.3. Методы сопряжённых градиентов
Эти методы, обладая положительными свойствами методов Коши и Ньютона,
основаны на вычисление значений только первых производных, отличаются
высокой надежностью при поиске
*
x
из удаленной точки
)0(
x
и быстро сходятся в
окрестности точки минимума. В основе методов лежит процедура построения
сопряженных направлений, для получения которых применяется квадратичная
аппроксимация функции
)
(
x
f
и значения компонент градиента.
Итак, считаем, что целевая функция является квадратичной:
Cxxxbaxqxf
TT
21)()( ,
а итерации выполняются по формуле (1), т. е.
)(
)()()()1( kkkk
xsxx
.
Направления поиска на каждой итерации определяются с помощью следующих
соотношений: