Численные методы оптимизации. Рейзлин В.И. - 31 стр.

UptoLike

ВУЗ: 

ТПУ | Томск

Составители: 

Рубрика: 

31
а новая точка
1k
x
задается формулой
1k k k
x x s

. (4.9)
В системе (1)
I
– единичная матрица,
k
H
– матрица Гессе,
0
k

.
В последней формуле коэффициент перед
k
s
взят равным 1, так как пара-
метр
k
в (4.8) позволяет менять и длину шага, и его направление.
На начальной стадии поиска параметру
0
приписывается некоторое боль-
шое значение, например 10
4
, так что левая часть равенства Марквардта (4.8) при
больших
примет вид
0 0 0 0
( ) ( )
k k k
H I s I s s
. (4.10)
Таким образом, большим значением
0
, как видно из (4.8) и (4.10), соот-
ветствует направление поиска
0
1
kk
s f x
,
то есть направление наискорейшего спуска.
Из формулы (4.8) можно заключить, что при уменьшении
k
до нуля век-
тор
k
s
изменяется от направления, противоположного градиенту, до направле-
ния, определяемому по Ньютону. Если после первого шага получена точка с
меньшим значением целевой функции, то есть
10
f x f x
, следует выбрать
10
и реализовать еще один шаг. В противном случае нужно положить
00
, где
1
, и вновь реализовать предыдущий шаг.
Заметим, что недостатком метода Ньютона является то, что если матрица
Гессе
k
H
не является положительно определенной, то Ньютоновский шаг
k
s
не
приводит к убыванию функции. Поэтому «исправление» Гессиана в соответ-
ствии с формулой
kk
HI
модифицирует матрицу и при соответствующем вы-
боре
k
делает ее положительно определенной, так как единичная матрица по-
ложительно определена.
Приведем теперь алгоритм метода:
1. Задать
0
x
– начальное приближение к
*
x
, M – максимально допустимое
количество итераций и
– параметр сходимости.
2. Положить
04
0, 10k
.
3. Вычислить
k
fx
.
4. Проверить
?
k
fx 

Страницы