ВУЗ:
Составители:
Рубрика:
26
стенок.
Ситуацию можно улучшить, если учитывать информацию о кривизне
и градиенте, т. е. вторые производные. Один из способов сделать это –
использовать метод Ньютона для решения уравнения
( ) 0fx
.
Раскладывая градиент
f
в ряд Тейлора вокруг текущего состояния
0
x
,
получим
2
0 0 0
( ) ( ) ( ) ( )
T
f x f x x x f x
+... . (1.18)
Пренебрегая членами более высокого порядка (считая
f
квадратичной вблизи
0
x
) и решая задачу минимума, приравняв левую
часть уравнения (1.18) к нулю, получим правило вычисления параметра на
очередном шаге по методу Ньютона:
21
1
( ( )) ( )
i i i i
x x f x f x
. (1.19)
Поскольку метод Ньютона напрямую использует предположение о
квадратичности (пренебрегая членами более высоких порядков при
разложении в ряд Тейлора), нет необходимости точно вычислять гессиан, а
достаточно использовать его аппроксимацию (1.16). Главное достоинство
такого подхода – быстрая сходимость. Однако скорость сходимости
зависит от начального положения (если быть более точным - от
линейности вокруг начального положения).
Легко заметить, что простейший градиентный метод и метод
Ньютона— Гаусса дополняют друг друга с точки зрения предоставляемых
преимуществ. Основываясь на этом наблюдении, Левенберг предложил
алгоритм, в котором правило вычисления параметра есть комбинация
правил (1.17) и (1.19):
1
1
( ) ( )
i i i
x x H I f x
, (1.20)
где
H
– матрица Гессе, вычисленная в точке
i
x
. Данное правило
Страницы
- « первая
- ‹ предыдущая
- …
- 24
- 25
- 26
- 27
- 28
- …
- следующая ›
- последняя »
