ВУЗ:
Составители:
70
На рис. 4.3 показана траектория градиентного спуска из начальной
точки )3;2(
0
=
)(
X к минимуму функции
22
12
2
121
)()1(),( xxxxxf −+−= ,
расположенному в точке )1;1(
*
=X . Поверхность данной целевой функции
содержит овраг, правда не столь узкий, как овраг функции Розенброка
(4.2). Но и при этом отчетливо проявляется зигзагообразность траектории.
Точка )0006,1;0002,1(=
(I)
X в рассматриваемом примере достигнута за
163=
I
итерации. Здесь явно возникает задача ускорения сходимости.
4.4. Метод Ньютона. Квазиньютоновские методы
Метод Ньютона для решения задач минимизации функций многих
аргументов является обобщением рассмотренного ранее одноименного
метода одномерной оптимизации. При некоторых предположениях о
характере минимизируемой функции он сходится значительно быстрее,
чем методы градиентного спуска.
Обоснование алгоритма многомерного метода Ньютона проведем,
рассматривая вначале двумерный случай. Разложение целевой функции
),(
21
xxf в ряд Тейлора в окрестности точки текущего приближения
)(k
X
имеет вид
Рис. 4.3. Траектория градиентного спуска
X
(0)
X
*
x
1
x
2
1
1
3
2
2
Страницы
- « первая
- ‹ предыдущая
- …
- 68
- 69
- 70
- 71
- 72
- …
- следующая ›
- последняя »