Численные методы оптимизации. Рейзлин В.И. - 29 стр.

UptoLike

ВУЗ: 

ТПУ | Томск

Составители: 

Рубрика: 

29
Рис. 19. Иллюстрация к градиентным методам
Одномерная оптимизация вдоль направления
k
s
улучшает сходимость ме-
тода, но одновременно возрастает число вычислений функции
()fx
на каждой
итерации. Кроме того, вблизи экстремума норма
fx
близка к нулю и схо-
димость здесь будет очень медленной.
Эффективность алгоритма зависит от вида минимизируемой функции. Так,
для функции
22
12
f x x x
метод Коши сойдется к минимуму за одну итерацию
при любом начальном приближении, а для функции
22
12
100f x x x
сходи-
мость будет очень медленной.
Вообще, эффективность этого метода на овражных рельефах весьма пло-
хая.
Этот метод используется очень редко.
4.2. Метод Нюьтона
Построим квадратичную модель функции в окрестности точки
k
x
, разло-
жив ее в ряд Тейлора до членов второго порядка:
1
ˆ
2
k k T k T k
f x p f x f x p p f x p
. (4.5)
Найдем точку
1k k k
x x s

из условия минимума квадратичной модели
(4.5). Необходимым условием этого минимума будет
. Имеем:
ˆ
0
k k k k k
f x s f x f x s
и это приводит к следующему алгоритму:
на каждой итерации k решить систему уравнений

Страницы