Нелинейное программирование. Нурминский Е.А. - 19 стр.

UptoLike

ВУЗ: 

ДВФУ | Владивосток

Составители: 

Рубрика: 

с малым параметром и решение этой задачи при .
Константы оцениваются в окрестности минимума как и
(глобальная оценка этих констант лишь ухудшит ситуацию). Применение
условий теоремы потребует выполнения для начального приближения не-
равенства
т.е. . Игпче говоря, начальное приближение должно быть
порядка точности окончательного решения !
2.5 Метод сопряженных градиентов
Основой применения метода Ньютона является точные вычисления элемен-
тов матрицы вторых производных . К сожалению, во многих случаях это
представляется затруднительным. Альтернативой являются методы, име-
ющие как и метод Ньютона, высокую скорость сходимости, но использу-
ющие лишь первые производные целевой функции. Одним из наиболее из-
вестных методов такого сорта является метод сопряженных градиентов.
Для изложения теории этого метода введем необходимые вспомогательные
понятия.
Определение 18 Система векторов называется сопряжен-
ной ( или -ортогональной ), если
(28)
для .
Если — положительно определенная матрица, то, не умаляя общности,
можно счмтать
(29)
и условия (28)-(29) определяют систему нормированых сопряженных векто-
ров.
Очевидно, что сопряженность определяется по отношению к некоторой
матрице , но наличие такой матрицы обычно ясно из контекста. Далее мы
будем предполагать положительную определенность , не оговаривая это
особо.
Сопряженные вектора имеют ряд полезных свойств, в частности, лине-
йной независимости.
Лемма 19 Пусть — система нормированых сопряженных
векторов. Тогда линейно независимы.
Д о к а з а т е л ь с т в о. Предположим, что
19
с малым параметром 
                  
                                    +%
                           и решение этой задачи 
                                                      
                                                        
                                                          
                                                            при 
                                                                  
                                                                    .                   :    & - %   & * %
Константы      оцениваются в окрестности минимума как         и
(глобальная оценка этих констант лишь ухудшит ситуацию). Применение


                                             L*+ W Q#
условий теоремы потребует выполнения для начального приближения не-
равенства
                                      -                                      *!
т.е. -  #            # -
                  . Игпче говоря, начальное приближение должно быть
порядка точности окончательного решения !

2.5             Метод сопряженных градиентов

                                                        >>
Основой применения метода Ньютона является точные вычисления элемен-
тов матрицы вторых производных . К сожалению, во многих случаях это
представляется затруднительным. Альтернативой являются методы, име-
ющие как и метод Ньютона, высокую скорость сходимости, но использу-
ющие лишь первые производные целевой функции. Одним из наиболее из-
вестных методов такого сорта является метод сопряженных градиентов.
Для изложения теории этого метода введем необходимые вспомогательные

                                                                        /0/0
понятия.

Определение 18 Система векторов                                                        называется сопряжен-
ной ( или -ортогональной ), если
                                                               %
        
                                                                                                           (28)

для   (  .
Если   — положительно определенная матрица, то, не умаляя общности,
можно счмтать
                                                               (29) 7*
и условия (28)-(29) определяют систему нормированых сопряженных векто-
ров.
   Очевидно, что сопряженность определяется по отношению к некоторой
матрице , но наличие такой матрицы обычно ясно из контекста. Далее мы
будем предполагать положительную определенность , не оговаривая это
особо.
   Сопряженные вектора имеют ряд полезных свойств, в частности, лине-


                               "  /0/0"//0 линейно
йной независимости.
Лемма 19 Пусть
                                                         — система нормированых сопряженных
векторов. Тогда                                                 независимы.
Д о к а з а т е л ь с т в о. Предположим, что
                                                   
                                                                      %
                                                   
                                                           19

Страницы