Нелинейное программирование. Нурминский Е.А. - 14 стр.

UptoLike

Составители: 

Рубрика: 

Д о к а з а т е л ь с т в о. В силу дважды диференцируемости
где очевидно .
Далее
(24)
Для оценки нормы используем определение нормы
Симметричная матрица имеет ортогональные собственные векторы,
которые, не умаляя общности, можно считать нормироваными. Вектор
можно разложить по этим векторам и тогда
где собственные векторы, а собственные числа . Учитывая
ортогональность получаем эквивалентную задачу
которая имеет очевидное решение
где . Подставляя эту оценку в (24),
получаем утверждение теоремы.
Выбирая в условиях теоремы 14 так, что бы миниммизировать оценку
множителя получаем следующую оценку
Следствие 15 В условиях теоремы 14 при градиентный
метод с постоянным шагом сходится линейно с множителем
.
Может создасться впечатление, что выбирая шаг градиентного метода из
условий полной релаксации (23) можно ускорить сходимость. К сожален-
ию, это не так. Даже если сходимость действительно несколько улучшается
на начальных итерациях метода, оценка асимптотической скорости сходи-
мости имеет для метода (23) точно такой же вид [?, стр. 65].
14
Д о к а з а т е л ь с т в о. В силу дважды диференцируемости                                                                                        
             >   ;  > >  :
                                                                         : /        :                                               :5
где очевидно       #                   #       .

                                                          :/  >  L 
                            
   Далее
                              =   5   @: H  
                         L 
                                        @:L S# L    ! .  5  @:                                      
                                                                                                                           
                                                                                                                                                                     (24)

                              
                                                                                                          


                                                             5  5  
Для оценки нормы                                    используем определение нормы

                                                                                                        

Симметричная матрица      имеет ортогональные собственные векторы,
которые, не умаляя общности, можно считать нормироваными. Вектор
можно разложить по этим векторам и тогда
                                                                                                                                                                           5
                                      5     
                                                                             5       
                                                                                                      
где   — собственные векторы, а   — собственные числа                                                                                               . Учитывая
ортогональность  получаем эквивалентную задачу

   .                                *
                                       
                                                                                                          *
                                                                                                       
                                                                                                                                                     L
          1       *   S7                                                                                                                
которая имеет очевидное решение

                     
                                                                                                 *                       *                    2W
                           
      +     D   
где 
                   
получаем утверждение теоремы.         . Подставляя эту оценку в (24),

   Выбирая в условиях теоремы 14 так, что бы миниммизировать оценку

                                                                                                                  
множителя получаем следующую оценку
                                                                                                + - '
 9  
Следствие 15 В условиях теоремы 14 при            градиентный
метод с постоянным шагом сходится линейно с множителем
   
                                                                                                                                                              #      
         .
Может создасться впечатление, что выбирая шаг градиентного метода из
условий полной релаксации (23) можно ускорить сходимость. К сожален-
ию, это не так. Даже если сходимость действительно несколько улучшается
на начальных итерациях метода, оценка асимптотической скорости сходи-
мости имеет для метода (23) точно такой же вид [?, стр. 65].



                                                                          14