Нелинейное программирование. Нурминский Е.А. - 3 стр.

UptoLike

Составители: 

Рубрика: 

Д о к а з а т е л ь с т в о. Сейчас доказательство этого факта представляет
собой легкое упражнение для студентов первого года изучения основ ма-
тематического анализа. Однако оно предоставляет шанс ввести некоторые
полезные понятия и продемонстрировать генезис некоторых обобщений и
численных методов.
Определим производную по направлению:
(3)
которая характеризует скорость роста функции в точке по направлен-
ию . Элементарные вычисления показывают, что для дифференцируемой
функции с производной (градиентом)
(4)
Положим Если , то
По определению
где при Следовательно, для достаточно малых
остаточный член и, соответственно,
Отсюда получаем и, следовательно, не может
быть точкой минимума.
Важные уроки, которые можно извлечь из этого доказательства, закл-
ючаются в том, что оно, во-первых, вводит важное понятие производной
по направлению и, во-вторых, подсказывает направление, в котором можно
улучшить ( уменьшить ) целевую функцию, если ее градиент отличен от
нуля.
Первое дает возможность формулировать условия оптимальности и для
других классов фуннкций, лишь бы у них существовала производная по на-
правлению: примерами таких функций являются кусочно-гладкие функции
и пр. Второе порождает градиентный метод минимизации, все еще использ-
уемый в специальных случаях.
Из оптимальности точки можно получить и информацию о поведении
и ее вторых производных в этой точке.
Теорема 2 Если точка доставляет минимум дважды дифференцир-
уемой функции :
то матрица вторых производных функции в точке неотрицательно
определена: для всех .
3
Д о к а з а т е л ь с т в о. Сейчас доказательство этого факта представляет
собой легкое упражнение для студентов первого года изучения основ ма-
тематического анализа. Однако оно предоставляет шанс ввести некоторые
полезные понятия и продемонстрировать генезис некоторых обобщений и
численных методов.
   Определим производную по направлению:
                                >     D             ?                       (3)


    
которая характеризует скорость роста функции в точке по направлен-
               
ию . Элементарные вычисления показывают, что для дифференцируемой
                                                                              > 
                                                                                      
функции      с производной (градиентом)
                                  >                                  >   
                                         
                                                                                                            (4)

Положим    4:  Если  >  :L <% , то
           %                                               
                   / >  :   >  : " >  : ;  >  :  >  : "5

                 O :   >  : "  : "  !0 >  : "  #$ 5
По определению



где     #% & % #'&$ +*(Q%0 @ >  :"  L -
             при                                Следовательно, для достаточно малых                    )    %
                      : ,  >  :   : -*./0/ >  : "12L -3* %@
остаточный член                                        и, соответственно,



Отсюда получаем             :3'  >  :L4*  :L
                                         и, следовательно,    не может                            :
быть точкой минимума.
   Важные уроки, которые можно извлечь из этого доказательства, закл-
ючаются в том, что оно, во-первых, вводит важное понятие производной
по направлению и, во-вторых, подсказывает направление, в котором можно
улучшить ( уменьшить ) целевую функцию, если ее градиент отличен от
нуля.
   Первое дает возможность формулировать условия оптимальности и для
других классов фуннкций, лишь бы у них существовала производная по на-
правлению: примерами таких функций являются кусочно-гладкие функции
и пр. Второе порождает градиентный метод минимизации, все еще использ-
уемый в специальных случаях.
   Из оптимальности точки                        :
                              можно получить и информацию о поведении
и ее вторых производных в этой точке.
                                           :
Теорема 2 Если точка
                                          доставляет минимум дважды дифференцир-
уемой функции   :
                              : ;<=   5
то матрица вторых производных функции  в точке :
                  5
определена:  > >  @:L        56
                        % для всех .                          5                               неотрицательно



                                                                      3