ВУЗ:
Составители:
Рубрика:
Д о к а з а т е л ь с т в о. Сейчас доказательство этого факта представляет
собой легкое упражнение для студентов первого года изучения основ ма-
тематического анализа. Однако оно предоставляет шанс ввести некоторые
полезные понятия и продемонстрировать генезис некоторых обобщений и
численных методов.
Определим производную по направлению:
(3)
которая характеризует скорость роста функции в точке по направлен-
ию . Элементарные вычисления показывают, что для дифференцируемой
функции с производной (градиентом)
(4)
Положим Если , то
По определению
где при Следовательно, для достаточно малых
остаточный член и, соответственно,
Отсюда получаем и, следовательно, не может
быть точкой минимума.
Важные уроки, которые можно извлечь из этого доказательства, закл-
ючаются в том, что оно, во-первых, вводит важное понятие производной
по направлению и, во-вторых, подсказывает направление, в котором можно
улучшить ( уменьшить ) целевую функцию, если ее градиент отличен от
нуля.
Первое дает возможность формулировать условия оптимальности и для
других классов фуннкций, лишь бы у них существовала производная по на-
правлению: примерами таких функций являются кусочно-гладкие функции
и пр. Второе порождает градиентный метод минимизации, все еще использ-
уемый в специальных случаях.
Из оптимальности точки можно получить и информацию о поведении
и ее вторых производных в этой точке.
Теорема 2 Если точка доставляет минимум дважды дифференцир-
уемой функции :
то матрица вторых производных функции в точке неотрицательно
определена: для всех .
3
Д о к а з а т е л ь с т в о. Сейчас доказательство этого факта представляет
собой легкое упражнение для студентов первого года изучения основ ма-
тематического анализа. Однако оно предоставляет шанс ввести некоторые
полезные понятия и продемонстрировать генезис некоторых обобщений и
численных методов.
Определим производную по направлению:
> D ? (3)
которая характеризует скорость роста функции в точке по направлен-
ию . Элементарные вычисления показывают, что для дифференцируемой
>
функции с производной (градиентом)
> >
(4)
Положим 4: Если > :L <% , то
%
/ > : > : " > : ; > : > : "5
O : > : " : " !0 > : " #$ 5
По определению
где #% & % #'&$ +*(Q%0 @ > :" L -
при Следовательно, для достаточно малых ) %
: , > : : -*./0/ > : "12L -3* %@
остаточный член и, соответственно,
Отсюда получаем :3' > :L4* :L
и, следовательно, не может :
быть точкой минимума.
Важные уроки, которые можно извлечь из этого доказательства, закл-
ючаются в том, что оно, во-первых, вводит важное понятие производной
по направлению и, во-вторых, подсказывает направление, в котором можно
улучшить ( уменьшить ) целевую функцию, если ее градиент отличен от
нуля.
Первое дает возможность формулировать условия оптимальности и для
других классов фуннкций, лишь бы у них существовала производная по на-
правлению: примерами таких функций являются кусочно-гладкие функции
и пр. Второе порождает градиентный метод минимизации, все еще использ-
уемый в специальных случаях.
Из оптимальности точки :
можно получить и информацию о поведении
и ее вторых производных в этой точке.
:
Теорема 2 Если точка
доставляет минимум дважды дифференцир-
уемой функции :
: ;<= 5
то матрица вторых производных функции в точке :
5
определена: > > @:L 56
% для всех . 5 неотрицательно
3
