ВУЗ:
Составители:
Рубрика:
Д о к а з а т е л ь с т в о. Сейчас доказательство этого факта представляет
собой легкое упражнение для студентов первого года изучения основ ма-
тематического анализа. Однако оно предоставляет шанс ввести некоторые
полезные понятия и продемонстрировать генезис некоторых обобщений и
численных методов.
Определим производную по направлению:
(3)
которая характеризует скорость роста функции в точке по направлен-
ию . Элементарные вычисления показывают, что для дифференцируемой
функции с производной (градиентом)
(4)
Положим Если , то
По определению
где при Следовательно, для достаточно малых
остаточный член и, соответственно,
Отсюда получаем и, следовательно, не может
быть точкой минимума.
Важные уроки, которые можно извлечь из этого доказательства, закл-
ючаются в том, что оно, во-первых, вводит важное понятие производной
по направлению и, во-вторых, подсказывает направление, в котором можно
улучшить ( уменьшить ) целевую функцию, если ее градиент отличен от
нуля.
Первое дает возможность формулировать условия оптимальности и для
других классов фуннкций, лишь бы у них существовала производная по на-
правлению: примерами таких функций являются кусочно-гладкие функции
и пр. Второе порождает градиентный метод минимизации, все еще использ-
уемый в специальных случаях.
Из оптимальности точки можно получить и информацию о поведении
и ее вторых производных в этой точке.
Теорема 2 Если точка доставляет минимум дважды дифференцир-
уемой функции :
то матрица вторых производных функции в точке неотрицательно
определена: для всех .
3
Д о к а з а т е л ь с т в о. Сейчас доказательство этого факта представляет собой легкое упражнение для студентов первого года изучения основ ма- тематического анализа. Однако оно предоставляет шанс ввести некоторые полезные понятия и продемонстрировать генезис некоторых обобщений и численных методов. Определим производную по направлению: > D ? (3) которая характеризует скорость роста функции в точке по направлен- ию . Элементарные вычисления показывают, что для дифференцируемой > функции с производной (градиентом) > > (4) Положим 4: Если > :L <% , то % / > : > : " > : ; > : > : "5 O : > : " : " !0 > : " #$ 5 По определению где #% & % #'&$ +*(Q%0 @ > :" L - при Следовательно, для достаточно малых ) % : , > : : -*./0/ > : "12L -3* %@ остаточный член и, соответственно, Отсюда получаем :3' > :L4* :L и, следовательно, не может : быть точкой минимума. Важные уроки, которые можно извлечь из этого доказательства, закл- ючаются в том, что оно, во-первых, вводит важное понятие производной по направлению и, во-вторых, подсказывает направление, в котором можно улучшить ( уменьшить ) целевую функцию, если ее градиент отличен от нуля. Первое дает возможность формулировать условия оптимальности и для других классов фуннкций, лишь бы у них существовала производная по на- правлению: примерами таких функций являются кусочно-гладкие функции и пр. Второе порождает градиентный метод минимизации, все еще использ- уемый в специальных случаях. Из оптимальности точки : можно получить и информацию о поведении и ее вторых производных в этой точке. : Теорема 2 Если точка доставляет минимум дважды дифференцир- уемой функции : : ;<= 5 то матрица вторых производных функции в точке : 5 определена: > > @:L 56 % для всех . 5 неотрицательно 3