Методы безусловной многомерной оптимизации. Шипилов С.А. - 4 стр.

                                         4
                        ∂f *
                           (x ) = 0          ,    i=1, 2 ,3 , ..., n
                       ∂xi
т.е. градиент функции равен нулевому вектору.
       Данная система может иметь как одно, так и несколько решений. Точки
x* называются стационарными точками. Для проверки полученных точек на
экстремум необходимо провести исследование вторых частных производных.
При этом, рассчитывается матрица Гессе Ή(x*), представляющая квадратную
матрицу вторых частных производных f(x), взятых в точке x*. Достаточным ус-
ловием минимума является положительно определенная матрица Ή, а макси-
мума - отрицательно определенная.
       Для функции двух переменных введем следующие обозначения
            ∂2 f *                  ∂2 f *                     ∂2 f
                 (x ) = A                (x ) = B                    (x* ) = C
            ∂x12
                                    ∂x22
                                                             ∂x1∂x2
       Возможны два случая: AB - C2 < 0 и AB – C2 >0. В первом случае вывода о
наличии экстремумa функции сделать нельзя. Во втором случае при A > 0 най-
денная точка является минимумом функции, при A < 0 - максимумом функции.

     3. ГРАФИЧЕСКИЙ АНАЛИЗ ФУНКЦИИ. ПОСТРОЕНИЕ ЛИНИЙ
                           УРОВНЯ
      Область функции, в которой находится оптимальное решение, представ-
ляет собой некоторую поверхность в многомерном пространстве. Эта поверх-
ность называется поверхностью отклика. Данную поверхность даже для случая
n=2 трудно изобразить графически, поэтому на плоскости ее обычно отобра-
жают с помощью линий уровня, которые представляют собой множество точек
с одинаковым значением целевой функции.
      Для построения линий уровня необходимо выразить одну переменную
через другую переменную и целевую функцию x1=F(f(x1, x2), x2). Затем необхо-
димо, задаваясь значениями функции, провести сканирование по второй пере-
менной, рассчитывая при этом первую. По полученным точкам можно постро-
ить линию уровня. Затем необходимо изменить значение функции и вновь по-
вторить процедуру. Операция повторяется столько раз, сколько необходимо
провести линий уровня.
      В случае неявно заданного уравнения линии уровня необходимо исполь-
зовать более сложные методы для графического отображения функции.

                4. ПОИСКОВЫЕ МНОГОМЕРНЫЕ МЕТОДЫ
      Все методы, которые изложены далее носят шаговый характер. Одна ите-
рация метода может включать в себя либо один шаг, либо множество шагов.
Шаг считается «удачным», если значение целевой функции в новой точке не
больше, чем в старой, т.е. если f(x(k)) ≤ f(x(k-1)); в противном случае шаг считает-
ся «неудачным».