Методы оптимизации. Азарнова Т.В - 43 стр.

                                     45
2. Показать, что для квадратичной       функции в методе Ньютона шаг
α * =1 .

        § 6. Численные методы поиска условного
                      экстремума
      В §2 были рассмотрены необходимые и достаточные условия решения
задач нелинейной условной оптимизации вида

                                   f ( x) → min
                            g j ( x ) ≤0, j =1, m;
                         g j ( x) =0, j =m +1, m + p .
Использование данных условий приводит к необходимости решения
сложных систем равенств и неравенств. Аналитически решить получаемые
системы возможно только для ограниченного числа примеров. Для решения
большинства практических задач используются численные методы.
Численные методы можно условно разделить на три группы.
1. Методы возможных направлений. Это методы непосредственного
решения задачи условной оптимизации, основанные на движении из одной
допустимой x k точки к другой допустимой точке x k +1 с "лучшим" значением
целевой функции. Движение осуществляется по правилу x k +1 =x k +α k y k .
В качестве вектора y k   выбирается возможное и подходящее направление
поиска в точке x k , а шаг α k выбирается, например, путем оптимизации
целевой функции в данном направлении по α k . К данным методам,
например, относятся: методы проекции градиента и методы возможных
направлений.
2. Методы линеаризации. Данные методы       основаны на сведении задач
нелинейной условной оптимизации к задачам линейной условной
оптимизации на уровне исходной постановки с дальнейшим анализом
полученных результатов и корректировкой решаемой линейной задачи.
3. Методы последовательной безусловной минимизации. В основе данных
методов лежит преобразование задачи условной оптимизации в
последовательность задач безусловной оптимизации путем введения в
рассмотрение вспомогательных целевых функций. Исходная задача
аппроксимируется некоторой последовательностью вспомогательных задач
безусловной минимизации, для которых разработаны эффективные и
надежные методы решения. Последовательность вспомогательных задач
подбирается, как правило, таким образом, чтобы решение исходной задачи
оказывалось    пределом    последовательности    получаемых    решений
вспомогательных задач. Часто, для получения решения исходной задачи с
требуемой точностью достаточно бывает решить относительно небольшое
число вспомогательных задач. Вспомогательные задачи можно решать
приближенными методами и информацию, полученную в результате