ВУЗ:
Составители:
Рубрика:
28
приведет к большим шагам при малой кривизне (т.е. для почти плоской
поверхности) и к малым шагам при большой кривизне (т.е. для крутого
наклона).
Стоит отметить, что хотя LMA является не оптимальным, а лишь
эвристическим методом, он очень хорошо работает на практике.
Единственный его недостаток заключается в необходимости обращения
матрицы на каждом шаге. Даже несмотря на то, что нахождение обратной
матрицы обычно выполняется с использованием быстрых методов
псевдообращения (таких, как разложение по сингулярным числам
матрицы), время одной итерации становится неприемлемым для
нескольких тысяч параметров. Для моделей же средних размеров (с
несколькими сотнями параметров) LMA работает даже быстрее, чем
простейший градиентный метод.
1.3.3. LMA как метод доверительных интервалов
Изначально LMA был представлен Марквардтом так, как показано в
предыдущем разделе, где нахождение минимума производится за счет
изменения параметра . Позже было предложено рассматривать LMA как
метод доверительных интервалов.
Алгоритмы, основанные на доверительных интервалах,
принципиально отличаются от алгоритмов, представленных нами ранее и
основанных на так называемом методе линейного поиска. В методе
линейного поиска выбирается направление спуска и
k
– размер шага,
затем на новом шаге вычисляется
( 1) ( ) ( )k k k
k
x x p
, а размер очередного
шага является решением подзадачи:
( ) ( )
min ( ), 0
kk
kk
f x p
.
В алгоритме, основанном на доверительных интервалах, сначала
строится модель
()k
m
, которая аппроксимирует функцию
f
на конечном
Страницы
- « первая
- ‹ предыдущая
- …
- 26
- 27
- 28
- 29
- 30
- …
- следующая ›
- последняя »
