ВУЗ:
Составители:
Рубрика:
101
Задача 2. Выбор шага в направлении спуска
Перемещение вдоль антиградиента на всю его длину может при-
вести к расхождению процесса минимизации (будем удаляться от
min
F
все дальше и дальше, как на рис. 3.12). Чтобы значение функции в ко-
нечной точке спуска на каждой итерации не превышало ее значения
в исходной точке, следует изменять шаг в направлении антиградиента,
т. е. перемещаться не на всю длину вектора, а на величину
F
h ∇⋅ , где h
– некоторое положительное число, значение которого зависит от харак-
тера задачи и от значений координат в точке, откуда делается шаг в на-
правлении антиградиента. По своему смыслу h – масштабный множи-
тель, но в соответствии с принятой терминологией будем называть его
длиной шага, или просто шагом.
Выбор длины шага
k
h на каждой итерации должен обеспе-
чить убывание функции при перемещении из одной точки градиент-
ного спуска в другую
)()(
1 kk
XFXF <
+
.
При выборе шага надо учитывать следующие противоречивые об-
стоятельства:
1) если шаг h выбрать достаточно малым, то движение будет
происходить практически по линии антиградиента (хорошо!), но при
этом – очень медленная сходимость итерационного процесса (плохо…);
2) если h – большой, то возникает опасность не обеспечить сходи-
мость процесса, что графически проиллюстрировано выше (рис. 3.12).
x
1
x
2
F
min
−∇FX ()
0
−∇FX()
1
X
0
X
1
F
X
(
)
=
c
o
n
s
t
1
F
X
(
)
=
c
o
n
s
t
0
X
2
−∇FX ()
2
Рис. 3.12. Расходящийся итерационный процесс
при неудачном выборе шага
Страницы
- « первая
- ‹ предыдущая
- …
- 99
- 100
- 101
- 102
- 103
- …
- следующая ›
- последняя »
