ВУЗ:
Составители:
107
∑
=
−=
n
i
ii
zzS
1
2
TA
)(
5
0
. Выбрать детерминированным или случайным образом вес w
ij
и
изменить его случайным образом.
6
0
. Пересчитать выходной вектор Z
А
сети и изменение целевой функции S.
7
0
. Если S уменьшилась, то сохранить изменение веса, в противном случае
вероятность сохранения изменения веса w
ij
вычисляется в соответствии с
распределением Больцмана:
kT
w
ij
ij
ewP
−
=)(
,
где: k – константа, аналогичная константе Больцмана (выбирается в
зависимости от задачи;
Т – искусственная температура.
8
0
. Если i=m и j=n (все веса исчерпаны), то следующий шаг, иначе
переход на шаг 5
0
.
9
0
. Если обучающее множество Ψ исчерпано (p=L), то конец алгоритма,
иначе – переход на шаг 2
0
.
Вычисление случайного изменения веса w
на шаге 5
0
можно делать с
помощью метода Монте-Карло. Например, подобно тепловой системе весовое
изменение может выбираться в соответствии с гауссовым распределением
2
2
)(
T
w
ewP
−
=
,
где P(w) – вероятность изменения веса w.
Для определения самой величины изменения веса Δw, а не вероятности
изменения веса, имеющего величину w, необходимо численно
проинтегрировать P(w) от 0 до w и результат представить в виде таблицы
значений Δw. Затем выбрать случайное число, равномерно распределенное в
диапазоне (0,1) и, используя его
в качестве P(w), определить из таблицы Δw.
Вычисление на шаге 7
0
также делается с помощью метода Монте-Карло
следующим образом. Выбирается случайное число r, равномерно
распределенное в диапазоне (0,1) и сравнивается с величиной Р(w). Если
Р(w)>r, то изменение веса сохраняется, в противном случае величина веса
возвращается к предыдущему значению. Такая процедура позволяет делать
случайные шаги в направлении увеличения
целевой функции S, обеспечивая
тем самым выход сети из локальных минимумов S.
Машина Больцмана [16]. ИНС, использующую при обучении имитацию
отжига называют машиной Больцмана (МБ).
Страницы
- « первая
- ‹ предыдущая
- …
- 105
- 106
- 107
- 108
- 109
- …
- следующая ›
- последняя »
