ВУЗ:
Составители:
95
)(
ccн
iiii
wxww −⋅η+=
, (9.4)
где
н
i
w
,
c
i
w
– соответственно новое и старое (предыдущее) значения веса
i
w
,
соединяющего входную компоненту x
i
с выигравшим нейроном;
η – коэффициент скорости обучения, который может варьироваться в
процессе обучения.
На рис. 9.9 геометрически иллюстрируется двумерный случай коррекции
веса. Из рисунка видно, что эффект обучения состоит во вращении весового
вектора в направлении входного вектора без существенного изменения его
длины.
Рис. 9.9. Вращение весового вектора
в процессе обучения
Коэффициент η обычно является переменной величиной и в начале
обучения принимается равным 0,7, а затем плавно уменьшается в процессе
обучения. Это позволяет быстро и грубо подойти к искомой величине веса и
затем, более плавно его уточнять.
Если бы с одним нейроном слоя 1 ассоциировался только один входной
вектор (т
.е. соответствующий кластер содержал бы только один образ), то слой
1 мог бы быть обучен одним вычислением на вес. Действительно, принимая в
(9.4) η=1, получим
jj
xw =
н
. Однако обучающая выборка содержит, как правило,
много сходных между собой векторов, сгруппированных в соответствующие
кластеры, и сеть должна обучиться активировать один и тот же нейрон слоя 1
для каждого входного вектора из одного кластера. Поэтому веса каждого
нейрона слоя 1 должны быть получены усреднением всех сходных входных
векторов одного кластера, активирующих данный
нейрон. Постепенное
уменьшение η позволяет снижать воздействие каждого последующего
н
j
w
c
j
w
Х
)(
c
jj
wx −η
)(
c
jj
wx −
Страницы
- « первая
- ‹ предыдущая
- …
- 93
- 94
- 95
- 96
- 97
- …
- следующая ›
- последняя »
