ВУЗ:
Составители:
90
Входные сигналы слоя с латеральными связями полностью определяют
процесс самоорганизации этого слоя, что соответствует алгоритму обучения без
учителя, т.е. самообучению. Процесс самоорганизации заключается в
следующем. Пусть весам связей w
mn
первоначально приданы некоторые
небольшие случайные значения. При подаче на входы слоя некоторого
входного вектора
Х = (х
1
, х
2
, …, х
m
),
он умножается на матрицу весов
W, образуя вектор уровня активации этого
слоя:
Y
K
= Х·W.
Покомпонентное применение активационной функции к вектору
Y
K
дает
выходной вектор слоя
Z
K
= F(Y
K
) = F(Х·W).
Очевидно, что за счет случайных начальных значений
W, выходной сигнал
некоторого i-нейрона (i-компонента z
i
вектора Z) окажется несколько большим,
чем остальные выходные сигналы нейронов этого слоя. Наличие в слое
латеральных связей с радиусом действия, равным размеру слоя, приведет к
тому, что в процессе релаксации вокруг первоначального максимума на выходе
i-нейрона образуется «пузырек» выходной активности, и сигнал z
i
еще более
увеличится, в то время как остальные выходные сигналы этого слоя
уменьшатся. По окончании процесса релаксации i-нейрон будет иметь уже
четко выраженный максимум выходного сигнала z
i
и станет «нейроном-
победителем».
Рабочий режим сети ВР [16]. Слой 1 в сети ВР, как и в классической
карте Кохонена, реализует алгоритм «победитель получает все» (WTA).
Отличие заключается только в способе выявления нейрона-победителя.
Если Кохонен в своей карте при выявлении нейрона-победителя ставил как
основную – задачу нейробионического подобия, то Хехт-Нильсен преследовал
другую цель – получение нейронной парадигмы, способной эффективно решать
прикладные
задачи. Поэтому использованный Кохоненом способ выявления
нейрона-победителя с помощью латерального торможения он упростил,
применив обычную вычислительную процедуру. Функция y
Кj
, соответствующая
уровню активности каждого j-нейрона в слое 1 сети ВР формируется
традиционно:
∑
=
⋅=
m
i
iji
j
К
wxy
1
,
Страницы
- « первая
- ‹ предыдущая
- …
- 88
- 89
- 90
- 91
- 92
- …
- следующая ›
- последняя »
