ВУЗ:
Составители:
тойчивыми состояниями сети с бинарными элементами.
Если сделать минимумами энергии заданный набор паттернов нейронной
активности (образов), оба варианта сети Хопфилда смогут выполнять функции
ассоциативной памяти, «скатываясь» к тому образу, в чей «бассейн притяжения»
попадает начальный паттерн активности нейронов сети.
Пример восстановления сетью из 40 нейронов, которые расположены в ви-
де матрицы 5х8, запомненного в сети изображения буквы «Е».
Из поданного на сеть зашумленного изображения (слева) восстанавливается
правильное изображение (справа).
Одним из способов получения нужной энергетической функции является
формирование матрицы связей в соответствии с вариантом хеббовского правила:
∑
=
−−=
L
p
p
j
p
iij
zz
1
)12)(12(
ω
(3.4)
где Z
P
— образы, которые надо запомнить в сети; L — их количество.
Это правило, как и правило Хебба обеспечивает формирование симметрич-
ной матрицы связей, однако постулирует увеличение веса связей между не только
одновременно активными, но и одновременно неактивными нейронами, а также
его уменьшение между нейронами, находящимися в разном состоянии.
Такое правило допускает существование тормозящих модифицируемых свя-
зей между нейронами, и даже переход возбуждающих связей в тормозящие. Оно
позволяет сети автоматически само регулировать уровень активности и работать с
ненулевым порогами нейронов.
Однако при этом значительно снижается емкость памяти сети - количество
случайных образов, которое можно записать в сеть с возможностью восстановле-
ния, не превышает 0.14 количества нейронов.
Кроме того, в дополнение к энергетическим минимумам, соответствует за-
помненным образам, возникают ложные минимумы функции Е. Положение еще
осложняется для с коррелированных образов, которые после запоминания не ста-
новятся минимумами Е
Рисунок 3.2
19
тойчивыми состояниями сети с бинарными элементами. Если сделать минимумами энергии заданный набор паттернов нейронной активности (образов), оба варианта сети Хопфилда смогут выполнять функции ассоциативной памяти, «скатываясь» к тому образу, в чей «бассейн притяжения» попадает начальный паттерн активности нейронов сети. Пример восстановления сетью из 40 нейронов, которые расположены в ви- де матрицы 5х8, запомненного в сети изображения буквы «Е». Из поданного на сеть зашумленного изображения (слева) восстанавливается правильное изображение (справа). Одним из способов получения нужной энергетической функции является формирование матрицы связей в соответствии с вариантом хеббовского правила: L ω ij = ∑ (2 z ip − 1)(2 z jp − 1) (3.4) p =1 где ZP — образы, которые надо запомнить в сети; L — их количество. Это правило, как и правило Хебба обеспечивает формирование симметрич- ной матрицы связей, однако постулирует увеличение веса связей между не только одновременно активными, но и одновременно неактивными нейронами, а также его уменьшение между нейронами, находящимися в разном состоянии. Такое правило допускает существование тормозящих модифицируемых свя- зей между нейронами, и даже переход возбуждающих связей в тормозящие. Оно позволяет сети автоматически само регулировать уровень активности и работать с ненулевым порогами нейронов. Однако при этом значительно снижается емкость памяти сети - количество случайных образов, которое можно записать в сеть с возможностью восстановле- ния, не превышает 0.14 количества нейронов. Кроме того, в дополнение к энергетическим минимумам, соответствует за- помненным образам, возникают ложные минимумы функции Е. Положение еще осложняется для с коррелированных образов, которые после запоминания не ста- новятся минимумами Е Рисунок 3.2 19
Страницы
- « первая
- ‹ предыдущая
- …
- 16
- 17
- 18
- 19
- 20
- …
- следующая ›
- последняя »