Искусственные нейронные сети. Каширина И.Л. - 39 стр.

UptoLike

ВУЗ: 

ВГУ | Воронеж

Составители: 

Рубрика: 

39
Активационная функция нейронов первого и второго слоя имеет вид линейного
порога : y=
≥
<
=
TsT
Tss
sf
,
,
)(
, где
y— значение активационой функции;
s— аргумент активационой функции (взвешенная сумма входов );
T — величина порога .
Величина T должна быть достаточно большой , чтобы любые возможные значения
аргумента не приводили к насыщению за одну итерацию работы сети.
На стадии инициализации весовым коэффициентам первого слоя присваиваются
следующие значения: nkmi
X
w
ik
ik
,1,,1;
2
∈∈=
X
ik
— i-й элемент k-го входного образа (X
ik
принадлежит множеству {-1,1}). По-
рогу активационной функции первого слоя T присваивается значение n/2.
Весовые коэффициенты тормозящих синапсов во втором слое берут равными
некоторой величине 0 <
ε
< 1/m , взятой с обратным знаком . Вес нейрона ,
связанный с его же выходом , имеет значение +1 (см . рис . 22).
Алгоритм функционирования сети Хэмминга
Шаг 1. На входы сети подается неизвестный вектор X, исходя из которого
рассчитываются состояния (выходы) нейронов первого слоя , которые переда -
ются на вход второго слоя .
Шаг 2. Вычисляются выходы нейронов второго слоя .
Шаг 3. Проверяется, изменились ли выходы нейронов второго слоя за послед-
нюю итерацию. Если да —выходы второго слоя умножаются на соответствующие
весовые коэффициенты и передаются на входы этого же слоя , а затем переход к
шагу 2. Если нет — выходы стабилизировались и работа сети завершена .
В отличие от сети Хопфилда , емкость сети Хемминга не зависит от размерности
входного сигнала , она в точности равна количеству нейронов m. Сеть Хопфилда с
входным сигналом размерностью 100 может запомнить 10 образцов , при этом у
нее будет 10000 синапсов . У сети Хемминга с такой же емкостью будет всего
лишь 1000 синапсов . Однако на выходе сеть Хемминга выдает не распознанный
эталонный образ, а только его номер.
7.3. Сеть ДАП (двунаправленная ассоциативная память )
Сеть Хопфилда реализует так называемую автоассоциативную память. Это озна -
чает, что образ может быть завершен или исправлен, но не может быть ассоции-
рован с другим образом . Двунаправленная ассоциативная память (ДАП ), разрабо-
танная в 1988 г. Бертом Коско, является гетероассоциативной : она сохраняет па-
ры образов и выдает второй образец пары, когда ассоциированный с ним первый
образец подается на вход сети. Как и сеть Хопфилда , ДАП способна к обобще-
нию, вырабатывая правильные реакции, несмотря на искаженные входы. Сеть
ДАП (рис . 22) содержит два слоя нейронов . Элементы весовой матрицы
ij
w отра -
                                       39
Активационная функция нейронов первого и второго слоя имеет вид линейного
                   � s, s

Страницы