Нейросетевые технологии. Каширина И.Л. - 50 стр.

Шаг 3. Задаются весовые коэффициенты сети Хопфилда:
                                           K K
                                    wij = ∑∑ xik x lj ckl .
                                          k =1 l =1
      Cущественным недостатком метода ортогонализации является его
нелокальность: прежде чем начать обучение, необходимо наперед знать
все обучающие образы. Добавление нового образа требует полного пере-
обучения сети.
                                  7.2. Сеть Хэмминга
      Основным недостатком сети Хопфилда является ее большая ресурсо-
емкость. Сеть Хэмминга характеризуется, по сравнению с сетью Хопфил-
да, меньшими затратами памяти и меньшим объемом вычислений. Эта сеть
состоит из двух слоев. Каждый слой имеет по m нейронов, где m – число
запоминаемых образов. Сеть имеет n входов, соединенных со всеми ней-
ронами первого слоя (W – матрица весовых коэффициентов связей). Зна-
чения входов сети – биполярные (из множества {–1,1}). Нейроны второго
слоя связаны между собой отрицательными обратными (ингибиторными)
связями. Единственный вес с положительной обратной связью для каждого
нейрона соединен с его же выходом.
      Идея работы сети состоит в оценке величины, обратной расстоянию
Хэмминга, от тестируемого образа до всех эталонных образцов (расстоя-
нием Хэмминга называется число отличающихся битов в двух бинарных
векторах). Сеть должна выбрать образец с минимальным расстоянием
Хэмминга до неизвестного входного сигнала – и активизировать только
один выход сети, соответствующий этому образцу.
      Активационная функция нейронов первого        слоя – линейная:
                 n
f ( s ) = s + = ∑ wij xi + n2 ,
            n
            2
                                  где n – это число входов сети. Активационная
                i =1
функция нейронов второго слоя имеет вид линейного порога:
                                    ⎧0, s < 0
                                    ⎪
                       y= f ( s ) = ⎨s, 0 ≤ s < T , где
                                    ⎪T , s ≥ T
                                    ⎩
y – значение активационой функции;
s – аргумент активационой функции (взвешенная сумма входов);
T – величина порога.
Величина T должна быть достаточно большой, чтобы любые возможные зна-
чения аргумента не приводили к насыщению за одну итерацию работы сети.




                                              50