Искусственные нейронные сети. Каширина И.Л. - 41 стр.

                                               41
      В отличие от сети Хопфилда, весовая матрица в сети ДАП не квадратная,
что во многих случаях позволяет оптимизировать вычислительные затраты, необ-
ходимые для функционирования сети. Вернемся к примеру с запоминанием букв
А, В, С, рассмотренному в п. 7.1. Сеть Хопфилда в этом примере имела 10×7=70
входов и требовала для своей работы хранения весовой матрицы размером 70×70,
содержащей 4900 элементов. Ассоциируем с каждым из входных образов сети
двухбитовый вектор: символ A будет связан с вектором (1,-1,-1), символ B с век-
тором (-1, 1,-1), символ C с вектором (-1,-1,1). Таким образом, например, при по-
даче на вход искаженной версии буквы A, сеть после стабилизации должна выда-
вать образ (1,-1, -1). Так как ассоциированные пары заранее известны, это приве-
дет к правильному распознаванию зашумленного входа. Но для работы такой сети
требуется хранение всего 70×3 =210 элементов весовой матрицы.
      Основным недостатком сети ДАП (как и сети Хопфилда) является неболь-
шая емкость памяти. Так, например, число запоминаемых ассоциаций не может
превышать числа нейронов в меньшем слое. Если все пороговые значения Θ j бу-
дут нулевыми, то оценка еще ухудшается: размер запоминаемой выборки не дол-
                         l
жен превосходить               , где l − число нейронов в меньшем слое. Если этот
                     2 log 2 l
лимит превышен, сеть начинает выработать неверные выходные сигналы, вос-
производя ассоциации, которым не обучена.

                                      УПРАЖНЕНИЯ

1. Покажите, что все образы обучающей выборки являются устойчивыми состоя-
   ниями сети с ортогонализованной весовой матрицей.
2. Определите весовую матрицу сети Хопфилда, необходимую для сохранения
   образов    X 1 =(−1,−1, 1, 1, 1,−1,1), X 2 =(−1, 1 −1, 1,−1,−1,1), X 3 =(1,−1,−1, 1,−1, 1, 1) .
   Покажите, что кроме этих образов устойчивым состоянием сети является
   “ложный” вектор Z =( −1, 1,−1,−1,−1,−1,−1) . Имеет ли эта сеть другие ложные
   образы?
3. Напишите программу построения сети Хопфилда для запоминания изображе-
   ний животных (рис.22) (изображения взяты из коллекции картинок Word). Ка-
   ждое изображение разбейте на 100 фрагментов сеткой 10×10. Каждый фрагмент
   соответствует входному значению 1, если содержит часть картинки, и -1 – если
   не содержит. Проведите тестирование сети и, при необходимости, разобучение.




                Рис. 24. Идеальные образы для сети Хопфилда.

4. Напишите программу распознавания цифр с помощью сети Хэмминга.