Методические указания к лабораторным работам по курсу "Нейрокомпьютерные системы". Домашова Д.В - 16 стр.

UptoLike

зующую функции распределенной ассоциативной памяти. Формирование ансамб-
лей в такой сети соответствует запоминанию образов (признаков, объектов, собы-
тий, понятий), закодированных паттерном активности нейронов (выходной вектор
у), а сформированные ансамбли являются их внутренним представлением. Про-
цесс возбуждения всего ансамбля при активации части его нейронов можно ин-
терпретировать как извлечение запомненной информации по ее части - ключу па-
мяти.
Модель ансамблевой сети состоит из большого количества нейроподобных
элементов, каждый из которых обычно соединен со всеми другими элементами
сети.
- входной образ подается на сеть путем активации нужных нейроподобных
элементов. В отличие от персептрона ансамблевая сеть может обучаться
как с учителем, так и без него. Обучение производится по правилу Хебба:
jiijij
yytt **)()1(
α
ω
ω
+=+ или одному из его вариантов. Значение коэффи-
циента а. при обучении с учителем определяет величину подкрепления, а
при обучении без учителя эта величина может быть установлена посто-
янной. Правило Хебба формирует симметричную матрицу связей.
- в процессе обучения при подаче на сеть набора входных образов - в сети
формируются ансамбли, которые могут иметь сложную структуру, отра-
жающую свойства среды. Связность внутри групп нейроподобных эле-
ментов, которые наиболее часто возбуждались одновременно, будем зна-
чительно выше, чем в среднем по сети. Так образуются ядра ансамблей, в
которых накапливаются комбинации признаков, наиболее часто встре-
чающиеся во входных образах. Их можно рассматривать как внутреннее
представление образов-прототипов классов, объективно существующих
во внешней среде. Более редкие комбинации возбужденных нейроподоб-
ных элементов образуют бахрому ансамблей, где фиксируются индиви-
дуальные особенности образов.
- при подаче на обученную ансамблевую сеть некоторого входного образа
путем установки начального паттерна активности (вых. у) осуществля-
ется восстановление наиболее близкого к нему образа из числа запом-
ненных в сети.
Сеть представляют самой себе, и в ней начинается обычный процесс (в за-
висимости от используемого алгоритма) изменения состояний нейроподобных
элементов. При этом из-за наличия только возбуждающих связей возникает про-
блема регулирования уровня активности сети, т. е. количества одновременно ак-
тивных элементов
Для этого существуют конкретные внутри сетевые и внешние механизмы.
Если уровень активности сети поддерживается примерно равным величине ан-
самбля, то межансамблевая конкуренция приводит к релаксации сети из началь-
ного к устойчивому конечному состоянию, соответствующему запомненному об-
17
зующую функции распределенной ассоциативной памяти. Формирование ансамб-
лей в такой сети соответствует запоминанию образов (признаков, объектов, собы-
тий, понятий), закодированных паттерном активности нейронов (выходной вектор
у), а сформированные ансамбли являются их внутренним представлением. Про-
цесс возбуждения всего ансамбля при активации части его нейронов можно ин-
терпретировать как извлечение запомненной информации по ее части - ключу па-
мяти.
       Модель ансамблевой сети состоит из большого количества нейроподобных
элементов, каждый из которых обычно соединен со всеми другими элементами
сети.
      - входной образ подается на сеть путем активации нужных нейроподобных
         элементов. В отличие от персептрона ансамблевая сеть может обучаться
         как с учителем, так и без него. Обучение производится по правилу Хебба:
         ω ij (t + 1) = ω ij (t ) + α * y i * y j или одному из его вариантов. Значение коэффи-
         циента а. при обучении с учителем определяет величину подкрепления, а
         при обучении без учителя эта величина может быть установлена посто-
         янной. Правило Хебба формирует симметричную матрицу связей.
      - в процессе обучения при подаче на сеть набора входных образов - в сети
         формируются ансамбли, которые могут иметь сложную структуру, отра-
         жающую свойства среды. Связность внутри групп нейроподобных эле-
         ментов, которые наиболее часто возбуждались одновременно, будем зна-
         чительно выше, чем в среднем по сети. Так образуются ядра ансамблей, в
         которых накапливаются комбинации признаков, наиболее часто встре-
         чающиеся во входных образах. Их можно рассматривать как внутреннее
         представление образов-прототипов классов, объективно существующих
         во внешней среде. Более редкие комбинации возбужденных нейроподоб-
         ных элементов образуют бахрому ансамблей, где фиксируются индиви-
         дуальные особенности образов.
      - при подаче на обученную ансамблевую сеть некоторого входного образа
         путем установки начального паттерна активности (вых. у) осуществля-
         ется восстановление наиболее близкого к нему образа из числа запом-
         ненных в сети.
      Сеть представляют самой себе, и в ней начинается обычный процесс (в за-
висимости от используемого алгоритма) изменения состояний нейроподобных
элементов. При этом из-за наличия только возбуждающих связей возникает про-
блема регулирования уровня активности сети, т. е. количества одновременно ак-
тивных элементов
       Для этого существуют конкретные внутри сетевые и внешние механизмы.
Если уровень активности сети поддерживается примерно равным величине ан-
самбля, то межансамблевая конкуренция приводит к релаксации сети из началь-
ного к устойчивому конечному состоянию, соответствующему запомненному об-

                                                                                             17