Искусственные нейронные сети. Каширина И.Л. - 33 стр.

                                     33
                              УПРАЖНЕНИЯ

 1. Стохастические нейронные сети можно использовать для поиска глобального
  минимума в невыпуклых или не имеющих строгой математической формали-
  зации задачах оптимизации. На первом этапе обучения (например, по методу
  Коши) подстраиваются весовые коэффициенты сети так, чтобы она аппрокси-
  мировала данную функцию (в качестве обучающей выборки используются на-
  боры значений переменных, для которых известно значение функции). На вто-
  ром этапе весовые коэффициенты сети остаются без изменения, а определению
  подлежат входные значения сети, которые пересчитываются по тому же закону,
  что и весовые коэффициенты, но в качестве функции ошибки используется оп-
  тимизируемая функция, аппроксимируемая данной сетью (за ее уменьшением
  или увеличением должен следить алгоритм обучения). Напишите программу,
  определяющую с помощью обучения Коши глобальный минимум функции F(x)
  = 3х3 + 6х2 – 2х + 3.
 2. Напишите программу, обучающую стохастическую сеть распознаванию
  цифр. На вход сети подаются графические изображения цифр, разбитые на
  квадраты (или пиксели) аналогично, как для однослойного персептрона или се-
  ти обратного распространения. Используйте не менее 15- 20 различных написа-
  ний цифр. Выходом сети служит двоичное представление входной цифры.


                 § 7. СЕТИ С ОБРАТНЫМИ СВЯЗЯМИ
      Рассмотренные ранее нейросетевые архитектуры относятся к классу сетей с
направленным потоком распространения информации и не содержат обратных
связей. После обучения на этапе функционирования сети каждый нейрон выпол-
няет свою функцию - передачу выходного сигнала - ровно один раз. В общем
случае может быть рассмотрена нейронная сеть, содержащая произвольные об-
ратные связи, то есть пути, передающие сигналы от выходов к входам. Отклик
таких сетей является динамическим, т. е. после подачи нового входа вычисляется
выход и, передаваясь по обратной связи, модифицирует вход. Затем выход по-
вторно вычисляется, и процесс повторяется снова и снова. Для устойчивой сети
последовательные итерации приводят к все меньшим изменениям выхода, и в ре-
зультате выход становится постоянным. Для многих сетей процесс никогда не за-
канчивается, такие сети называют неустойчивыми. Неустойчивые сети обладают
интересными свойствами и могут рассматриваться в качестве примера хаотиче-
ских систем, но для большинства практических приложений используются сети,
которые дают постоянный выход.

                             7.1. Сеть Хопфилда
     Рассмотрим однослойную сеть с обратными связями, состоящую из n вхо-
дов и n нейронов (рис. 17). Каждый вход связан со всеми нейронами. Так как