Нейросетевые технологии. Каширина И.Л. - 9 стр.

пользуется в некоторых алгоритмах обучения. Кроме того, она обладает
свойством усиливать слабые сигналы и предотвращает насыщение от
больших сигналов, так как они соответствуют областям аргументов, где
сигмоид имеет пологий наклон.




                 Рис. 3. Примеры активационных функций:
            а – функция единичного скачка; б – линейный порог;
         в – логистическая функция; г – гиперболический тангенс

                         § 2. НЕЙРОСЕТИ
           2.1. Классификация и свойства нейросетей
              Однослойные искусственные нейронные сети
     Хотя один нейрон и способен выполнять простейшие процедуры рас-
познавания, сила нейронных вычислений проистекает от соединений ней-
ронов в сетях. Простейшая сеть состоит из группы нейронов, образующих
слой, как показано в правой части рис. 4. Отметим, что вершины-круги
слева служат лишь для распределения входных сигналов. Они не выпол-
няют каких-либо вычислений и поэтому не будут считаться слоем. По этой
причине они обозначены кругами, чтобы отличать их от вычисляющих
нейронов, обозначенных квадратами. Каждый элемент из множества вхо-
дов Х отдельным весом соединен с каждым искусственным нейроном.
А каждый нейрон выдает взвешенную сумму входов в сеть. В искусствен-
ных и биологических сетях многие соединения могут отсутствовать, все
соединения показаны в целях общности. Могут иметь место также соеди-
нения между выходами и входами элементов в слое. Удобно считать веса
элементами матрицы W. Матрица имеет n строк и m столбцов, где n – чис-
ло входов, а m – число нейронов. Например, w23 – это вес, связывающий
второй вход с третьим нейроном. Таким образом, вычисление выходного
вектора Y, компонентами которого являются выходы yi нейронов, сводится
к матричному умножению Y = XW.
                                  9