Моделирование искусственных нейронных сетей в системе MATLAB. Часть 1. Введение. Донской Д.А - 15 стр.

    Вход нейрона изображается в виде темной вертикальной черты,
под которой указывается количество элементов входа R. Размер век-
тора входа p указывается ниже символа p и равен Rx1.
    Вектор входа умножается на вектор-строку W длины R. Как и
прежде, константа 1 рассматривается как вход, который умножается
на скалярное смещение b.
    Входом n функции активации нейрона служит сумма смещения b
и произведение W*p. Эта сумма преобразуется функцией активации
f, на выходе которой получаем выход нейрона а, который в данном
случае является скалярной величиной.
    Структурная схема, приведенная на рис. 3, называется слоем
сети. Слой характеризуется матрицей весов W, смещением b, опе-
рациями умножения W*p, суммирования и функцией активации f.
Вектор входов p обычно не включается в характеристики слоя.
    Каждый раз, когда используется сокращенное обозначение сети,
размерность матриц указывается под именами векторно-матричных
переменных (см. рис. 3). Эта система обозначений поясняет строение
сети и связанную с ней матричную математику.
                    Функции активации
    Функции активации (передаточные функции) нейрона могут
иметь самый различный вид. Функция активации f, как правило, при-
надлежит к классу сигмоидальных функций, которые имеют две го-
ризонтальные асимптоты и одну точку перегиба, с аргументом функ-
ции n (входом) и значением функции (выходом) a.
   Рассмотрим три наиболее распространенные формы функции ак-
тивации.
   Единичная функция активации с жестким ограничением hardlim
   Эта функция описывается соотношением a = hardlim(n) = 1(n) и
показана на рис. 4.




                               15