Искусственные нейронные сети. Сивохин А.В - 29 стр.

можно свести к схеме взвешивания, если представить что нейрон
имеет второй входной сигнал со значением, равным 1. Вход n функ-
ции активации нейрона по-прежнему остается скалярным и равным
сумме взвешенного входа и смещения b. Эта сумма является аргу-
ментом функции активации f; выходом функции активации является
сигнал а. Константы w и b являются скалярными параметрами ней-
рона. Основной принцип работы нейронной сети состоит в настройке
параметров нейрона с тем, чтобы функционирование сети соответст-
вовало некоторому желаемому поведению. Регулируя веса или пара-
метры смещения, можно “научить” сеть выполнять конкретную ра-
боту; возможно также, что сеть сама будет корректировать свои па-
раметры, чтобы достичь требуемого результата.
   Уравнение нейрона со смещением имеет вид
   a = f(w*p+b*l).
   Как уже отмечалось, смещение b – настраиваемый скалярный па-
раметр нейрона, который не является входом, а константа 1, которая
управляет смещением, рассматривается как вход и может быть учте-
на в виде линейной комбинации векторов входа
                                    ⎡ p⎤
                          a = [w b] ⎢ ⎥ .
                                    ⎣1⎦


                    Функция активации
   Функции активации (передаточные функции) нейрона могут
иметь самый разнообразный вид. Функция активации f, как правило,
принадлежит классу сигмоидальных функций с аргументом n и вы-
ходом а.
   Ниже рассмотрены три наиболее распространенные функции ак-
тивации.

   Единичная функция активации с жестким ограничениям
hardlim. Эта функция описывается соотношением а =
hardlim(n) = 1(n) и показана на рис. 3.2. Она равна 0, если
n < 0, и 1,если n >= 0.


                                29