Информационные системы в науке, образовании и бизнесе. Ефремов О.В - 24 стр.

UptoLike

Составители: 

Рис. 10. Биологический нейрон
Рис. 11. Искусственный нейрон
Давайте запишем, что нейрон является типичным элементом, действующим по принципу
"все или ничего". Когда суммарный сигнал, приходящий от других нейронов, превышает не-
которое пороговое значение, генерируется стандартный импульс. В противном случае ней-
рон остается в состоянии покоя.
Биологический нейронсложная система, математическая модель которой до конца не
построена. В основе теории ИНС лежит предположение о том, что вся эта сложность несу-
щественна, а свойства мозга объясняются характером их соединения. Поэтому вместо точ-
ных математических моделей нейронов используется простая модель так называемого фор-
мального нейрона.
Он имеет входы, куда подаются некоторые числа x
1
, …, x
n
. Затем стоит блок, называе-
мый адаптивным сумматором. На его выходе мы имеем взвешенную сумму входов:
=
=
n
i
ii
wxs
1
.
(1)
Затем она подается на нелинейный преобразователь и на выходе мы имеем:
)(SFy = .
(2)
Функция F нелинейного преобразователя называется активационной функцией нейрона.
Исторически первой была модель, в которой в качестве активационной функции использова-
лась ступенчатая функция или функция единичного скачка:
<
=
.0,1
,0,0
)(
S
S
SF
(3)
То есть по аналогии с биологическим нейроном, когда суммарное воздействие на входе превысит критиче-
ское значение, генерируется импульс 1. Иначе нейрон остается в состоянии покоя, т.е. выдается 0.
Существует множество других функций активации. Одной из наиболее распространенных является логи-
стическая функция (сигмоид).
x
e
xf
α
+
=
1
1
)(
.
(4)
Тело клетки
Аксон
Синапс
Дендриты
F (S)
Y = F (S)
w
1
w
2
w
3
w
0
x
x
3
x
2
x
1
S
Y
Выход
Входы
Синапсы
Ячейка
нейрона
Нелинейный
преобразователь
Адаптивный
сумматор