Составители:
Рубрика:
Часть I. Модели и прогноз
136
∑
=
=
n
i
ii
xwS
1
, (3.41)
а нелинейный преобразователь формирует сигнал на выходе нейрона
)(S
F
y
=
. (3.42)
Рис.3.23. Формальный и биологический нейроны: а) схема искусственного нейрона,
б) график функции единичного скачка, в) нейрон биологический (черными точками
отмечены входные синапсы, белыми – выходной, треугольниками – направление
смещения возбуждения)
Выбор функции активации F нейрона определяется: 1) спецификой задачи,
2) удобством реализации на ЭВМ, в виде электрической схемы или другим
способом, 3) алгоритмом «обучения», см. п. 3.8.4 (некоторые алгоритмы
накладывают ограничения на вид функции активации). Чаще всего вид
нелинейности не оказывает принципиального влияния на решение задачи.
Однако удачный выбор может сократить время обучения в несколько раз.
Первоначально в качестве функции F часто использовалась «ступенька»
≥
<
=
,0,1
,0,0
)(
S
S
SF (3.43)
график которой приведен на рис.3.23,б. В настоящее время перечень
возможных видов функции активации занял бы слишком много места [79,
346]. В частности, весьма распространена нелинейная функция с
насыщением, так называемая логистическая функция или классический
сигмоид:
S
e
SF
α
−
+
=
1
1
)(
, (3.44)
При уменьшении
α
сигмоид становится более пологим, в пределе при
0=
α
вырождаясь в горизонтальную линию на уровне 0.5. При увеличении
α
сигмоид приближается к функции единичного скачка (3.43).
Страницы
- « первая
- ‹ предыдущая
- …
- 140
- 141
- 142
- 143
- 144
- …
- следующая ›
- последняя »
