Составители:
Рубрика:
18
Важную роль в искусственных нейронных сетей выполняет функ"
ция активации, под воздействием которой искусственный нейрон пре"
образует взвешенную сумму входных сигналов и вырабатывает выход"
ной сигнал. Такая операция является основной. Обычно одна и та же
функция активации используется во всех нейронах данного слоя сети,
хотя иногда могут быть исключения из этого правила. В большинстве
случаев применяется нелинейная функция активации, в качестве кото"
рой в нейросетевой технологии распространены так называемая сигмо"
идная функция и функция гиперболического тангенса. Применение та"
ких функций обусловлено, в основном, двумя обстоятельствами: огра"
ничением величины сигнала после операций умножения и суммирова"
ния и простыми соотношениями между этими функциями и их первы"
ми производными, которые используются в методе обучения многослой"
ных сетей.
Сигмоидная функция и ее производная имеют следующий вид:
1
() [1 exp( )] ,
() ()[1 ()].
fx x
f x fx fx
12 34
5
14 3
Входящий в формулу параметр b, величина которого влияет на
форму кривой, подбирается пользователем.
Значения этой функции лежат в диапазоне от 0 до 1, поэтому ее
часто применяют в ситуациях, когда требуемые выходные значения
являются бинарными или находятся в указанном диапазоне. Иног"
да такую функцию называют бинарной сигмоидой. На рис. 1.8 изоб"
ражен график сигмоидной функции при различных значениях b
(кривая 1 b =0,2; кривая 2 – b = 2; кривая 3 – b = 10).
1
1
1
1
1
1
Рис. 1.8
Страницы
- « первая
- ‹ предыдущая
- …
- 16
- 17
- 18
- 19
- 20
- …
- следующая ›
- последняя »