ВУЗ:
Составители:
118
ции структуры НС можно разделить на две группы: конструктивные алгоритмы
и алгоритмы сокращения.
В основе алгоритмов сокращения лежит принцип постепенного удаления
из нейронной сети синапсов и нейронов. В начале работы алгоритма обучения с
сокращением число нейронов в скрытых слоях сети заведомо избыточно.
Существуют два подхода к реализации алгоритмов сокращения:
метод
штрафных функций и метод проекций.
Для реализации первого в целевую функцию алгоритма обучения вводят-
ся штрафы за то, что значения синаптических весов отличны от нуля, например
в виде
N
i
M
j
ij
wC
11
2
,
где
ij
w – синаптический вес;
i – номер нейрона;
j – номер входа;
N – число нейронов;
M – размерность входного сигнала нейронов.
Метод проекций реализуется следующим образом. Синаптический вес
обнуляется, если его значение попало в заданный диапазон
ijijij
ij
ij
www
w
w
,,
,0
,
где – некоторая константа.
В [Головко, 2001] показано, что для систем прогноза ВР на базе ИНС
наилучшие качества показывает гетерогенная сеть, состоящая из скрытых
слоев с нелинейной функцией активации нейронных элементов и выходного
линейного нейрона. Недостатком большинства рассмотренных нелинейных
функций активации является то, что их область выходных значений ограни-
чена отрезком [0,1]
или [-1,1]. Это приводит к необходимости масштабиро-
вания данных.
Страницы
- « первая
- ‹ предыдущая
- …
- 116
- 117
- 118
- 119
- 120
- …
- следующая ›
- последняя »
