ВУЗ:
Составители:
78
(скрытых) слоев и выходной слой. Конфигурация ИНС ОРО с двумя скрытыми
слоями показана на рис. 8.1.
Рис. 8.1. Трехслойная ИНС ОРО
Алгоритм обучения. Проблема обучения многослойных ИНС состоит в
том, что оптимальные значения выходных сигналов всех слоев, кроме
последнего, как правило, не известны. Поэтому перцептрон с двумя и более
слоями невозможно обучить, руководствуясь только величинами ошибок на его
выходах. Наиболее эффективный способ решения данной проблемы
заключается в распространении сигналов ошибки от выходов ИНС к
ее входам,
т.е. в направлении, обратном прямому распространению сигналов в обычном
режиме работы сети. Этот алгоритм обучения получил название процедуры
ОРО (error backpropagation). Он определяет стратегию подбора весов
многослойной сети с применением градиентных методов оптимизации.
«Изобретенный заново» несколько раз, он в настоящее время считается одним
из наиболее эффективных алгоритмов обучения многослойных
сетей.
Обучение сети ОРО – это обучение с учителем. Цель обучения состоит в
такой подстройке весов, чтобы заданному входному вектору
Х сеть ставила в
соответствие целевой выходной вектор
Z
Т
. Вместе эти вектора составляют
обучающую пару, а группа обучающих пар составляет обучающее множество.
Изменение весов в сети ОРО может производиться после предъявления
каждой обучающей пары (режим «on-line»), либо однократно после
предъявления всех обучающих пар (всего обучающего множества),
составляющих цикл обучения (режим «off-line»).
Общее вербальное описание алгоритма обучения сети в режиме «on-line»
формулируется следующим
образом:
1
0
. Выбрать очередную обучающую пару векторов из обучающего
множества и подать входной вектор на входы сети.
.
.
.
r n
1
22
1
m
1
2
1
2
l
Z
z
1
z
n
z
2
.
.
.
.
.
.
.
.
.
.
.
.
Входной
слой
Скрыты
й слой
Выходно
й слой
Скрыты
й слой
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
x
r
x
2
x
1
X
m
1
2
1
2
l
Z
z
1
z
n
z
2
.
.
.
.
.
.
.
.
.
.
.
.
Входной
слой
1-й скрытый
слой
Выходной
слой
2-й скрытый
слой
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
.
x
r
x
2
x
1
X
Страницы
- « первая
- ‹ предыдущая
- …
- 76
- 77
- 78
- 79
- 80
- …
- следующая ›
- последняя »
