Составители:
Рубрика:
27
7. Проверить условие остановки: если на шаге 3 нет изменения
весов, тогда остановка; в противном случае – продолжить.
Нужно отметить, что изменяются только те веса, которые соеди"
няют активные входные нейроны (x
i
¹ 0). Кроме того, веса модифи"
цируются только для тех входных образов, которые не формируют
правильное значение выхода y. Последнее означает, что увеличение
числа обучающих образов, вырабатывающих правильный отклик,
приводит к уменьшению времени обучения.
Ф. Розенблаттом была доказана теорема о сходимости обучающе"
го правила персептрона. Позже были даны модифицированные вер"
сии доказательства этой теоремы [7], которая формулируется следу"
ющим образом.
Дан конечный набор из P обучающих входных векторов x(p),
p = 1, 2,..., P, каждый из которых связан с целевой величиной t(p),
p = 1, 2,..., P, принимающей значения +1 или –1.
Дана функция активации, имеющая вид, аналогичный приведен"
ным выше примерам.
Тогда изменение весов осуществляется следующим образом:
если , то ( ) ( ) ;yt wnew wold tx1 2 3
иначе никакого изменения весов не происходит.
Теорема о сходимости обучающего правила персептрона гласит:
если имеется весовой вектор w*, такой, что f [x (p) · w*] = t (p) для всех
p, тогда для любого начального вектора w обучающее правило пер"
септрона будет сходиться к весовому вектору (не обязательно един"
ственному и не обязательно w*), который дает правильный отклик
для всех обучающих образов, и это будет сделано за конечное число
шагов.
Доказательство теоремы достаточно громоздко, поэтому ограни"
чимся итоговым результатом. Максимально возможное число изме"
нений весов определяется следующим выражением:
2
*2
/,kMw m1
где k – число изменений весов; M = max {êêxêê
2
для всех x в обучаю"
щем наборе}; êêх êê
–
норма вектора х; m = min {x · w*}.
Обучение может занимать много времени (большое число шагов),
если обучающие векторы обладают малой величиной своей нормы.
Это приведет к малому значению m и, как следствие, к большой вели"
чине k. Ненулевое значение порога q не сказывается на доказатель"
стве теоремы, но его величина может изменить решаемую задачу.
Кроме того, отличие скорости обучения от 1, как это принято при
Страницы
- « первая
- ‹ предыдущая
- …
- 25
- 26
- 27
- 28
- 29
- …
- следующая ›
- последняя »
