ВУЗ:
Составители:
Рубрика:
52
тавляющего сети кроме входных так же и целевые выходные образы. Алгорит-
мы, пользующиеся подобной концепцией, называются алгоритмами обучения с
учителем. Для их успешного функционирования необходимо наличие экспер-
тов, создающих на предварительном этапе для каждого входного образа эта-
лонный выходной.
Главная черта, делающая обучение без учителя привлекательным, – это его
"самостоятельность". Процесс
обучения, как и в случае обучения с учителем,
заключается в подстраивании весов синапсов. Некоторые алгоритмы, правда,
изменяют и структуру сети, то есть количество нейронов и их взаимосвязи, но
такие преобразования правильнее назвать более широким термином – самоор-
ганизацией, и в рамках данной публикации они рассматриваться не будут. Оче-
видно, что подстройка синапсов
может проводиться только на основании ин-
формации, доступной в нейроне, то есть его состояния и уже имеющихся весо-
вых коэффициентов. Исходя из этого соображения и, что более важно, по ана-
логии с известными принципами самоорганизации нервных клеток, построены
алгоритмы обучения Хебба.
Сигнальный метод обучения Хебба заключается в изменении весов по
сле-
дующему правилу:
wt wt y y
ij ij i
n
j
n
() ( )
() ()
=−+⋅⋅
−
1
1
α
(31)
где y
i
(n-1)
– выходное значение нейрона i слоя (n-1), y
j
(n)
– выходное значение
нейрона j слоя n; w
ij
(t) и w
ij
(t-1) – весовой коэффициент синапса, соединяющего
эти нейроны, на итерациях t и t-1 соответственно; α – коэффициент скорости
обучения. Здесь и далее, для общности, под n подразумевается произвольный
слой сети. При обучении по данному методу усиливаются связи между возбуж-
денными нейронами.
Существует также и дифференциальный метод обучения Хебба.
[]
[
]
wt wt y t y t yt yt
ij ij i
n
i
n
j
n
j
n
() () () () () ()
( ) ( ) () ()
=−+⋅ − −⋅ − −
−−
111
11
α
(32)
Здесь y
i
(n-1)
(t) и y
i
(n-1)
(t-1) – выходное значение нейрона i слоя n-1 соответст-
венно на итерациях t и t-1; y
j
(n)
(t) и y
j
(n)
(t-1) – то же самое для нейрона j слоя n.
Как видно из формулы (32), сильнее всего обучаются синапсы, соединяющие те
тавляющего сети кроме входных так же и целевые выходные образы. Алгорит-
мы, пользующиеся подобной концепцией, называются алгоритмами обучения с
учителем. Для их успешного функционирования необходимо наличие экспер-
тов, создающих на предварительном этапе для каждого входного образа эта-
лонный выходной.
Главная черта, делающая обучение без учителя привлекательным, – это его
"самостоятельность". Процесс обучения, как и в случае обучения с учителем,
заключается в подстраивании весов синапсов. Некоторые алгоритмы, правда,
изменяют и структуру сети, то есть количество нейронов и их взаимосвязи, но
такие преобразования правильнее назвать более широким термином – самоор-
ганизацией, и в рамках данной публикации они рассматриваться не будут. Оче-
видно, что подстройка синапсов может проводиться только на основании ин-
формации, доступной в нейроне, то есть его состояния и уже имеющихся весо-
вых коэффициентов. Исходя из этого соображения и, что более важно, по ана-
логии с известными принципами самоорганизации нервных клеток, построены
алгоритмы обучения Хебба.
Сигнальный метод обучения Хебба заключается в изменении весов по сле-
дующему правилу:
wij (t ) = wij (t − 1) + α ⋅ yi( n−1) ⋅ y (j n ) (31)
где yi(n-1) – выходное значение нейрона i слоя (n-1), yj(n) – выходное значение
нейрона j слоя n; wij(t) и wij(t-1) – весовой коэффициент синапса, соединяющего
эти нейроны, на итерациях t и t-1 соответственно; α – коэффициент скорости
обучения. Здесь и далее, для общности, под n подразумевается произвольный
слой сети. При обучении по данному методу усиливаются связи между возбуж-
денными нейронами.
Существует также и дифференциальный метод обучения Хебба.
[ ][
wij (t ) = wij (t − 1) + α ⋅ yi( n−1) (t ) − yi( n−1) (t − 1) ⋅ y (j n ) (t ) − y (j n ) (t − 1) ] (32)
Здесь yi(n-1)(t) и yi(n-1)(t-1) – выходное значение нейрона i слоя n-1 соответст-
венно на итерациях t и t-1; yj(n)(t) и yj(n)(t-1) – то же самое для нейрона j слоя n.
Как видно из формулы (32), сильнее всего обучаются синапсы, соединяющие те
52
Страницы
- « первая
- ‹ предыдущая
- …
- 50
- 51
- 52
- 53
- 54
- …
- следующая ›
- последняя »
