Нейросетевые структуры и технологии. Часть 1. Электрические и математические модели нейронов. НС прямого распространения. Клюкин В.И - 47 стр.

UptoLike

ВУЗ: 

ВГУ | Воронеж

Составители: 

Рубрика: 

47
4. МНОГОСЛОЙНЫЕ НС ПРЯМОГО РАСПРОСТРАНЕНИЯ
В зависимости от способа объединения нейронов выделяют два ос-
новных типа НС – сети с прямым распространением сигнала и рекуррент-
ные НС (с обратными связями). Среди НС прямого распространения наи-
более известны многослойные структуры с прямыми полными связями
между отдельными слоями. Передача сигнала в таких НС происходит
только от входа к выходу, их математическое описание и методы обучения
(как правило, с учителем) достаточно просты и практически несложны.
Исторически первой НС была однослойная сеть (рис. 4.1), состоящая
из персептронов или сигмоидальных нейронов, каждый из которых реали-
зует функциональное отображение (2.1). Обучение сети состоит в подборе
весов w
ij
в процессе минимизации целевой функции
( )
2
2
()()()()
111
11
22
pp
M
iiii
kk
iik
Ewydyd
===
éù
=-=-
ëû
ååå
r
rr
(4.1)
и является точной копией обучения одиночного нейрона. Расположенные
на одном уровне нейроны НС (рис. 4.1) функционируют независимо друг
от друга, поэтому возможности такой сети определяются свойствами от-
дельных нейронов. Показано, например, что однослойный персептрон не в
состоянии реализовать даже такую несложную функцию, как «Исключи-
тельное ИЛИ» (XOR), поэтому его применимость ограничена классом за-
дач линейной сепарации. Однако положение кардинально меняется при
добавлении еще хотя бы одного слоя.
Рис. 4.1. Схема однослойного персептрона
1
x
1
w
11
x
2
x
N
w
01
w
MN
y
1
2
M
y
2
y
M
x
0
= 1 
4. МНОГОСЛОЙНЫЕ НС ПРЯМОГО РАСПРОСТРАНЕНИЯ
      В зависимости от способа объединения нейронов выделяют два ос-
новных типа НС – сети с прямым распространением сигнала и рекуррент-
ные НС (с обратными связями). Среди НС прямого распространения наи-
более известны многослойные структуры с прямыми полными связями
между отдельными слоями. Передача сигнала в таких НС происходит
только от входа к выходу, их математическое описание и методы обучения
(как правило, с учителем) достаточно просты и практически несложны.
      Исторически первой НС была однослойная сеть (рис. 4.1), состоящая
из персептронов или сигмоидальных нейронов, каждый из которых реали-
зует функциональное отображение (2.1). Обучение сети состоит в подборе
весов wij в процессе минимизации целевой функции

                   �   1 p � (i ) � (i )   2    1 p M (i )
               E � w� � � y � d                � �� �� yk � d k(i ) ��
                                                                       2
                                                                           (4.1)
                       2 i �1                   2 i �1 k �1

и является точной копией обучения одиночного нейрона. Расположенные
на одном уровне нейроны НС (рис. 4.1) функционируют независимо друг
от друга, поэтому возможности такой сети определяются свойствами от-
дельных нейронов. Показано, например, что однослойный персептрон не в
состоянии реализовать даже такую несложную функцию, как «Исключи-
тельное ИЛИ» (XOR), поэтому его применимость ограничена классом за-
дач линейной сепарации. Однако положение кардинально меняется при
добавлении еще хотя бы одного слоя.


                          x0 = 1
                                       w01

                          w11
                 x1                              1              y1



                 x2                              2              y2


                 xN                             M               yM
                            wMN

                      Рис. 4.1. Схема однослойного персептрона


                                               47

Страницы