Нейросетевые структуры и технологии. Часть 1. Электрические и математические модели нейронов. НС прямого распространения. Клюкин В.И - 19 стр.

                                    � 1, при u i � 0;
                       y i �u i � � �                         (2.11)
                                    �� 1, при u i � 0.
     Обучение – с учителем путем подбора wij в процессе минимизации
целевой функции
                                                                       2
                                 1 2 1�        N        �
                         E ( w) � ei � � di � � wij x j �                     (2.12)
                                 2    2�      j �0      �

с использованием градиентных методов, поскольку в E(w) входят только
линейные члены. Уточнение wij – либо дискретно согласно

                               wij (t � 1) � wij (t ) � ηei x j ,             (2.13)

либо аналогово – путем решения разностного уравнения

                                       dwij
                                              � �μei x j .                    (2.14)
                                        dt
      Нейроны типа «ADALINE» имеют относительно простую схемную
реализацию, включающую интеграторы, сумматоры и элементы задержки.
В практических приложениях эти нейроны всегда используются группами,
образуя слои, называемые «MADALINE» (Many ADALINE), где каждый
нейрон обучается по правилам (2.13), (2.14).
2.4. «Instar» и «Outstar» Гроссберга
       Структуры «Instar» и «Outstar», предложенные С. Гроссбергом
(рис. 2.4, а,б), представляют собой взаимодополняющие элементы: «Instar»
                                                                       �
адаптирует веса связей нейрона к входным сигналам (компонентам x = [х1,
                                                   �
х2, …, хN]), а «Outstar» – к выходным (компонентам y = [y1, y2, …, yM]).
       Функции активации – чаще всего линейные (табл. 2.1).
       Обучение – по правилам Гроссберга: для «Instar» (рис. 2.4, а) –

                       wij (t � 1) � wij (t ) � � yi �� x j � wij (t ) �� ,   (2.15)

для «Outstar» (рис. 2.4, б) –

                       wij (t � 1) � wij (t ) � � yi �� y j � wij (t ) �� .   (2.16)
                                                    �
     Входные данные для обучения (компоненты x ), как правило, выра-
                                      �                       xj
жаются в нормализованной форме, когда x � 1 , а xˆ j �                  .
                                                       x1 � x2 � � � xN
                                                        2    2        2



                                                    19