Интеллектуальные информационные системы. Макаренко С.И. - 161 стр.

ВХОДНЫЕ                                                                            БЛОК        ВЫХОДНОЙ
                          СИНАПТИЧЕСКИЕ ВЕСА                                                    СИГНАЛ
СИГНАЛЫ                                                                        СУММИРОВАНИЯ



 Lij                             W                   M           W    M
          N ij = N ij + Lij ; N i = ∑ N ij ; N j = ∑ N ij ; N = ∑∑ N ij
                                 j =1             i =1           i =1 j =1          M             Yj
                                           Log 2W ϕ                          I j = ∑ I ij Li
                                N ij     Log 2 N
           N ij ⇒ I ij = Log 2                         + Log 2W ⇒ I ij
                                                                 ϕ
                                                                                   i =1
                               N N 
                                i   j 



                  Рисунок 16.3- Модель нелокального нейрона
                 в обозначениях системной теории информации


    За счет учета корреляций входных сигналов (если они фактически
присутствуют в структуре данных), т.е. наличия общего самосогласованного
информационного поля исходных данных всей нейронной сети
(информационное пространство), нелокальные нейроны ведут себя так, как
будто связаны с другими нейронами, хотя могут быть и не связаны с ними
синаптически по входу и выходу ни прямо, ни опосредованно.
Самосогласованность семантического информационного пространства
означает, что учет любого одного нового факта в информационной модели
вообще говоря приводит к изменению всех весовых коэффициентов всех
нейронов, а не только тех, на рецепторе которых обнаружен этот факт и тех,
которые непосредственно или опосредованно синаптически с ним связаны.
    В традиционной (т.е. локальной) модели нейрона весовые
коэффициенты на его дендритах однозначно определяются заданным
выходом на его аксоне и никак не зависят от параметров других нейронов, с
которыми с нет прямой или опосредованной синаптической связи. Это
связано с тем, что в общепринятой энергетической парадигме Хопфилда
весовые коэффициенты дендритов имеют смысл интенсивностей входных
воздействий. В методе «обратного распространения ошибки» процесс
переобучения, т.е. интерактивного перерасчета весовых коэффициентов,
начинается с нейрона, состояние которого оказалось ошибочным и
захватывает только нейроны, ведущие от рецепторов к данному нейрону.
    Корреляции между локальными нейронами обусловлены сочетанием
трех основных причин:
    - наличием в исходных данных определенной структуры: корреляцией
      входных сигналов;
    - синаптической связью локальных нейронов;
    - избыточностью (дублированием) нейронной сети.


                                                               160