Нейросетевые технологии. Каширина И.Л. - 12 стр.

                          2.2. Теорема Колмогорова

     Рассмотрим в качестве примера двухслойную нейронную сеть с n
входами и одним выходом, которая достаточно проста по структуре и в то
же время широко используется для решения прикладных задач. Эта сеть
изображена на рис. 6. Каждый i-й нейрон первого слоя ( i = 1,2..., m ) имеет
n входов, которым приписаны веса w1i, w2i, ..., wni .




                     Рис. 6. Пример нейронной сети
     Получив входные сигналы, нейрон суммирует их с соответствующими
весами, затем применяет к этой сумме передаточную функцию и пересы-
лает результат на вход нейрона второго (выходного) слоя. В свою очередь,
нейрон выходного слоя суммирует полученные от второго слоя сигналы с
некоторыми весами vi. Для определенности будем предполагать, что пере-
даточные функции в скрытом слое являются сигмоидальными, а в выход-
ном слое используется тождественная функция, т. е. взвешенная сумма
выходов второго слоя и будет ответом сети.
     Подавая на входы любые числа x1, x2, ..., xn, мы получим на выходе
значение некоторой функции Y=F(x1, x2, ..., xn), которое является ответом
(реакцией) сети. Очевидно, что ответ сети зависит как от входного сигнала,
так и от значений ее внутренних параметров — весов нейронов. Выпишем
точный вид этой функции:
                                   m        n                                1
         F ( x1 , x2 ,..., xn ) = ∑ viσ ( ∑ x j ⋅ w ji ) , где σ ( s ) =            .
                                  i =1    j =0                           1 + e − as
В 1957 г. математик А. Н. Колмогоров доказал следующую теорему.
      Теорема Колмогорова. Любая непрерывная функция от n перемен-
ных F(x1, x2, ..., xn) на замкнутом ограниченном множестве может быть
представлена в виде

                                         12