Интеллектуальный анализ временных рядов. Ярушкина Н.Г - 114 стр.

UptoLike

ВУЗ: 

УлГТУ | Ульяновск

Составители: 

Рубрика: 

114
Так, в сетях прямого распространения (Feedforward) все связи направлены
строго от входных нейронов к выходным. Примерами таких сетей являются
персептрон Розенблатта, многослойный персептрон, сети Ворда.
В рекуррентных нейронных сетях сигнал с выходных нейронов или ней-
ронов скрытого слоя частично передается обратно на входы нейронов входного
слоя (обратная связь). Рекуррентная сеть,
сеть Хопфилда, «фильтрует» входные
данные, возвращаясь к устойчивому состоянию и, таким образом, позволяет
решать задачи компрессии данных. Частным случаем рекуррентных сетей явля-
ется двунаправленные сети. В таких сетях между слоями существуют связи как
в направлении от входного слоя к выходному, так и в обратном. Классическим
примером двунаправленных сетей является нейронная сеть
Коско.
Известны и другие типы сетей: сеть Джордана, сеть Элмана, сеть Хэм-
минга, сеть Кохонена, когнитрон, неокогнитрон, хаотическая нейронная сеть,
осцилляторная нейронная сеть, сеть встречного распространения, сеть радиаль-
ных базисных функций (RBF-сеть), сеть обобщенной регрессии, вероятностная
сеть, сиамская нейронная сеть, сети адаптивного резонанса [Ярушкина, 2004;
Ширяев, 2007].
3.2.2. Обучение методом обратного распространения ошибок
С математической точки зрения обучение нейронных сетей (НС) –
это
многопараметрическая задача нелинейной оптимизации.
Для обучения сети используются различные алгоритмы обучения и их
модификации [Барский, 2004; Бутенко, 2002; Гусак, 2002]. Наиболее распро-
страненным является алгоритм обратного распространения ошибки. Алгоритм
минимизирует среднеквадратичную ошибку нейронной сети. Для этого с целью
настройки синаптических связей используется метод градиентного спуска в
пространстве весовых коэффициентов и порогов нейронной
сети. Следует от-
метить, что в настройке синаптических связей сети используются не только ме-
тод градиентного спуска, но и методы сопряженных градиентов, Ньютона, ква-
зиньютоновский метод [Новиков, 2002].

Страницы