Методические указания к лабораторным работам по курсу "Нейрокомпьютерные системы". Домашова Д.В - 14 стр.

      Недостаток алгоритма обратного распространения:
во многих случаях для сходимости может потребоваться многократное (сотни
раз) предъявление всей обучающей выборки.
      Повышения скорости обучения добиваются, например, использованием
информации о второй производной D, увеличением η.
      В последнем случае избежать осцилляций позволяет инерционный член:
                                ∆wij (t + 1) = ηδ j y j + α∆wij (t )
где α - экспоненциально затухающий множитель, определяющий относительное
воздействие текущего и прошлых градиентов на изменение веса.
      В настоящее время многослойные персептроны являются наиболее попу-
лярной моделью нейронных сетей.
      Т. к. с их помощью удалось продемонстрировать решение ряда задач, в том
числе классической для персептронов задачи «исключающего ИЛИ», задачи син-
теза речи по тексту, а также задач, требующих принятия экспертных решений.
      Возможно, что подобные многослойным персептронам нейронные структу-
ры используются мозгом для предварительной обработки сенсорной информации,
например, при выделении признаков.




                                                                           15