Искусственные нейронные сети. Сивохин А.В - 52 стр.

UptoLike

ВУЗ: 

ПГУ | Пенза

Составители: 

Рубрика: 

52
размерности". Для большинства реальных задач бывает достаточно
нескольких сотен или тысяч наблюдений.
После того как собран обучающий набор данных для проектируе-
мой сети, производится автоматическая настройка весов и смещений
с помощью процедур обучения, которые минимизируют разность
между желаемым сигналом и полученным на выходе в результате
моделирования сети. Эта разность носит
название "ошибки обуче-
ния". Используя ошибки обучения для всех имеющихся наблюдений,
можно сформировать функцию ошибок или критерий качества обу-
чения. Чаще всего в качестве такого критерия используется сумма
квадратов ошибок. Для линейных сетей при этом удаётся найти аб-
солютный минимум критерия качества, для других сетей достижение
такого минимума не гарантируется. Это объясняется тем, что для ли-
нейной сети критерий качества, как функция весов и смещения, яв-
ляется параболоидом, а для других сетей – очень сложной поверхно-
стью в N+1-мерном пространстве, где N – число весовых коэффици-
ентов и смещений.
С учётом специфики нейронных сетей для них разработаны спе-
циальные алгоритмы обучения. Алгоритмы
действуют итеративно,
по шагам. Величина шага определяет скорость обучения и регулиру-
ется параметром скорости настройки. При большом шаге имеется
большая вероятность пропуска абсолютного минимума, при малом
шаге может сильно возрасти время обучения. Шаги алгоритма при-
нято называть эпохами или циклами.
На каждом цикле на вход сети последовательно подаются все
обучающие
наблюдения, выходные значения сравниваются с целе-
выми значениями и вычисляется функция критерия качества обуче-
ния – функция ошибки. Значения функции ошибки, а также её гради-
ента используются для корректировки весов и смещений, после чего
все действия повторяются. Процесс обучения прекращается по сле-
дующим трём причинам, если:
а) реализовано заданное количество циклов;
б
) ошибка достигла заданной величины;
в) ошибка достигла некоторого значения и перестала уменьшать-
ся. 
размерности". Для большинства реальных задач бывает достаточно
нескольких сотен или тысяч наблюдений.
    После того как собран обучающий набор данных для проектируе-
мой сети, производится автоматическая настройка весов и смещений
с помощью процедур обучения, которые минимизируют разность
между желаемым сигналом и полученным на выходе в результате
моделирования сети. Эта разность носит название "ошибки обуче-
ния". Используя ошибки обучения для всех имеющихся наблюдений,
можно сформировать функцию ошибок или критерий качества обу-
чения. Чаще всего в качестве такого критерия используется сумма
квадратов ошибок. Для линейных сетей при этом удаётся найти аб-
солютный минимум критерия качества, для других сетей достижение
такого минимума не гарантируется. Это объясняется тем, что для ли-
нейной сети критерий качества, как функция весов и смещения, яв-
ляется параболоидом, а для других сетей – очень сложной поверхно-
стью в N+1-мерном пространстве, где N – число весовых коэффици-
ентов и смещений.
    С учётом специфики нейронных сетей для них разработаны спе-
циальные алгоритмы обучения. Алгоритмы действуют итеративно,
по шагам. Величина шага определяет скорость обучения и регулиру-
ется параметром скорости настройки. При большом шаге имеется
большая вероятность пропуска абсолютного минимума, при малом
шаге может сильно возрасти время обучения. Шаги алгоритма при-
нято называть эпохами или циклами.
    На каждом цикле на вход сети последовательно подаются все
обучающие наблюдения, выходные значения сравниваются с целе-
выми значениями и вычисляется функция критерия качества обуче-
ния – функция ошибки. Значения функции ошибки, а также её гради-
ента используются для корректировки весов и смещений, после чего
все действия повторяются. Процесс обучения прекращается по сле-
дующим трём причинам, если:
    а) реализовано заданное количество циклов;
    б) ошибка достигла заданной величины;
    в) ошибка достигла некоторого значения и перестала уменьшать-
ся.



                               52

Страницы