Нейросетевые модели для систем информационной безопасности. Брюхомицкий Ю.А. - 54 стр.

UptoLike

Составители: 

54
распределения Больцмана часто используют распределение Коши, имеющее
более высокую скорость «охлаждения»:
22
)(
wT
T
wP
+
=
.
ИНС, использующую имитацию отжига на основе распределения Коши,
называют машиной Коши.
Для вычисления вероятности изменения весовых коэффициентов Р(w),
независимо от вида распределения, используется метод Монте-Карло. В
соответствии с этим методом генерируется случайное равномерно
распределенное в диапазоне (0,1) число R и сравнивается с величиной Р(w).
Если Р(w)>
R, то изменение сохраняется, в противном случае величина веса
возвращается к предыдущему значению.
Обучение нейронных сетей методами генетического поиска. При
использовании генетических алгоритмов параметры ИНС фиксированной
архитектуры синаптические веса (
W) и смещения (B) рассматриваются в виде
вектора
Н=(W, B), который трактуется как хромосома. Возможны и другие
более сложные способы кодирования информации.
В отличие от большинства других алгоритмов обучения, для работы
генетического алгоритма требуется не один набор начальных значений
параметров, а несколько наборов, которые составят популяцию хромосом.
Популяция затем обрабатывается с помощью генетических операторов.
Получившиеся новые особи оцениваются в соответствии
с заданной целевой
функцией и помещаются в популяцию. В результате на каждой стадии
эволюции получаются популяции со все более совершенными индивидами.
Процесс обучения ИНС рассматривается как адаптивный процесс,
связанный с минимизацией целевой функции
=
=
N
i
ii
zzS
1
2
TA
)(
2
1
,
где z
Ai
фактический выходной сигнал нейрона i;
z
Ti
желаемый выходной сигнал нейрона i.
Структура процесса эволюционной адаптации ИНС показана на (рис. 6.1).
После определения принципов кодирования и декодирования хромосом
определяют перечень необходимых генетических операторов и общую
структуру процесса генетического поиска. Для разных задач и типов ИНС они
могут быть различными. В итоге формируется ГА для подстройки весов и
смещений
ИНС.