Нейросетевые модели для систем информационной безопасности. Брюхомицкий Ю.А. - 108 стр.

UptoLike

Составители:

Рубрика:

108

При изучении свойств МБ было показано, что для достижения сходимости

сети к глобальному минимуму, скорость уменьшения температуры Т должна

быть обратно пропорциональна логарифму времени:

)1log(

)(

где: Т(t) – искусственная температура как функция времени;

– начальное значение искусственной температуры;

t – искусственное время.

Такая оценка предсказывает очень медленную скорость охлаждения и,

следовательно, очень большое время обучение МБ, что и подтверждается

экспериментально.

Обучение Коши, машина Коши [16]. Существует метод ускорения

обучения стохастической сети, который состоит в использовании при

вычислении размера шага вместо распределения Больцмана распределение

Коши.

Распределение Коши имеет более длинные «хвосты», что повышает

вероятность больших шагов, рис. 10.3.

Рис. 10.3. Распределение Коши и распределение Больцмана

Для распределения Коши максимальная скорость уменьшения

температуры становится обратно

пропорциональной линейной величине, а не

логарифму:

)(

Распределение Коши имеет вид

p(x)

Распределение

Коши

Распределение

Больцмана