Нейросетевые структуры и технологии. Часть 1. Электрические и математические модели нейронов. НС прямого распространения. Клюкин В.И - 45 стр.

UptoLike

45
достигаются в тех случаях, когда они располагаются с разных сторон гра-
ниц гиперплоскостей, разделяющих пространство данных. Примеры выбо-
ра обучающих точек для разделения универсального множества показаны
на рисунке 3.6. Неудачный выбор обучающих данных потребует использо-
вания 3-х скрытых нейронов (рис. 3.6, а), при корректном выборе будет
достаточно одного (рис. 3.6, б), поскольку подмножества B и D оказыва-
ются пустыми. Видно, что оптимальному случаю соответствует выбор
обучающих данных по границам областей, поэтому весьма важной являет-
ся любая предварительная информация о количестве областей, по которым
распределены эти данные.
3.3.4. Обеспечение устойчивости функционирования НС
После определения оптимальной архитектуры ИНС, выбора началь-
ных значений параметров, подготовки обучающих данных и хорошего
обучения актуальной становится задача обеспечения стабильности выход-
ных сигналов, то есть устойчивости функционирования НС. Разработчики
нейрокомпьютеров (НК) выделяют четыре типа устойчивости:
1) к случайным возмущениям входных сигналов;
2) к флуктуациям параметров сети;
3) к разрушению части элементов НС;
4) к обучению новым примерам.
Для выработки устойчивости первых трех типов целесообразно использо-
вать генераторы случайных искажений, которые для устойчивости 1-го ти-
па производят возмущение входных сигналов (преобразуют обучающий
пример), для устойчивости 2-го типа случайным образом меняют пара-
метры сети в заданных пределах, а для устойчивости 3-го типа удаляют
случайно выбранную часть НС, состоящую из заданного количества эле-
ментов (нейронов, связей).
Средствами обучения устойчивости 4-го типа, вообще говоря, явля-
ются выработка устойчивости либо 1-го, когда возмущение состоит в из-
менении процесса обучения, либо 2-го типа, когда определяющую роль иг-
рает случайный сдвиг параметров. Опыт показывает, что обучение позво-
ляет выработать устойчивость к весьма сильным возмущениям. Так, в за-
дачах распознавания образов уровень шума мог в несколько раз превосхо-
дить полезный сигнал, случайный сдвиг параметров достигать 0,5–0,7 их
идеального значения, разрушение 30–50 % элементов. И, тем не менее,
обученная сеть делала не более 10 % ошибок!
Контрольные вопросы
1. Дайте определение и приведите классификацию НС.
2. Приведите теорему КолмогороваАрнольдаХехтНильсена и следст-
вия из нее.
достигаются в тех случаях, когда они располагаются с разных сторон гра-
ниц гиперплоскостей, разделяющих пространство данных. Примеры выбо-
ра обучающих точек для разделения универсального множества показаны
на рисунке 3.6. Неудачный выбор обучающих данных потребует использо-
вания 3-х скрытых нейронов (рис. 3.6, а), при корректном выборе будет
достаточно одного (рис. 3.6, б), поскольку подмножества B и D оказыва-
ются пустыми. Видно, что оптимальному случаю соответствует выбор
обучающих данных по границам областей, поэтому весьма важной являет-
ся любая предварительная информация о количестве областей, по которым
распределены эти данные.

3.3.4. Обеспечение устойчивости функционирования НС
       После определения оптимальной архитектуры ИНС, выбора началь-
ных значений параметров, подготовки обучающих данных и хорошего
обучения актуальной становится задача обеспечения стабильности выход-
ных сигналов, то есть устойчивости функционирования НС. Разработчики
нейрокомпьютеров (НК) выделяют четыре типа устойчивости:
       1) к случайным возмущениям входных сигналов;
       2) к флуктуациям параметров сети;
       3) к разрушению части элементов НС;
       4) к обучению новым примерам.
Для выработки устойчивости первых трех типов целесообразно использо-
вать генераторы случайных искажений, которые для устойчивости 1-го ти-
па производят возмущение входных сигналов (преобразуют обучающий
пример), для устойчивости 2-го типа – случайным образом меняют пара-
метры сети в заданных пределах, а для устойчивости 3-го типа – удаляют
случайно выбранную часть НС, состоящую из заданного количества эле-
ментов (нейронов, связей).
       Средствами обучения устойчивости 4-го типа, вообще говоря, явля-
ются выработка устойчивости либо 1-го, когда возмущение состоит в из-
менении процесса обучения, либо 2-го типа, когда определяющую роль иг-
рает случайный сдвиг параметров. Опыт показывает, что обучение позво-
ляет выработать устойчивость к весьма сильным возмущениям. Так, в за-
дачах распознавания образов уровень шума мог в несколько раз превосхо-
дить полезный сигнал, случайный сдвиг параметров – достигать 0,5–0,7 их
идеального значения, разрушение – 30–50 % элементов. И, тем не менее,
обученная сеть делала не более 10 % ошибок!

                           Контрольные вопросы
     1. Дайте определение и приведите классификацию НС.
     2. Приведите теорему Колмогорова–Арнольда–Хехт–Нильсена и следст-
вия из нее.

                                     45