ВУЗ:
Составители:
45
достигаются в тех случаях, когда они располагаются с разных сторон гра-
ниц гиперплоскостей, разделяющих пространство данных. Примеры выбо-
ра обучающих точек для разделения универсального множества показаны
на рисунке 3.6. Неудачный выбор обучающих данных потребует использо-
вания 3-х скрытых нейронов (рис. 3.6, а), при корректном выборе будет
достаточно одного (рис. 3.6, б), поскольку подмножества B и D оказыва-
ются пустыми. Видно, что оптимальному случаю соответствует выбор
обучающих данных по границам областей, поэтому весьма важной являет-
ся любая предварительная информация о количестве областей, по которым
распределены эти данные.
3.3.4. Обеспечение устойчивости функционирования НС
После определения оптимальной архитектуры ИНС, выбора началь-
ных значений параметров, подготовки обучающих данных и хорошего
обучения актуальной становится задача обеспечения стабильности выход-
ных сигналов, то есть устойчивости функционирования НС. Разработчики
нейрокомпьютеров (НК) выделяют четыре типа устойчивости:
1) к случайным возмущениям входных сигналов;
2) к флуктуациям параметров сети;
3) к разрушению части элементов НС;
4) к обучению новым примерам.
Для выработки устойчивости первых трех типов целесообразно использо-
вать генераторы случайных искажений, которые для устойчивости 1-го ти-
па производят возмущение входных сигналов (преобразуют обучающий
пример), для устойчивости 2-го типа – случайным образом меняют пара-
метры сети в заданных пределах, а для устойчивости 3-го типа – удаляют
случайно выбранную часть НС, состоящую из заданного количества эле-
ментов (нейронов, связей).
Средствами обучения устойчивости 4-го типа, вообще говоря, явля-
ются выработка устойчивости либо 1-го, когда возмущение состоит в из-
менении процесса обучения, либо 2-го типа, когда определяющую роль иг-
рает случайный сдвиг параметров. Опыт показывает, что обучение позво-
ляет выработать устойчивость к весьма сильным возмущениям. Так, в за-
дачах распознавания образов уровень шума мог в несколько раз превосхо-
дить полезный сигнал, случайный сдвиг параметров – достигать 0,5–0,7 их
идеального значения, разрушение – 30–50 % элементов. И, тем не менее,
обученная сеть делала не более 10 % ошибок!
Контрольные вопросы
1. Дайте определение и приведите классификацию НС.
2. Приведите теорему Колмогорова–Арнольда–Хехт–Нильсена и следст-
вия из нее.
достигаются в тех случаях, когда они располагаются с разных сторон гра- ниц гиперплоскостей, разделяющих пространство данных. Примеры выбо- ра обучающих точек для разделения универсального множества показаны на рисунке 3.6. Неудачный выбор обучающих данных потребует использо- вания 3-х скрытых нейронов (рис. 3.6, а), при корректном выборе будет достаточно одного (рис. 3.6, б), поскольку подмножества B и D оказыва- ются пустыми. Видно, что оптимальному случаю соответствует выбор обучающих данных по границам областей, поэтому весьма важной являет- ся любая предварительная информация о количестве областей, по которым распределены эти данные. 3.3.4. Обеспечение устойчивости функционирования НС После определения оптимальной архитектуры ИНС, выбора началь- ных значений параметров, подготовки обучающих данных и хорошего обучения актуальной становится задача обеспечения стабильности выход- ных сигналов, то есть устойчивости функционирования НС. Разработчики нейрокомпьютеров (НК) выделяют четыре типа устойчивости: 1) к случайным возмущениям входных сигналов; 2) к флуктуациям параметров сети; 3) к разрушению части элементов НС; 4) к обучению новым примерам. Для выработки устойчивости первых трех типов целесообразно использо- вать генераторы случайных искажений, которые для устойчивости 1-го ти- па производят возмущение входных сигналов (преобразуют обучающий пример), для устойчивости 2-го типа – случайным образом меняют пара- метры сети в заданных пределах, а для устойчивости 3-го типа – удаляют случайно выбранную часть НС, состоящую из заданного количества эле- ментов (нейронов, связей). Средствами обучения устойчивости 4-го типа, вообще говоря, явля- ются выработка устойчивости либо 1-го, когда возмущение состоит в из- менении процесса обучения, либо 2-го типа, когда определяющую роль иг- рает случайный сдвиг параметров. Опыт показывает, что обучение позво- ляет выработать устойчивость к весьма сильным возмущениям. Так, в за- дачах распознавания образов уровень шума мог в несколько раз превосхо- дить полезный сигнал, случайный сдвиг параметров – достигать 0,5–0,7 их идеального значения, разрушение – 30–50 % элементов. И, тем не менее, обученная сеть делала не более 10 % ошибок! Контрольные вопросы 1. Дайте определение и приведите классификацию НС. 2. Приведите теорему Колмогорова–Арнольда–Хехт–Нильсена и следст- вия из нее. 45
Страницы
- « первая
- ‹ предыдущая
- …
- 43
- 44
- 45
- 46
- 47
- …
- следующая ›
- последняя »