Искусственные нейронные сети. Сивохин А.В - 50 стр.

налов по умолчанию используется net.initFcn = ‘initlay’, что разре-
шает для каждого слоя использовать собственные функции инициа-
лизации, задаваемые свойством net.layers{i}.initFcn с двумя возмож-
ными значениями: ‘initwb’ и ’initnw’.
   Функция initwb позволяет использовать собственные функции
инициализации для каждой матрицы весов и для каждого вектора
смещений, при этом возможными значениями для свойств
net.inputWeights{i,j}.initFcn и net.layerWeight{i,j}.initFcn являются:
‘initzero’, ‘midpoint’, ’randnc’, ’rands’, а для свойства
net.biases{i}.initFcn – значения ‘initcon’, ‘initzero и ‘rands’. Для
сетей без обратных связей с линейными функциями активации
веса обычно инициализируются случайными значениями из интерва-
ла [-1 1].
   Функция initnw реализуют алгоритм Nguyen-Widrow и применя-
ется для слоёв, использующих сигмоидальные функции активации.
Эта функция генерирует начальные веса и смещения для слоя так,
чтобы активные области нейронов были распределены равномерно
относительно области входов, что обеспечивает минимизацию числа
нейронов сети и время обучения.
   Другими возможными значениями свойства net.initFcn являются:
‘initcon’, ‘initnw’, ‘initwb’ и ‘initzero’.
   Помимо функции initnw следующие функции производят непо-
средственную инициализацию весов и смещений:
   initzero присваивает матрицам весов и векторам смещений нуле-
вые значения;
   rands присваивает матрицам весов и векторам смещений случай-
ные значения из диапазона [-1 1];
   randnr присваивает матрице весов случайные нормированные
строки из диапазона [-1 1];
   randnc присваивает матрице весов случайные нормированные
столбцы из диапазона [-1 1];
   midpoint присваивает элементам вектора смещения начальные
равные смещения, зависящие от числа нейронов в слое, и использу-
ется вместе с функцией настройки learncon.



                                 50