Параметрическое обучение в теории распознавания образов. Воробьев С.Н - 32 стр.

UptoLike

Составители: 

32
5. ПАРАМЕТРИЧЕСКОЕ ОБУЧЕНИЕ БЕЗ УЧИТЕЛЯ
При обучении без учителя (самообучении) используются непомечен
ные (неклассифицированные) выборки признаков с плотностью распре
деления
12
121 2
1
|;
k
jjjj
j
fpHfH34
5
XX
. (28)
Анализируя множество векторов
i
X ,
1,...,iK1
, необходимо оценить
k
векторов параметров, т. е. получить классифицированные векторы
1
j
1
,
1,...,jk1
. Такая задача принципиально сложнее, чем обучение с
учителем. Ее решение может оказаться полезным при разработке адап
тивных систем распознавания, в которых признаки нестационарны.
Пусть вероятностная структура задачи известна [5]:
– заданы априорные вероятности
1
2
j
pH
и плотности
12
;
jj
fX3
для
всех k классов;
– неизвестны k векторов
j
1
.
Плотность смеси (28) называется идентифицируемой, если из нера
венства
1
121
следует
1
2
1
2
1
||ff34 3XX
. Неидентифицируемая плот
ность оказывается одной и той же при различных параметрах
1
, что
может сделать обучение невозможным. Например, при равенстве апри
орных вероятностей математические ожидания в плотности
12
12
1212 12
22
1122
;exp exp
22
22
pH x m pH x m
fx
3 4 3 4
55
66 66
7 8 5 9 5


66 66

не могут быть идентифицированы, так как при взаимной замене
1
m и
2
m плотность не изменяется.
Пусть имеется множество непомеченных обучающих векторов
11 12 1
21 22 2
12
12
...
...
...
... ... ... ...
...
N
T
T
N
k
kk kN
xx x
xx x
xx x
12
34
55
12
34
67
34
34
67
XXX X
,
извлеченных из идентифицируемой по неизвестным векторам средних
j
1
смеси с плотностью (1)
1 2
f 3X
12 1 2 1212
34
/2 1/2
1
1
2 det exp
2
nT
5 6 67 67BXBX
.