Математические методы искусственного интеллекта. Броневич А.Г - 15 стр.

UptoLike

Рубрика: 

15
Таким образом, ( ) ( , )
f
b=+=xwx
(2)
23
x
−+ и
(2)
() 0 1,5fx=⇔ =x . Ши-
рина разделяющей полосы будет равна
2221h ===w , а прямые
() 1 0
f
+= x
(2)
() 0 2fx=⇔ =x и
(2)
() 1 0 1fx−= =x будут ее границами
(рис. 6).
5.2. Линейно неразделимый случай
В этом случае нужно вложить пространство признаков
n
R
в простран-
ство
H
большей размерности с помощью отображения :
n
R
H
ϕ
. Тогда,
рассматривая алгоритм опорных векторов для образов ()
i
ϕ
x обучающей вы-
борки, сведем решение задачи к линейно разделимому случаю, т.е. разде-
ляющую функцию будем искать в виде
()
() , ()
f
b
ϕ
=+xwx ,
1
()
m
ii i
i
y
λϕ
=
=
wx,
где коэффициенты
i
λ
зависят от
i
y и от значения
()
(),( )
ij
xx. Таким обра-
зом, для нахождения решающей функции нужно иметь значения скалярных
произведений
()
(),( )
ij
xx. Для функции
()
(, ) (), ()K
ϕϕ
=x
y
x
y
, которую назы-
вают ядром, справедливы следующие свойства:
1) ( , ) ( , )
K
K=x
yy
x (симметричность);
2) матрица
,
()
ij
K
K= ,
,
(, )
ij i j
KK= xx является неотрицательно опреде-
ленной для любых векторов
1
,...,
m
xx (т.е.
,
()
ij
K
K= - матрица Грама системы
векторов
()
()
i
ϕ
x ).
Примеры: 1) ( , ) ( , )
K
=x
y
x
y
; 2) ( , ) ( ) ( )
K
ϕϕ
=x
y
x
y
; 3) ( , ) 0
K
C=>x
y
.
Любые 1m
+ векторов могут быть разделены на любые два класса с по-
мощью мономиального отображения степени не больше m . Поэтому, если
{
}
1
1
:...
n
i
i
n
x
x
ϕ
x ,
1
...
n
iim++ есть такое отображение, то ядро, соответст-
вующее этому отображению, можно искать в виде
()()
(, ) (), () (, ) 1
m
K
ϕϕ
==+xy x y xy .
Таким образом, это ядро гарантирует разделение любых 1m
+ векторов на
любые два класса. В этом случае нахождение разделяющих функций осуще-
ствляется следующим образом:
1)
находим наибольшее значение функции
1,1
() 0,5 ( , )
mm
iijijij
iij
yyK
λλλ
==
Φ=
∑∑
λ xx при условии
1
0
m
ii
i
y
λ
=
=
в области
0 ( 1,..., )
i
im
λ
≥= , в результате получим вектор
()
(0) (0)
(0)
1
,...,
m
λλ
=λ ;
2)
разделяющую функцию находим в виде
()
0
1
() ( , ()) ( ), ()
m
ii
i
i
f
by b
ϕλϕϕ
=
=+= +=
xwx xx
() ( )
00
1
11
(),() (),()
mm
ii r ii r
ii
ii
yyy
λϕϕ λϕϕ
==
=+ =
∑∑
xx xx
00
1
11
(,) (, )
mm
ii r iir
ii
ii
yK y yK
λλ
==
=+
∑∑
xx xx .