Математические методы искусственного интеллекта. Броневич А.Г - 12 стр.

UptoLike

ВУЗ: 

ТТИ ЮФУ | Таганрог

Составители: 

Рубрика: 

12
{
1
2
1, ,
1, .
i
i
i
y
ϖ
ϖ
∈
=
−∈
x
x
Таким образом, требуется найти линейную решающую функцию ()
f
x ,
которая бы удовлетворяла условию
() 0
ii i
yf >∀∈Ωxx. (2)
Умножая, если нужно, функцию
f
на некоторое положительное число,
видим, что система неравенств равносильна системе
() 1
ii i
yf ≥∀∈Ωxx. (3)
Так как ()
f
x – линейная функция, то система неравенств (3) примет вид
(( , ) ) 1, 1,...,
ii
ybim+≥ =wx , (4)
где w – вектор весовых коэффициентов, b – некоторое число. Тогда разде-
ляющей два класса гиперплоскостью будет
(,) 0b+=wx . Нетрудно видеть, что и все гиперп-
лоскости вида
(,) 0b
′
+=wx
, где
(1, 1)bb b
′
∈− +
,
также будут разделяющими (рис.5). Расстояние
между граничными гиперплоскостями
(,) 1 0b+−=wx и (,) 1 0b++=wx равно
2 w .
Действительно,
1
,0
b
⎛⎞
−
+=
⎜⎟
⎝⎠
w
x
ww
и
1
,0
b
⎛⎞
+
+=
⎜⎟
⎝⎠
w
x
ww
– нормальные уравнения этих
гиперплоскостей. Тогда
1
1b
p
−
=
w
и
2
1b
p
+
=
w
– расстояния от этих гиперпло-
скостей до начала координат, а
21
2pp−= w – расстояние между гиперпло-
скостями. На самих граничных плоскостях может находиться некоторое чис-
ло (не меньше двух) обучающих векторов. Эти векторы называются опор-
ными.
Для надежного разделения классов необходимо, чтобы расстояние ме-
жду разделяющими гиперплоскостями было как можно большим, т.е. вели-
чина
w была как можно меньше. Таким образом, ставится задача нахожде-
ния минимума квадратичного функционала 0, 5( , )ww (коэффициент 0,5 вво-
дится для удобства дифференцирования) в выпуклом многограннике, зада-
ваемом системой неравенств (4). В выпуклом множестве квадратичный
функционал всегда имеет единственный минимум (если это множество не
пусто). Решение этой оптимизационной задачи равносильно поиску критиче-
ских точек
лагранжиана
1
( , , ) 0, 5( , ) ( (( , ) ) 1)
m
ii i
i
Lb y b
λ
=
=− +−
∑
w λ ww wx
в ортанте по множителям Лагранжа 0 ( 1,..., )
i
im
λ
≥= . Причем для решения
должны быть выполнены соотношения
Рис.5
0
w
2
x
1
x
2 w

Страницы