Математические методы искусственного интеллекта. Броневич А.Г - 26 стр.

UptoLike

ВУЗ: 

ТТИ ЮФУ | Таганрог

Составители: 

Рубрика: 

26
Далее по формулам (13) и (14) можно найти и оценить характеристики
среды.
Постановка задачи. Требуется определить принадлежность вектора
наблюдений
x классу
1
ϖ
или
2
ϖ
так, чтобы вероятность ошибки неправиль-
ной классификации была минимальной. Разобьем пространство признаков
n
R
на две такие непересекающиеся области
1
Ω и
2
Ω , что
i
ϖ
∈x , если
i
∈Ωx
(1,2i = ). Тогда вероятность ошибки неправильной классификации можно вы-
числить по формуле
12
21
(|)() (|)()Qp fd p fd
ϖϖ
ΩΩ
=+
∫∫
xxx xxx. (15)
Первое слагаемое в формуле (15) равно вероятности принадлежности вектора
x
классу
2
ϖ
, если на самом деле он принадлежит классу
1
ϖ
(так называемая
вероятность
2
Q ошибки второго рода). Второе слагаемое – вероятность
1
Q
ошибки первого рода. Величина (15) – средняя ошибка неправильной клас-
сификации.
Отсюда следует, что задача построения наилучшего классификатора
эквивалентна такому разбиению пространства
n
R
на непересекающиеся об-
ласти
1
Ω и
2
Ω , которое минимизировало бы среднюю ошибку неправильной
классификации Q . Показано, что в соответствии с байесовской классифика-
цией
1
ϖ
∈x , если
11 2 2
() ()
p
fpf>xx и
2
ϖ
∈x , если
11 2 2
() ()
p
fpf<xx.
Эта задача и ее решение обобщаются для случая произвольного коли-
чества классов и различных штрафов за ту или иную классификацию.
Пример. Пусть условные плотности распределения признака внутри
классов
i
ϖ
( 1, 2i = ) имеют вид
()
i
ax
ii
f
xae
−
=
при 0
x
≥ , 0
i
a > ( 1, 2i = ) (так на-
зываемое показательное распределение). Тогда в соответствии с правилом
байесовской классификации
1
x
ϖ
∈
, если
12
22
112 2
21 11
1
ln
ax a x
ap
ae p ae p x
aa ap
−−
⎛⎞
>⇔>
⎜⎟
−
⎝⎠
при
21
aa>
или
22
21 11
1
ln
ap
x
aa ap
⎛⎞
<
⎜⎟
−
⎝⎠
при
21
aa< .
9.2. Минимаксный критерий классификации
Байесовская классификация является наилучшей со статистической
точки зрения. Однако она не всегда применима. Например, она неприменима,
когда вероятности
i
p
неизвестны.
Распишем среднюю ошибку неправильной классификации
21
11 22
() ()Qpfd pf d
ΩΩ
=+
∫∫
xx xx.

Страницы