Компьютерные решения задач многомерной статистики. Часть 1. Кластерный и дискриминантный анализ. Давнис В.В - 22 стр.

UptoLike

ВУЗ: 

ВГУ | Воронеж

Составители: 

Рубрика: 

∑∑
==
−−
−
=
m
k
n
i
k
l
k
il
k
j
k
ijjl
k
xxxx
mn
11
)()()()(
)
ˆ
)(
ˆ
(
1
ˆ
σ
. (3.15)
Как только получены оценки, их подставляют вместо неизвестных па -
раметров в соответствующие функции )
ˆ
,
ˆ
,( Σ
j
xxϕ и строят решающее пра -
вило. Особенно просто это правило выглядит в случае, когда распознаются
только два класса , т.е.
2
=
k
. Для этого случая правило (3.11) может быть
записано в следующей эквивалентной форме:
1
2
2
1
ˆ
ˆ
)
ˆ
,
ˆ
,(
)
ˆ
,
ˆ
,(
π
π
ϕ
ϕ
≥
Σ
Σ
xx
xx
(3.16)
или после логарифмирования
1
2
2
1
ˆ
ˆ
ln
)
ˆ
,
ˆ
,(
)
ˆ
,
ˆ
,(
ln
π
π
ϕ
ϕ
=
Σ
Σ
xx
xx
. (3.17)
Учитывая, что
ϕ
является функцией нормальной плотности, т.е. имеет вид
(3.13), полученное соотношение можно записать в следующем виде:
1
2
2
1
21
1
1
ˆ
ˆ
ln)
ˆ
(
ˆ
)
ˆ
(
2
1
)
ˆ
(
ˆ
)
ˆ
(
2
1
π
π
≥−Σ−+−Σ−−
−− TT
xxxxxxxx
. (3.18)
Предполагая далее, что априорные вероятности равны между собой,
т .е. 5,0
21
=
=
π
π
, и, проведя соответствующее преобразование последнего
выражения, окончательно получаем решающее правило
0)
ˆˆ
()]
ˆˆ
(
2
1
[
21
1
21
≥−Σ+−
− T
j
xxxxx
, (3.19)
в соответствии с которым наблюдение
j
x следует отнести к первому клас-
су , если неравенство выполняется , и ко второму – в противном случае.
Смысл полученного решающего правила становится понятным, если его
применить для классификации одномерных нормальных наблюдений. В
этом случае решение об отнесении объекта неизвестной принадлежности к
одному из двух классов принимается на основе знака произведения
)
ˆˆ
](2/)
ˆˆ
([
2121
xxxxx
j
−+− . (3.20)
Действительно, если положить
2
1
ˆˆ
xx < , то при
j
x расположенным ближе
к
1
ˆ
x произведение положительно, в противном случае отрицательно.
Из решающего правила (3.19) можно получить формулу для расчета
коэффициентов дискриминантной функции
T
)
ˆˆ
(
ˆ
21
1
xxa −Σ=
−
(3.21)
и применять для принятия решения не формулу, а полученную линейную
функцию с коэффициентами a
ˆ
. 
                             1 m nk ( k ) ˆ( k ) ( k ) ˆ( k )
                σˆ jl =          ∑∑ ( xij − x j )( xil − xl ) .
                          n − m k =1 i =1
                                                                                     (3.15)

       К а к т ол ь ко пол у чен ы оцен ки, их под ста вл яют вм ест о н еизвест н ых па -
ра м етров в соот вет ст ву ющ ие ф у н кции ϕ (x, xˆ j , Σˆ) и строят реша ющ ее пра -
вил о. О собен н о прост о эт о пра вил о выгл яд ит в сл у ча е, когд а ра спозн а ют ся
т ол ь ко д ва кл а сса , т .е. k = 2 . Д л я эт ого сл у ча я пра вил о (3.11) м ож ет быт ь
за писа н о в сл ед у ющ ей эквива л ен т н ой ф орм е:
                                              ϕ (x, xˆ1 , Σˆ) πˆ2
                                                             ≥                        (3.16)
                                              ϕ (x, xˆ2 , Σˆ) πˆ1
ил и посл е л ога риф м ирова н ия
                                              ϕ (x, xˆ1 , Σˆ)     πˆ
                                         ln                   = ln 2 .                (3.17)
                                              ϕ (x, xˆ2 , Σˆ)     πˆ1
У чит ыва я, чт о ϕ явл яет ся ф у н кцией н орм а л ь н ой пл от н ост и, т .е. им еет вид
(3.13), пол у чен н ое соот н ошен ие м ож н о за писа т ь в сл ед у ющ ем вид е:
         1                              1                                πˆ
        − ( x − xˆ1 ) Σˆ−1 (x − xˆ1 )T + (x − xˆ2 ) Σˆ−1 (x − xˆ2 )T ≥ ln 2 .          (3.18)
         2                              2                                πˆ1
П ред пол а га я д а л ее, что а приорн ые вероят н ост и ра вн ы м еж д у собой,
т .е. π 1 = π 2 = 0,5 , и, провед я соот вет ству ющ ее преобра зова н ие посл ед н его
выра ж ен ия, окон ча т ел ь н о пол у ча ем реша ющ ее пра вил о
                              1
                        [x j − (xˆ1 + xˆ2 )] Σ −1 ( xˆ1 − xˆ2 )T ≥ 0 ,       (3.19)
                              2
в соответ ст вии с кот орым н а бл юд ен ие x j сл ед у ет от н ест и к первом у кл а с-
су , есл и н ера вен ст во выпол н яет ся, и ко вт ором у – в прот ивн ом сл у ча е.
См ысл пол у чен н ого реша ющ его пра вил а ст а н овит ся пон ят н ым , есл и его
прим ен ит ь д л я кл а ссиф ика ции од н ом ерн ых н орм а л ь н ых н а бл юд ен ий. В
эт ом сл у ча е реш ен ие обот н есен ии объект а н еизвест н ой прин а д л еж н ост и к
од н ом у из д ву х кл а ссов прин им а ет ся н а осн ове зн а ка произвед ен ия
                                [ x j − ( xˆ1 + xˆ2 ) / 2]( xˆ1 − xˆ2 ) .        (3.20)
Д ейст вит ел ь н о, есл и пол ож ит ь        xˆ1 < xˆ2 , т о при x j ра спол ож ен н ым бл иж е
к x̂1 произвед ен ие пол ож ит ел ь н о, в прот ивн ом сл у ча е от рица т ел ь н о.
       Из реш а ющ его пра вил а (3.19) м ож н о пол у чит ь ф орм у л у д л я ра счет а
коэф ф ициен т ов д искрим ин а н т н ой ф у н кции
                                      aˆ = Σ −1 (xˆ1 − xˆ2 )T                      (3.21)
и прим ен ять д л я прин ят ия реш ен ия н е ф орм у л у , а пол у чен н у ю л ин ейн у ю
ф у н кцию с коэф ф ициен т а м и â .

Страницы