Оценка надежности классифицирующих алгоритмов. Гуров С.И. - 15 стр.

UptoLike

ВУЗ: 

МГУ | Москва

Составители: 

Рубрика: 

λ = m, p
k
= m
k
/m , k = 1, v.
ˆp
k
p
k
m
k
/m
m
k
X
k
, k = 1, v
µ
k
mp
k
m
k
, k = 1, v
m
1
, m
2
, . . . , m
v
mp
1
, mp
2
, . . . , mp
v
(ˆp
1
, ˆp
2
, . . . , ˆp
v
)
χ
2
χ
2
χ
2
{
b
¯p}
{p
k
}
v
i=k
¯m = (m
1
, m
2
. . . m
v
)
T
¯p
∗
v
{
b
¯p} = {¯m/m} =
1
m
{¯m} =
m ¯p
∗
m
= ¯p
∗
,
{
b
¯p}
{
b
¯p} = {¯m/m} =
1
m
2
{¯m} =
m ¯p
∗
( − ¯p
∗
)
m
2
=
¯p
∗
( − ¯p
∗
)
m
.
v (1, 1, . . . , 1)
T
v −1
{
b
¯p} 0 m
p
∗
k
(1 − p
∗
k
), k = 1, v
m
m − 1
m
k
m
³
1 −
m
k
m
´
=
m
k
(m − m
k
)
m (m − 1)
.
ðåøåíèÿ êîòîðîé ñóòü λ = m, pk = mk /m , k = 1, v.
   Òàêèì îáðàçîì, ÌÏ-îöåíêàìè p̂k âåðîÿòíîñòåé pk áóäóò îòíîñèòåëüíûå ÷àñòîòû mk /m
÷èñëà ïðåöåäåíòîâ mk â îáëàñòÿõ Xk , k = 1, v .

5.1.1.2 Ìåòîä ìîìåíòîâ. Íåòðóäíî âèäåòü, ÷òî ìåòîä ìîìåíòîâ, îñíîâàííûé
íà ïðèðàâíèâàíèè âûáîðî÷íûõ ìîìåíòîâ òåîðåòè÷åñêèì, äà¼ò òàêèå æå îöåíêè,
ïîñêîëüêó ìîìåíòû ïåðâîãî ïîðÿäêà µk ïîëèíîìèàëüíîãî ðàñïðåäåëåíèÿ ðàâíû mpk , à
ñîîòâåòñòâóþùèå âûáîðî÷íûå  mk , k = 1, v .

5.1.1.3 Ìåòðè÷åñêèå ìåòîäû. Äàííûå ìåòîäû îñíîâàíû íà ðàññìîòðåíèè
ðàçëè÷íûõ ìåð ðàñõîæäåíèÿ ìåæäó íàáëþä¼ííûìè âåëè÷èíàìè m1 , m2 , . . . , mv è èõ
ìàòåìàòè÷åñêèìè îæèäàíèÿìè mp1 , mp2 , . . . , mpv . Îöåíêà (p̂1 , p̂2 , . . . , p̂v ) îïðåäåëÿåòñÿ
êàê çíà÷åíèÿ âåðîÿòíîñòåé, ìèíèìèçèðóþùèå ýòó ìåðó. Äëÿ îöåíèâàíèÿ èñïîëüçóþòñÿ
òàêèå ìåðû, êàê ¾χ2 ¿, ¾ìîäèôèöèðîâàííûé χ2 ¿, ¾ðàññòîÿíèå Õåëëèíãåðà¿, ¾äèâåðãåíöèÿ
Êóëüáàõà-Ëåéáëåðà¿, ¾ìåðà ðàñõîæäåíèÿ Õîëäåéíà¿ è äð. [46], [43]. Èçó÷åíèå èõ
ïîêàçûâàåò, ÷òî ê íàøåé çàäà÷å îêàçûâàåòñÿ ïðèìåíèì (ïî êðàéíåé ìåðå â ñâî¼ì
èñõîäíîì âèäå) ëèøü ìåòîä ¾ìîäèôèöèðîâàííûé χ2 ¿, êîòîðûé äà¼ò âñ¼ òó æå ôóíêöèþ
îöåíêè â âèäå îòíîñèòåëüíûõ ÷àñòîò.
    Èç ñêàçàííîãî âûøå ÿñíî, ÷òî â îñíîâå ìåòîäà ìàêñèìàëüíîãî ïðàâäîïîäîáèÿ íå
ëåæèò íèêàêèõ ñòðîãî îáîñíîâàííûõ ñîîáðàæåíèé, à øèðîêîå èñïîëüçîâàíèå ÌÏ-îöåíîê
è âåðà â èõ õîðîøèå êà÷åñòâà îñíîâàíû, îò÷àñòè, íà àñèìïòîòè÷åñêîé îïòèìàëüíîñòè, êàê
ïðàâèëî, èõ ñâîéñòâ. Ðå÷ü èäåò îá èçâåñòíûõ ñâîéñòâàõ íåñìåùåííîñòè, ñîñòîÿòåëüíîñòè
è ýôôåêòèâíîñòè ÌÏ-îöåíîê.
    Äåéñòâèòåëüíî, òàêæå ëåãêî ïîêàçûâàåòñÿ, ÷òî ìàòåìàòè÷åñêîå îæèäàíèå M{b̄             p}
âåêòîðà îöåíîê {pk }vi=k åñòü (ñ ó÷åòîì (7) è îáîçíà÷åíèé m̄ = (m1 , m2 . . . mv )T è p̄∗ 
v -è÷íûé âåêòîð èñòèííûõ çíà÷åíèé âåðîÿòíîñòåé)

                                                  1         m p̄∗
                          M{b̄p} = M{m̄/m} =        M{m̄} =       = p̄∗ ,
                                                  m          m
è, òàêèì îáðàçîì, ïîëó÷åííàÿ îöåíêà ÿâëÿåòñÿ íåñìåù¼ííîé. ż äèñïåðñèÿ D{b̄
                                                                         p} ðàâíà

                                        1           m p̄∗ (1 − p̄∗ )   p̄∗ (1 − p̄∗ )
                  D{b̄p} = D{m̄/m} =       D{ m̄} =                  =                .
                                        m2                m2                 m
Çäåñü 1  v -è÷íûé âåêòîð (1, 1, . . . , 1)T è èìååòñÿ ââèäó àäàìàðîâî (ïîêîìïîíåíòíîå)
ïðîèçâåäåíèå âåêòîðîâ. Åñòåñòâåííî, çäåñü è äàëåå òîëüêî v − 1 êîìïîíåíò âåêòîðîâ áóäóò
íåçàâèñèìû.
   Èçâåñòíî, ÷òî ýòî îöåíêà ñ ìèíèìàëüíîé çíà÷åíèåì äèñïåðñèè â íåðàâåíñòâå Êðàìeðà
Ðàî (ñì., íàïðèìåð, [25]). Òàêèì îáðàçîì ïîëó÷åííàÿ îöåíêà èìååò ìèíèìàëüíóþ
äèñïåðñèþ â êëàññå íåñìåù¼ííûõ17 .
   Ïîñêîëüêó D{b̄p} cõîäèòñÿ ïî âåðîÿòíîñòè ê 0 ïðè âîçðàñòàíèè m, òî îöåíêà ÿâëÿåòñÿ
ñîñòîÿòåëüíîé.
   Ìîæíî ïîêàçàòü [25], ÷òî íåñìåù¼ííàÿ îöåíêà äëÿ p∗k (1 − p∗k ), k = 1, v , åñòü

                                m mk ³    mk ´   mk (m − mk )
                                       1−      =              .
                               m−1 m      m       m (m − 1)
 17 ò.å.   ýôôåêòèâíîé â îáùåïðèíÿòîì ñìûñëå.

Страницы