Оценка надежности классифицирующих алгоритмов. Гуров С.И. - 5 стр.

UptoLike

ВУЗ: 

МГУ | Москва

Составители: 

Рубрика: 

X µ(·)
X σ
Z
X
µ(dx) = P ( ) > 0, P (X) = 1.
P (X) X
A P(A) P{A}
p (x) X : p (x) = µ(dx)/dx
X
t
, t = 1, s
X
P (X), X ⊆ X
x
1
, x
2
, . . . , x
l
l
P (X)
P(x)
P(x)
f(x) R (f) :
R (f) ,
Z
X
X
f
∗
(x)∈Y
X
f(x)∈Y
Q (f
∗
(x), f(x) )
p (x) dx,
Q : Y × Y → R
0
R
0
,
Q (K
i
, K
j
) = c
ij
> 0
K
i
K
j
c
ii
= 0; c
ij
= 1; i 6= j; i, j = 1 , s .
R (f) f
îöåíêå íàäåæíîñòè ïîñòðîåííîãî ðåøàþùåãî ïðàâèëà, íà êîòîðîì îñíîâûâàþòñÿ âñå
äàëüíåéøèå âûâîäû.
   Äëÿ ïðàêòè÷åñêîãî èñïîëüçîâàíèÿ äàííàÿ âåñüìà îáùàÿ ôîðìóëèðîâêà ãèïîòåçû
ïðåäñòàâèòåëüíîñòè ôîðìàëèçóåòñÿ â òî÷íîé ìàòåìàòè÷åñêîé ôîðìå. Òàêàÿ
ôîðìàëèçàöèÿ (îäíîâðåìåííî ñ ïðèâåäåííûì âûøå èíòóèòèâíûì êðèòåðèåì
îïòèìàëüíîñòè êëàññèôèêàòîðà) ïðîâîäèòñÿ â âåðîÿòíîñòíûõ òåðìèíàõ5 . Äëÿ ýòîãî
ïðåäïîëàãàþò, ÷òî X îáëàäàåò âåðîÿòíîñòíîé ìåðîé µ(·), ò.å. äëÿ ëþáîãî ïîäìíîæåñòâà
X èç íåêîòîðîé σ -àëãåáðû ïîäìíîæåñòâ ïðîñòðàíñòâà îáðàçîâ ñóùåñòâóåò èíòåãðàë
                         Z
                           µ(dx) = P (Õ) > 0,    P (X ) = 1.
                            X

P (X) íàçûâàåòñÿ, êàê èçâåñòíî, âåðîÿòíîñòüþ èëè ðàñïðåäåëåíèåì âåðîÿòíîñòåé íà X .
Âåðîÿòíîñòü ñîáûòèÿ A áóäåì îáîçíà÷àòü P(A) èëè P{A}. Äëÿ óïðîùåíèÿ âûêëàäîê
ïðåäïîëàãàþò è ñóùåñòâîâàíèå ïëîòíîñòè âåðîÿòíîñòè p (x) íà X : p (x) = µ(dx)/dx.
Äàëåå ïðèíèìàþò, ÷òî è îáó÷àþùàÿ âûáîðêà, è îáðàçû ñ íåèçâåñòíîé ïðèíàäëåæíîñòüþ
ê ïîäìíîæåñòâàì Xt , t = 1, s , êîòîðûå áóäóò â äàëüíåéøåì ïðåäúÿâëÿòüñÿ äëÿ
êëàññèôèêàöèè, ïîëó÷åíû èç ïðîñòðàíñòâà îáðàçîâ â ðåçóëüòàòå ïîäîáíûõ ïðîöåäóð
âûáîðà, ÷òî îáåñïå÷èâàåò èõ àíàëîãè÷íûå ñòàòèñòè÷åñêèå ñâîéñòâà.
   Òàêèì îáðàçîì, ïðè îòñóòñòâèè èíôîðìàöèè î âåñàõ ïðåöåäåíòîâ (èëè, ÷òî òî æå, ïðè
ðàâåíñòâå âñåõ âåñîâ) ãèïîòåçà ïðåäñòàâèòåëüíîñòè ïðèíèìàåòñÿ â ñëåäóþùåé ôîðìå.

Ãèïîòåçà 1. Íà ïðîñòðàíñòâå îáðàçîâ X çàäàíî (ìîæåò áûòü íåèçâåñòíîå)
ðàñïðåäåëåíèå âåðîÿòíîñòåé P (X), X ⊆ X , è ëþáîé ðàññìàòðèâàåìûé íàáîð îáðàçîâ
x1 , x2 , . . . , xl ÿâëÿåòñÿ, åñëè ÿâíî íå óêàçàíî èíà÷å, ðåàëèçàöèåé íåçàâèñèìîé âûáîðêè l
ñëó÷àéíûõ âåëè÷èí èç ãåíåðàëüíîé ñîâîêóïíîñòè ñ ðàñïðåäåëåíèåì P (X).
   ßñíî, ÷òî Ãèïîòåçà 1 ÿâëÿåòñÿ óñëîâèåì ðåïðåçåíòàòèâíîñòè âûáîðêè â
ìàòåìàòè÷åñêîé ñòàòèñòèêå.
   Åñëè P(x) èçâåñòíî, òî îöåíêà íàäåæíîñòè ïîñòðîåííîãî ð.ï. íå ïðåäñòàâëÿåò òðóäà
(ñì. íèæå ôîðìóëû (2) è (3) ). Äàëåå ìû ñ÷èòàåì ôóíêöèþ P(x) íåèçâåñòíîé.
   Ñòåïåíü óäîâëåòâîðåííîñòè (òî÷íåå, íåóäîâëåòâîðåííîñòè) èññëåäîâàòåëÿ ïîëó÷åííûì
êëàññèôèêàòîðîì f (x) âûðàæàåòñÿ çíà÷åíèåì ôóíêöèîíàëà ñðåäíåãî ðèñêà R (f ) :
                                                             
                           Z     X X
                  R (f ) ,                Q (f ∗ (x), f (x) ) p (x) dx,        (1)
                                X    f ∗ (x)∈Y f (x)∈Y


ãäå Q : Y × Y → R>0 (R>0  ìíîæåñòâî íåîòðèöàòåëüíûõ äåéñòâèòåëüíûõ ÷èñåë, ,
îçíà÷àåò ¾ðàâíî ïî îïðåäåëåíèþ¿).
   Çäåñü Q (Ki , Kj ) = cij > 0  íåêîòîðàÿ âûáðàííàÿ ôóíêöèÿ ïîòåðü èëè øòðàôà çà
îòíåñåíèå îáðàçà èç êëàññà Ki â êëàññ Kj . ×àñòî ìîæíî ïîëàãàòü, ÷òî

                                cii = 0; cij = 1; i 6= j; i, j = 1, s .

Òîãäà R (f ) åñòü âåðîÿòíîñòü îøèáî÷íîé êëàññèôèêàöèè ïðè ïðèìåíåíèè ð.ï. f .
àâòîðà, äàííàÿ ôîðìóëèðîâêà ãèïîòåçû êîìïàêòíîñòè íóæäàåòñÿ â ñóùåñòâåííîé êîððåêòèðîâêå, îäíàêî
ýòîò âîïðîñ íå îòíîñèòñÿ ê òåìå äàííîãî èññëåäîâàíèÿ. Áîëåå ðàçâåðíóòóþ ôîðìóëèðîâêó ÃÊ ñì. â [26].
   5 Áûëî   áû    êðàéíå    èíòåðåñíî    ïðåäëîæèòü    íåâåðîÿòíîñòíóþ   ôîðìóëèðîâêó    ãèïîòåçû
ïðåäñòàâèòåëüíîñòè. Ýòî ïîçâîëèëî áû ïîäîéòè ê ðàññìàòðèâàåìîé ïðîáëåìå ñ ñîâåðøåííî íîâîé
ñòîðîíû. Íåëüçÿ ëè èñïîëüçîâàòü äëÿ ýòîãî íå÷åòêèå ìíîæåñòâà èëè òåîðèþ âîçìîæíîñòåé [42]?

Страницы