Оценка надежности классифицирующих алгоритмов. Гуров С.И. - 17 стр.

UptoLike

ВУЗ: 

МГУ | Москва

Составители: 

Рубрика: 

¯p, ¯q,
b
¯p
W
S
v−1
(¯x)
W
W ( ¯p, ¯q) : S
v−1
(¯x) × S
v−1
(¯x) → R
0
¯q
¯p
f( ¯p |m
1
, m
2
, . . . m
v
) ¯p
m
1
, m
2
, . . . m
v
W ( ¯p, ¯q) = c(¯p) k ¯p − ¯q k
2
,
W ( ¯p, ¯q) = c(¯p)
k¯p − ¯qk
2
v
Q
k=1
p
k
,
c(¯p) c(¯p) c(¯p) =
v = 2
m m
r
m
w
= m − m
r
ˆp p
∗
= 1 −ν
    p̄, q̄, b̄
             pW  âåêòîðû èç Sv−1 (x̄), ïðè÷åì ïîñëåäíèé  âåêòîð îöåíîê âåðîÿòíîñòåé ïðè
     äàííîé ôóíêöèè ïîòåðü W ;

    W ( p̄, q̄) : Sv−1 (x̄) × Sv−1 (x̄) → R>0  ôóíêöèÿ ïîòåðü äëÿ âûáðàííûõ çíà÷åíèé q̄ ,
     êîãäà p̄ ñóòü èñòèííûå çíà÷åíèÿ èñêîìûõ âåðîÿòíîñòåé;

    f ( p̄ | m1 , m2 , . . . mv )  àïîñòåðèîðíàÿ ïëîòíîñòü âåðîÿòíîñòè âåêòîðà p̄ ïðè
     íàáëþä¼ííûõ çíà÷åíèÿõ m1 , m2 , . . . mv ïîïàäàíèÿ ïðåöåäåíòîâ â ñîîòâåòñòâóþùèå
     îáëàñòè ïðîñòðàíñòâà îáðàçîâ.

   Ðåøåíèå äàííîé çàäà÷è â çíà÷èòåëüíîé ìåðå îïðåäåëÿåòñÿ âèäîì ôóíêöèè ïîòåðü.
   ¾Ïðîñòàÿ¿ ôóíêöèÿ ïîòåðü (ñì. ï. 4) ïðèâîäèò ê ìåòîäó ìàêñèìèçàöèè àïîñòåðèîðíîé
âåðîÿòíîñòè, êîòîðàÿ ïðè èñïîëüçîâàíèè ïðèíöèïà íåîïðåäåë¼ííîñòè Ëàïëàñà äà¼ò, êàê
ìû âèäåëè, ïîëó÷åííóþ ðàíåå â ðàìêàõ ÷àñòîòíîãî ïîäõîäà ÌÏ-îöåíêó.
   Ïðàêòè÷åñêè èñïîëüçóþò ëèáî êâàäðàòè÷íóþ

                                  W ( p̄, q̄) = c(p̄) k p̄ − q̄ k2 ,

ëèáî íîðìèðîâàííóþ êâàäðàòè÷íóþ ôóíêöèþ ïîòåðü

                                                      kp̄ − q̄k2
                                   W ( p̄, q̄) = c(p̄) Q v       ,
                                                           pk
                                                        k=1

ãäå c(p̄)  âåñîâàÿ ôóíêöèÿ âåêòîðà âåðîÿòíîñòåé c(p̄); îáû÷íî ïîëàãàþò c(p̄) = 1.
   Îòìåòèì, ÷òî â îáùåì ñëó÷àå ïîëó÷èòü áàéåñîâñêóþ ôóíêöèþ îöåíêè äëÿ
ïðîèçâîëüíîé ôóíêöèè ïîòåðü, êàê ïðàâèëî, íåëåãêî. Îäíàêî îáùåïðèíÿòî, ÷òî íàèáîëåå
àäåêâàòíûå ðåçóëüòàòû ïîëó÷àþòñÿ ïðè èñïîëüçîâàíèè èìåííî êâàäðàòè÷íîé ôóíêöèè
ïîòåðü (ñì., íàïðèìåð [29], [40]). Òîò æå ðåçóëüòàò  ìàòåìàòè÷åñêîå îæèäàíèå
àïîñòåðèîðíîé ïëîòíîñòè âåðîÿòíîñòè èñêîìîãî ïàðàìåòðà (àïîñòåðèîðíîå ñðåäíåå) 
ïîëó÷àåòñÿ äëÿ øèðîêîãî êëàññà àïîñòåðèîðíûõ ðàñïðåäåëåíèé è ïðè èñïîëüçîâàíèè
ëþáîé äðóãîé âûïóêëîé ñèììåòðè÷íîé ôóíêöèè ïîòåðü [53]19 .

5.2.1 Îäíîìåðíûé ñëó÷àé
Ðàññìîòðèì äëÿ ïðîñòîòû ñíà÷àëà ñëó÷àé v = 2, êîòîðûé ñîîòâåòñòâóåò ðàçáèåíèþ
ïðîñòðàíñòâà îáðàçîâ íà äâå ïîäîáëàñòè: ïðàâèëüíûõ è íåïðàâèëüíûõ êëàññèôèêàöèé.
   Ïóñòü ïîëó÷åííîå ð.ï. èç èìåþùèõñÿ m ïðåöåäåíòîâ mr ðàñïîçíàåò ïðàâèëüíî, à íà
îñòàëüíûõ mw = m − mr  îøèáàåòñÿ. ×àñòîòà, êàê èçâåñòíî, ÿâëÿåòñÿ äîñòàòî÷íîé
ñòàòèñòèêîé è óñëîâíîå ðàñïðåäåëåíèå íàáëþäåíèé ïðè ôèêñèðîâàííîé ñòàòèñòèêå,
íå çàâèñèò, ñëåäîâàòåëüíî, îò ðàñïðåäåëåíèÿ íàáëþäåíèé (÷åðåäîâàíèÿ ïðàâèëüíî è
íåïðàâèëüíî ðàñïîçíàííûõ ïðåöåäåíòîâ)20 .
   Ïîñòðîèì áàéåñîâñêèå òî÷å÷íûå ôóíêöèè îöåíêè p̂ íåèçâåñòíîé âåðîÿòíîñòè p∗ = 1 − ν
îøèáî÷íîé êëàññèôèêàöèè ïðè ðàçëè÷íîì çàäàíèè ôóíêöèè ïîòåðü.
 19 Åäèíñòâåííîå  ñóùåñòâåííîå âîçðàæåíèå ïðîòèâ ïðèìåíåíèÿ êâàäðàòè÷íîé ôóíêöèè ïîòåðü ñîñòîèò
â òîì, ÷òî îíà ïîä÷åðêèâàåò õâîñòû ðàñïðåäåëåíèé, ïðèïèñûâàÿ ñëèøêîì áîëüøîé âåñ ðåäêèì, âîîáùå
ãîâîðÿ, çíà÷åíèÿì ïàðàìåòðà. Îäíàêî äëÿ çàäà÷è îöåíêè âåðîÿòíîñòåé ýòî âîçðàæåíèå ñíèìàåòñÿ,
ïîñêîëüêó îáëàñòü èçìåíåíèÿ ïàðàìåòðà â ýòîì ñëó÷àå êîíå÷íà.
  20 â ÷åì ìû óáåäèëèñü ïðè ïîñòðîåíèè ôóíêöèè ïðàâäîïîäîáèÿ â ï. 5.1.

Страницы