Оценка надежности классифицирующих алгоритмов. Гуров С.И. - 12 стр.

UptoLike

ВУЗ: 

МГУ | Москва

Составители: 

Рубрика: 

{B
i
}
i∈I
B I
B
A {B
i
}
i∈I
A
I
P {B
i
|A } =
P {B
i
} · P {A |B
i
}
P
i∈I
P {B
i
} · P {A |B
i
}
.
I
P {B
i
} P {B
i
|A }, i ∈ I
P {A |B
i
}
{B
i
}
i∈I
B
B
i
I = Θ
B
i
I = Θ
S
i∈I
B
i
= I, I B
i
T
B
j
= ∅ i 6= j, i, j ∈ I
4 Äâà ïîäõîäà ê ïîñòðîåíèþ îöåíîê
Îáùàÿ çàäà÷à ïîñòðîåíèå îöåíîê çíà÷åíèé íåèçâåñòíûõ âåëè÷èí ñîñòîèò â ñëåäóþùåì.
Íåîáõîäèìî îòâåòèòü íà âîïðîñ: Êàêîå èç ñîáûòèé {Bi }i∈I ñîñòàâëÿþùèõ ïîëíóþ ãðóïïó
B íåñîâìåñòíûõ ñîáûòèé12 èìååò ìåñòî â äåéñòâèòåëüíîñòè?. Îáëàñòü èçìåíåíèÿ èíäåêñà I
åñòü íåêîòîðîå íåïóñòîå êîíå÷íîå èëè êîíòèíóàëüíîå èçìåðèìîå ìíîæåñòâî. Ê ñîæàëåíèþ,
ñàìè ñîáûòèÿ èç B íå íàáëþäàåìû. À íàáëþäàåìî íåêîòîðîå (âîçìîæíî ñëîæíîå) ñîáûòèå
A, êàê-òî ñâÿçàííîå ñ ñîáûòèÿìè {Bi }i∈I . Òðåáóåòñÿ ïðåäëîæèòü ñïîñîá, ïîçâîëÿþùèé ïî
íàáëþä¼ííîìó ñîáûòèþ A îòâåòèòü íà ïîñòàâëåííûé âûøå âîïðîñ. Çäåñü åù¼ ðàç âàæíî
ïîä÷åðêíóòü, ÷òî èñêîìîå ñîáûòèå õîòü è íåèçâåñòíî, íî ôèêñèðîâàíî.
    ìàòåìàòè÷åñêîé ñòàòèñòèêå èìååòñÿ äâà ïîäõîäà ê ïîëó÷åíèþ îöåíîê õàðàêòåðèñòèê
ðàñïðåäåëåíèé ïî ñëó÷àéíûì íàáëþäåíèÿì: ÷àñòîòíûé è áàéåñîâñêèé.
   Áàéåñîâñêèé ïîäõîä îñíîâàí íà èñïîëüçîâàíèè ôîðìóëû, êîòîðàÿ íîñèò èìÿ å¼ àâòîðà
T. Áàéåñà13 è êîòîðàÿ â ïðîñòåéøåì ñëó÷àå êîíå÷íîãî I èìååò âèä

                                            P { Bi } · P { A | Bi }
                            P { Bi | A } = P                         .                   (10)
                                             P { Bi } · P { A | Bi }
                                            i∈I

 ñëó÷àå êîíòèíóàëüíîãî I â (10) ïðèñóòñòâóþò ñîîòâåòñòâóþùèå èíòåãðàëû (ñì. (11)
è (18) ). Ëåãêî âèäåòü, ÷òî ôîðìóëà (10) ÿâëÿåòñÿ ñëåäñòâèåì òåîðåìû óìíîæåíèÿ
âåðîÿòíîñòåé.
    Âåðîÿòíîñòè â (10) íîñÿò íàçâàíèÿ: P { Bi }  àïðèîðíûõ (óñëîâíûõ), P { Bi | A } , i ∈ I 
àïîñòåðèîðíûõ, à çíà÷åíèÿ P { A | Bi } (ñ òî÷íîñòüþ äî ìóëüòèïëèêàòèâíîé êîíñòàíòû)
 ïðàâäîïîäîáèé. Ôîðìóëà Áàéåñà ïîçâîëÿåò, òàêèì îáðàçîì, íàõîäèòü àïîñòåðèîðíûå
âåðîÿòíîñòè, êàê ñîîòâåòñòâóþùèå àïðèîðíûå, óìíîæåííûå íà ïðàâäîïîäîáèÿ. Ïîñëåäíèå
îáû÷íî ìîãóò áûòü óñòàíîâëåíû èñõîäÿ èç òîé èëè èíîé ïðèíÿòîé ìîäåëè ïîÿâëåíèÿ
ñîáûòèé. Àïðèîðíûå âåðîÿòíîñòè ìû ñ÷èòàåì ìåðîé íàøåãî íåçíàíèÿ, òàêèì îáðàçîì ìû
ïðèäåðæèâàåìñÿ ò.í. ñóáúåêòèâíîãî ïîäõîäà â ñòàòèñòè÷åñêèõ çàäà÷àõ îöåíèâàíèÿ (ñì.
[24]).
    Ñîãëàñíî áàéåñîâñêîìó ïîäõîäó, ïî ôîðìóëàì òèïà (10) èëè (11) îïðåäåëÿþòñÿ
àïîñòåðèîðíûå âåðîÿòíîñòè ñîáûòèé {Bi }i∈I . Òåïåðü ïî ïîëó÷åííûì àïîñòåðèîðíûì
âåðîÿòíîñòÿì íåîáõîäèìî îïðåäåëèòü, êàêîå ñîáûòèå èç ñèñòåìû B èìååò ìåñòî â
äåéñòâèòåëüíîñòè.  ïðîñòåéøåì ñëó÷àå çà íåãî ìîæåò áûòü ïðèíÿòî ñîáûòèå Bi
ñ ìàêñèìàëüíîé àïîñòåðèîðíîé âåðîÿòíîñòüþ. Òàêàÿ ôóíêöèÿ îöåíêè íàçûâàåòñÿ
îöåíêîé ïî ìàêñèìóìó àïîñòåðèîðíîé âåðîÿòíîñòè.  îáùåì ñëó÷àå ïîëó÷åííûå
àïîñòåðèîðíûå âåðîÿòíîñòè ðàññìàòðèâàþòñÿ êàê ðàñïðåäåëåíèå íà ìíîæåñòâå I = Θ,
çàäàþùèå íà í¼ì íåêîòîðûå âåñà. Äàëåå ñ êàæäûì Bi , âûáðàííûì â êà÷åñòâå
èñòèííîãî çíà÷åíèÿ, ñâÿçûâàåòñÿ âåëè÷èíà, îïðåäåëÿþùàÿ ðèñê, ñâÿçàííûé ñ äàííûì
âûáîðîì èëè ñîîòâåòñòâóþùèå ïîòåðè. Âûáîð ñîáûòèÿ, ñ÷èòàþùåãîñÿ ðåàëèçóþùèìñÿ â
äåéñòâèòåëüíîñòè, ïðîèçâîäèòñÿ èñõîäÿ èç ìèíèìóìà ïîòåðü. Òàêèì îáðàçîì áàéåñîâñêîå
ðåøåíèå åñòü ðåøåíèå ìèíèìèçèðóþùåå ñðåäíåå çíà÷åíèå ðèñêà.
    Ìîãóò áûòü ïðåäëîæåíû ðàçëè÷íûå âèäû óêàçàííîé ôóíêöèè ïîòåðü.  ÷àñòíîñòè,
îöåíêà ïî ìàêñèìóìó àïîñòåðèîðíîé âåðîÿòíîñòè åñòü îöåíêà ñ ò.í. ïðîñòîé ôóíêöèåé
ïîòåðü, êîòîðàÿ ïðèïèñûâàåò íóëåâûå ïîòåðè òî÷êå, êîòîðàÿ àïîñòåðèîðè íàèáîëåå
âåðîÿòíà è åäèíè÷íûå ïîòåðè îñòàëüíûì òî÷êàì I = Θ.  ïîäàâëÿþùåì æå áîëüøèíñòâå
ñëó÷àåâ ïðè ïðèìåíåíèè áàéåñîâñêîãî ïîäõîäà èñïîëüçóþò êâàäðàòè÷íóþ ôóíêöèþ
ïîòåðü, ó êîòîðîé ïîòåðè ïðîïîðöèîíàëüíû êâàäðàòó ðàññòîÿíèÿ ìåæäó äàâàåìîé îöåíêîé
 12 ò.å.   S                                     T
           Bi = I, I  äîñòîâåðíîå ñîáûòèå, Bi
               i∈I                                   Bj = ∅ ïðè i 6= j, i, j ∈ I .
 13 Thomas Bayes, ïðàâèëüíî âñ¼ æå ¾Áåéåñ¿.

Страницы