Оценка надежности классифицирующих алгоритмов. Гуров С.И. - 23 стр.

UptoLike

ВУЗ: 

МГУ | Москва

Составители: 

Рубрика: 

(v − 1)
Di (m
1
+ d
1
, . . . , m
v−1
+ d
v−1
; m
v
+ d
v
) .
W ( ¯p, ¯q ) = k ¯p − ¯q k
2
ˆp
i
p
∗
i
µ
k
¯µ = (µ
1
, . . . µ
v
)
T
ˆp
k
= µ
k
=
m
k
+ d
k
m +
P
v
j=1
d
j
, k = 1, v .
d
k
= m
k
, k = 1, v
¯p
Di (1, . . . , 1; 1)
f( ¯p |m
1
, m
2
. . . m
v
) =
Γ(m + v)
Γ(m
1
+ 1) . . . Γ(m
v
+ 1)
v
Y
k=1
p
m
k
k
=
=
(m + v − 1)!
m
1
! . . . m
v
!
p
m
1
1
p
m
2
2
. . . p
m
v
v
,
¯p ∈ S
v−1
(¯x) (v − 1)
Di (m
1
+ 1, . . . , m
v−1
+ 1; m
v
+ 1) ,
ˆp
k
p
∗
k
ˆp
k
= µ
k
=
m
k
+ 1
m + v
, k = 1, v .
m = 0
ˆp
1
= ˆp
2
= . . . = ˆp
v
= 1/v
W ( ¯p, ¯q) =
k¯p − ¯qk
2
v
Q
k=1
p
k
ˆp
k
= m
k
/m, k = 1, v
m
M( m; ·)
{ˆp
k
} =
p
∗
k
(1 − p
∗
k
) m
(m + v)
2
,
θ P (u, θ) u
θ u
1
u
2
P (u
1
, θ
1
) P (u
2
, θ
2
) u
1
+ u
2
P (u
1
+ u
2
, θ
1
+ θ
2
)
f(¯p) f( m
1
, m
1
. . . m
v
| ¯p )
f( ¯p |m
1
, m
1
. . . m
v
)
ò.å. áóäåò ÿâëÿòüñÿ ïëîòíîñòüþ (v − 1)-ìåðíîãî ðàñïðåäåëåíèÿ Äèðèõëå
                               Di (m1 + d1 , . . . , mv−1 + dv−1 ; mv + dv ) .
    Äëÿ êâàäðàòè÷íîé ôóíêöèè ïîòåðü
                                           W ( p̄, q̄ ) = k p̄ − q̄ k2
áàéåñîâñêèìè îöåíêàìè p̂i âåðîÿòíîñòåé p∗i áóäóò ÿâëÿòüñÿ êîìïîíåíòû âåêòîðà µk
àïîñòåðèîðíîãî ñðåäíåãî µ̄ = (µ1 , . . . µv )T , ðàâíûå
                                                  mk + dk
                                 p̂k = µk =         P       ,           k = 1, v .                          (22)
                                                m + vj=1 dj

Çàìåòèì, ÷òî ïðè dk = mk , k = 1, v , áàéåñîâñêèå îöåíêè áóäóò ñîâïàäàòü ñ ÌÏ-îöåíêàìè.
    óñëîâèÿõ îòñóòñòâèÿ èíôîðìàöèè î âåñàõ ïðåöåäåíòîâ ïðèíèìàåì â êà÷åñòâå
ðàñïðåäåëåíèÿ p̄ ðàâíîìåðíîå. Ðàâíîìåðíîå ðàñïðåäåëåíèå åñòü ðàñïðåäåëåíèå Äèðèõëå
Di (1, . . . , 1; 1). Ïîëó÷àåì îòñþäà, ÷òî àïîñòåðèîðíàÿ ïëîòíîñòü âåðîÿòíîñòåé èìååò âèä
                                                                             Yv
                                                         Γ(m + v)
                     f ( p̄ | m1 , m2 . . . mv ) =                              pm k
                                                                                     =
                                                   Γ(m1 + 1) . . . Γ(mv + 1) k=1 k
                                         (m + v − 1)! m1 m2
                                     =                     p p . . . pm
                                                                      v ,
                                                                       v

                                          m1 ! . . . m v ! 1 2
ãäå p̄ ∈ Sv−1 (x̄), ò.å. ÿâëÿåòñÿ ïëîòíîñòüþ (v − 1)-ìåðíîãî ðàñïðåäåëåíèÿ Äèðèõëå
                                  Di (m1 + 1, . . . , mv−1 + 1; mv + 1) ,
à áàéåñîâñêèìè îöåíêàìè p̂k âåðîÿòíîñòåé p∗k áóäóò ÿâëÿòüñÿ âåëè÷èíû
                                                    mk + 1
                                     p̂k = µk =            ,      k = 1, v .                                (23)
                                                    m+v
    Çàìåòèì, ÷òî åñëè ôîðìàëüíî ïîëîæèòü m = 0 (îòñóòñòâèå ïðåöåäåíòîâ) ïîëó÷àåì
                                       p̂1 = p̂2 = . . . = p̂v = 1/v
 ïðèíöèï íåîïðåäåëåííîñòè Ëàïëàñà, èñïîëüçîâàííûé íàìè ïðè âûâîäå (23).
   Ëåãêî ïîêàçàòü, ÷òî ïðèìåíåíèå íîðìèðîâàííîé ìíîãîìåðíàÿ ôóíêöèÿ ïîòåðü
                                                           kp̄ − q̄k2
                                           W ( p̄, q̄) =     Qv
                                                                pk
                                                            k=1

ïðèâîäèò ê îöåíêàì p̂k = mk /m, k = 1, v , ñîâïàäàþùèì â ýòîì ñëó÷àå ÌÏ-îöåíêàìè.
   Àíàëîãè÷íî îäíîìåðíîìó ñëó÷àþ, èñïîëüçóÿ ñâîéñòâî âîñïðîèçâîäèìîñòè26 ïî m
ïîëèíîìèàëüíîãî ðàñïðåäåëåíèÿ M ( m; · ) è ñâîéñòâà ðàñïðåäåëåíèÿ Äèðèõëå ïîëó÷èì,
÷òî êîìïîíåíòû âåêòîðà äèñïåðñèé îöåíîê (23) ñóòü
                                                      p∗k (1 − p∗k ) m
                                         D{p̂k } =                     ,
                                                         (m + v)2
  26 Ïàðàìåòðè÷åñêàÿ      ñ ïàðàìåòðîì θ ôóíêöèÿ ðàñïðåäåëåíèÿ P (u, θ) ñëó÷àéíîé âåëè÷èíû u íàçûâàåòñÿ
âîñïðîèçâîäÿùåé ïî θ, åñëè äëÿ íåçàâèñèìûõ ñëó÷àéíûõ âåëè÷èí u1 è u2 , êîòîðûå èìåþò ôóíêöèè
ðàñïðåäåëåíèÿ P (u1 , θ1 ) è P (u2 , θ2 ) ñîîòâåòñòâåííî, âåëè÷èíà u1 + u2 ðàñïðåäåëåíà ïî P (u1 + u2 , θ1 + θ2 )
(ñì. [49]).
  Åñëè â (18) f (p̄) è f ( m1 , m1 . . . mv | p̄ ) ïðèíàäëåæàò ê îäíîìó òèïó âîñïðîèçâîäÿùèõ ïëîòíîñòåé, òî è
ïëîòíîñòü f ( p̄ | m1 , m1 . . . mv ) áóäåò îòíîñèòñÿ ê òîìó æå òèïó ðàñïðåäåëåíèé.

Страницы