Лекции по теории статистических выводов. Володин И.Н. - 34 стр.

UptoLike

Составители: 

γ C.
I(θ, ϑ |X) I(θ, ϑ |T ) =
Z
X
p (x |θ) ln
p (x |θ) q(T (x) |ϑ)
p (x |ϑ) q(T (x) |θ)
(x) > 0. (3.4)
η(x) =
p (x |θ) q(T (x) |ϑ)
p (x |ϑ) q(T (x) |θ)
, h(x) =
p(x |ϑ) q(T (x) |θ)
q(T (x) |ϑ)
Z
X
[ η(x) ln η(x) ]h(x) (x).
h(x), x X, µ.
h(x) > 0, h µ
q
T,
Z
X
h(x) (x) =
Z
T
q(t |θ)
q(t |ϑ)
· q(t |ϑ) (t) = 1.
E η( X ) ln η( X )
h.
η ln η
E η =
Z
X
p (x |θ) q(T (x) |ϑ)
p (x |ϑ) q(T (x) |θ)
·
p (x |ϑ) q(T (x) |θ)
q(T (x) |ϑ)
(x) = 1,
η
p (x |θ) q(T (x) |ϑ)
p (x |ϑ) q(T (x) |θ)
= C(θ, ϑ)
µ. ϑ
p
p (x |θ) = C(θ, ϑ)
q(T (x) |θ)
q(T (x) |ϑ)
· p (x |ϑ), θ Θ,
T 2
X = X
(τ
ν
)
P ( ·|θ) ρ = (ϕ
s
, ϕ
c
),
γ íà C. Òðåáóåòñÿ ïîêàçàòü, ÷òî
                                              p (x | θ) q(T (x) | ϑ)
                              Z
 I(θ, ϑ | X) − I(θ, ϑ | T ) =    p (x | θ) ln                        dµ(x) > 0. (3.4)
                               X              p (x | ϑ) q(T (x) | θ)
   îáîçíà÷åíèÿõ
                         p (x | θ) q(T (x) | ϑ)                   p(x | ϑ) q(T (x) | θ)
             η(x) =                             ,        h(x) =
                         p (x | ϑ) q(T (x) | θ)                       q(T (x) | ϑ)
ðàçíîñòü èíôîðìàöèé ïðèíèìàåò âèä
                                Z
                                      [ η(x) ln η(x) ]h(x) dµ(x).
                                  X
  Ïîêàæåì, ÷òî h(x), x ∈ X,  ôóíêöèÿ ïëîòíîñòè ïî ìåðå µ. Î÷åâèäíî,
h(x) > 0, è îñòàåòñÿ òîëüêî ïîêàçàòü, ÷òî èíòåãðàë îò h ïî ìåðå µ ðà-
âåí åäèíèöå. Ïðåäñòàâëÿÿ ýòîò èíòåãðàë â òåðìèíàõ ôóíêöèè ïëîòíîñòè q
ñòàòèñòèêè T, ïîëó÷àåì
                                 q(t | θ)
              Z               Z
                 h(x) dµ(x) =             · q(t | ϑ) dγ(t) = 1.
               X               T q(t | ϑ)
  Èòàê, èíòåãðàë â (3.4) åñòü ìàòåìàòè÷åñêîå îæèäàíèå E η( X ) ln η( X )
ïî ðàñïðåäåëåíèþ ñ ïëîòíîñòüþ h. Èñïîëüçóÿ íåðàâåíñòâî Éåíñåíà äëÿ
âûïóêëîé ôóíêöèè η ln η è ó÷èòûâàÿ, ÷òî
                         p (x | θ) q(T (x) | ϑ) p (x | ϑ) q(T (x) | θ)
                     Z
          Eη =                                  ·                      dµ(x) = 1,
                       X p (x | ϑ) q(T (x) | θ)     q(T (x) | ϑ)
ïîëó÷àåì íåðàâåíñòâî (3.4).
  Çíàê ðàâåíñòâà â íåðàâåíñòâå Éåíñåíà äîñòèãàåòñÿ òîãäà è òîëüêî òîãäà,
êîãäà ñëó÷àéíàÿ âåëè÷èíà η ðàâíà êîíñòàíòå, òî åñòü
                               p (x | θ) q(T (x) | ϑ)
                                                      = C(θ, ϑ)
                               p (x | ϑ) q(T (x) | θ)
ïî÷òè âñþäó ïî ìåðå µ. Ïðè êàæäîì ôèêñèðîâàííîì çíà÷åíèè ϑ ýòî ðà-
âåíñòâî åñòü ôàêòîðèçàöèîííîå òîæäåñòâî Íåéìàíà äëÿ ïëîòíîñòè p :
                                           q(T (x) | θ)
                     p (x | θ) = C(θ, ϑ)                · p (x | ϑ),       θ ∈ Θ,
                                           q(T (x) | ϑ)
îòêóäà ñëåäóåò, ÷òî T  äîñòàòî÷íàÿ ñòàòèñòèêà.                           2

  Ïðåäëîæåíèå 3.3. Ïóñòü                 X = X(τν )        ñëó÷àéíàÿ âûáîðêà èç ðàñïðåäå-

ëåíèÿ   P ( · | θ)   â ñòàòèñòè÷åñêîì ýêñïåðèìåíòå ñ óïðàâëåíèåì                     ρ = (ϕs , ϕc ),

                                                    34