Лекции по теории статистических выводов. Володин И.Н. - 32 стр.

UptoLike

ВУЗ: 

КФУ | Казань

Составители: 

Рубрика: 

I ( θ, ϑ |X ) =
1
2
Z
X
"
m
X
i=1
(θ
i
− ϑ
i
)
∂ ln p (x |θ)
∂θ
i
#
2
p (x |θ) dµ(x) + o(kθ −ϑ k).
(3.1)
T ( X ).
x µ
D(x; θ, ϑ) =
p (x |θ) − p (x |ϑ)
p (x |θ)
=
m
X
i=1
(θ
i
− ϑ
i
)
∂ ln p (x |θ)
∂θ
i
+ o( kθ − ϑ k
1/2
).
(3.2)
ln(1 − x) = −x −
x
2
2
−
x
3
3(1 − λ x)
3
, 0 < λ < 1, x → 0,
I (θ, ϑ |X) = −
Z
X
ln(1 − D(x; θ, ϑ)) p (x |θ) dµ(x) =
Z
X
D
2
(x; θ, ϑ)
2
+
D
3
(x; θ, ϑ)
3(1 − λ D(x; θ, ϑ))
3
p (x |θ) dµ(x).
2
J ( θ, θ + ∆θ |X ) =
1
2
m
X
i=1
m
X
j=1
i
ij
(θ) ∆θ
i
∆θ
j
.
k∆θ k → 0
I ( θ, θ + ∆θ |X ) = J ( θ, θ + ∆θ |X ) + o( k∆θ k). (3.3)
ðàçëè÷àþùàÿ èíôîðìàöèÿ
                   Z "X
                      m
                                                   #2
                 1                  ∂ ln p (x | θ)
I ( θ, ϑ | X ) =         (θi − ϑi )                   p (x | θ) dµ(x) + o(k θ − ϑ k).
                 2 X i=1                 ∂θi
                                                                               (3.1)
Àíàëîãè÷íàÿ ôîðìóëà èìååò ìåñòî äëÿ èíôîðìàöèè, ñîäåðæàùåéñÿ â íà-

áëþäåíèè ñòàòèñòèêè        T ( X ).
  Ä î ê à ç à ò å ë ü ñ ò â î. Èçâåñòíî, ÷òî â ñëó÷àå íåïðåðûâíîñòè èíôîðìàöè-
îííîé ìàòðèöû Ôèøåðà ïðîèçâîäíàÿ â ñðåäíåì êâàäðàòè÷íîì ñîâïàäàåò ñ
îáû÷íîé ïðîèçâîäíîé. Ñëåäîâàòåëüíî, äëÿ ïî÷òè âñåõ x ïî ìåðå µ èìååò
ìåñòî ðàâåíñòâî
                                          m
               p (x | θ) − p (x | ϑ) X                  ∂ ln p (x | θ)
D(x; θ, ϑ) =                          =      (θi − ϑi )                + o( k θ − ϑ k 1/2 ).
                      p (x | θ)          i=1
                                                             ∂θi
                                                                                     (3.2)
  Èñïîëüçóÿ ðàçëîæåíèå Òåéëîðà
                                  x2          x3
           ln(1 − x) = −x −           −               , 0 < λ < 1, x → 0,
                                  2     3(1 − λ x)3
ïðåäñòàâèì ðàçëè÷àþùóþ èíôîðìàöèþ â âèäå
                                Z
             I (θ, ϑ | X) = −        ln(1 − D(x; θ, ϑ)) p (x | θ) dµ(x) =
                                  X
          Z  2
                                        D 3 (x; θ, ϑ)
                                                             
                 D (x; θ, ϑ)
                                +                              p (x | θ) dµ(x).
            X           2          3(1 − λ D(x; θ, ϑ)) 3
  Òåïåðü (3.1) ñëåäóåò èç îïðåäåëåíèÿ ïðîèçâîäíîé â ñðåäíåì êâàäðàòè÷-
íîì è ôîðìóëû (3.2).
  Òî ÷òî àíàëîãè÷íîå ñîîòíîøåíèå âåðíî äëÿ èíôîðìàöèè, ñîäåðæàùåé â
íàáëþäåíèè ñòàòèñòèêè, ñëåäóåò èç óïîìÿíóòîé â Çàìå÷àíèè 2.1 âîçìîæ-
íîñòè äèôôåðåíöèðîâàíèÿ ïîä çíàêîì èíòåãðàëà.                       2
  Â ñâÿçè ñ óòâåðæäåíèåì Ëåììû 3.1 óìåñòíî íàïîìíèòü, ÷òî Ð.À.Ôèøåð
èçìåðÿë êîëè÷åñòâî èíôîðìàöèè ïîñðåäñòâîì êâàäðàòè÷íîé ôîðìû
                                               m   m
                                         1 XX
                   J ( θ, θ + ∆θ | X ) =           i ij (θ) ∆θ i ∆θ j .
                                         2 i=1 j=1
Ïðè ñïðàâåäëèâîñòè óñëîâèé Ëåììû 2.1 è k ∆θ k → 0 ðàçëè÷àþùàÿ èí-
ôîðìàöèÿ
               I ( θ, θ + ∆θ | X ) = J ( θ, θ + ∆θ | X ) + o( k ∆θ k ).               (3.3)

                                              32

Страницы