Лекции по теории вероятностей и математической статистике. Володин И.Н. - 207 стр.

UptoLike

Составители: 

Рубрика: 

E
θ
ln f(X |θ)
θ
=
Z
X
f
0
θ
(x |θ)
f(x |θ)
· f(x |θ) (x) =
d
Z
X
f(x |θ) (x) = 0.
θ.
ˆ
θ
n
=
ˆ
θ
n
(X
(n)
)
L(θ |X
(n)
)/∂θ = 0
(n ) θ (nI(θ))
1
,
lim
n→∞
P
θ
³
(
ˆ
θ
n
θ)
p
nI(θ) < x
´
= Φ(x).
ˆ
θ
n
L(
ˆ
θ
n
|X
(n)
)/∂θ = 0.
θ
0
θ :
L(
ˆ
θ
n
|X
(n)
)/∂θ = L
0
(θ
0
|X
(n)
)+
(
ˆ
θ
n
θ
0
)L
00
(θ
0
|X
(n)
) + (
ˆ
θ
n
θ
0
)
2
L
000
(θ
1
|X
(n)
)/2 = 0,
L
θ, θ
1
= θ
0
+ λ(
ˆ
θ
n
θ
0
), 0 < λ < 1.
n(
ˆ
θ
n
θ
0
),
n
[ I(θ
0
) ]
1
:
n(
ˆ
θ
n
θ
0
) =
L
0
(θ
0
|X
(n)
)/
n
−L
00
(θ
0
|X
(n)
)/n (
ˆ
θ
n
θ
0
)L
000
(θ
1
|X
(n)
)/2n
. (7)
1
n
L
0
(θ
0
|X
(n)
) =
1
n
n
X
1
ln f(X
k
|θ)
θ
ïîñêîëüêó, â ñèëó íåðàâåíñòâà (5) â óñëîâèè (R4), ìàòåìàòè÷åñêîå îæèäà-
íèå
                         Z                                        Z
     ∂ ln f (X | θ)          fθ0 (x | θ)                     d
  Eθ                =                    · f (x | θ) dµ(x) =          f (x | θ) dµ(x) = 0.
           ∂θ                f (x | θ)                       dθ
                         X                                        X

  Òåïåðü ïðèñòóïèì ê âûâîäó àñèìïòîòè÷åñêîãî ðàñïðåäåëåíèÿ îöåíêè
ìàêñèìàëüíîãî ïðàâäîïîäîáèÿ ñêàëÿðíîãî ïàðàìåòðà θ.
   Òåîðåìà 4.2 (àñèìïòîòè÷åñêàÿ íîðìàëüíîñòü). Ïðè âûïîëíåíèè óñëî-
âèé (R1)(R5) è íàëè÷èè åäèíñòâåííîãî ëîêàëüíîãî ìàêñèìóìà ó ôóíêöèè
ïðàâäîïîäîáèÿ êîðåíü θ̂n = θ̂n (X (n) ) óðàâíåíèÿ ïðàâäîïîäîáèÿ

                                   ∂L(θ | X (n) )/∂θ = 0
àñèìïòîòè÷åñêè (n → ∞) íîðìàëåí ñî ñðåäíèì θ è äèñïåðñèåé (nI(θ))−1 ,
òî åñòü              ³       p           ´
                      lim P θ (θ̂n − θ) nI(θ) < x = Φ(x).
                     n→∞


   Ä î ê à ç à ò å ë ü ñ ò â î.. Åñëè θ̂n  îöåíêà ïî ìåòîäó ìàêñèìàëüíîãî ïðàâ-
äîïîäîáèÿ (êîðåíü óðàâíåíèÿ ïðàâäîïîäîáèÿ), òî èìååò ìåñòî òîæäåñòâî
∂L(θ̂n | X (n) )/∂θ = 0. Èñïîëüçóÿ óñëîâèå (R4), ðàçëîæèì åãî ëåâóþ ÷àñòü
ïî ôîðìóëå Òåéëîðà â îêðåñòíîñòè èñòèííîãî çíà÷åíèÿ θ0 ïàðàìåòðà θ :

                          ∂L(θ̂n | X (n) )/∂θ = L0 (θ0 | X (n) )+
             (θ̂n − θ0 )L00 (θ0 | X (n) ) + (θ̂n − θ0 )2 L000 (θ1 | X (n) )/2 = 0,
ãäå ïðîèçâîäíûå îò ôóíêöèè ïðàâäîïîäîáèÿ L âû÷èñëÿþòñÿ ïî ïàðàìåòðó
θ, à θ1 = θ0 + λ(θ̂n − θ0 ), 0 < λ < 1.
                                                          √
   Ðàçðåøèì ïîëó÷åííîå óðàâíåíèå îòíîñèòåëüíî âåëè÷èíû n(θ̂n − θ0 ),
êîòîðàÿ, ñîãëàñíî óòâåðæäåíèþ òåîðåìû, äîëæíà èìåòü â ïðåäåëå ïðè n →
∞ íîðìàëüíîå ðàñïðåäåëåíèå ñî ñðåäíèì 0 è äèñïåðñèåé [ I(θ0 ) ]−1 :
                                                               √
        √                                     L0 (θ0 | X (n) )/ n
            n(θ̂n − θ0 ) =                                                             .   (7)
                             −L00 (θ0 | X (n) )/n − (θ̂n − θ0 )L000 (θ1 | X (n) )/2n
   ×èñëèòåëü ïðàâîé ÷àñòè ýòîãî ïðåäñòàâëåíèÿ
                                                    n
                       1 0       (n)   1 X ∂ ln f (Xk | θ)
                      √ L (θ0 | X ) = √
                        n               n 1      ∂θ

                                             207