Практикум по математической статистике. Панков А.Р - 26 стр.

UptoLike

Составители: 

50 ЭФФЕКТИВНОСТЬ ТОЧЕЧНЫХ ОЦЕНОК § 8.
Итак,
n
=
n
min
, поэтому X
n
эффективная оценка для θ при любой
величине с.к.о. σ.
П р и м е р 8.2. Показать, что распределение Бернулли Bi(1; θ), θ
(0; 1) является регулярным и найти информацию Фишера i(θ).
Р е ш е н и е. По условию p(x; θ) = θ
x
(1 θ)
1x
, x = 0, 1, а θ Θ =
= (0; 1). Обозначим f(x; θ) =
p
p(x; θ)
θ
=
p(x; θ)
θ
1
2
p
p(θ; x)
. Если x =
= 0, то p(x; θ) = 1 θ, и, следовательно, f(x; θ) =
1
2
1 θ
непрерывна
по θ на (0; 1). Аналогично, для x = 1 p(x; θ) = θ, т.е. f(x; θ) =
1
2
θ
также непрерывна по θ на Θ. Таким образом, условие регулярности R.1)
выполнено.
Теперь найдем i(θ). Если X Bi(1; θ), то p(X; θ) = θ
X
(1 θ)
1X
.
Отсюда l(X; θ) = ln p(X; θ) = X ln θ + (1X) ln(1 θ). Поэтому ϕ(X; θ) =
=
l(X; θ)
θ
=
X
1 θ
1 X
θ
=
X θ
θ(1 θ)
. Теперь
i(θ) = M
θ
ϕ
2
(X; θ)
=
M
θ
˘
(X θ)
2
¯
θ
2
(1 θ)
2
=
=
D
θ
{X}
θ
2
(1 θ)
2
=
θ(1 θ)
θ
2
(1 θ)
2
=
1
θ(1 θ)
.
Видно, что 0 < i(θ) < при любом θ Θ и i(θ) непрерывна по θ на Θ,
т.е. условие R.2) также выполнено.
П р и м е р 8.3. Доказать, что частота
b
θ
n
= P
n
(A) случайного события
A является эффективной оценкой вероятности θ = P(A) этого события.
Р е ш е н и е. По определению P
n
(A) =
1
n
n
X
k=1
X
k
, где X
k
Bi(1; θ)
независимые бернуллиевские СВ (см. пример 4.3). Поэтому M{P
n
(A)} =
= θ, а D{P
n
(A)} =
D{X
1
}
n
=
θ(1 θ)
n
. Из примера 8.2 следует, что
количество информации в выборке Z
n
= {X
k
, k = 1, . . . , n} о параметре
θ равно I
n
(θ) = n i(θ) =
n
θ(1 θ)
. Поэтому D
n
b
θ
n
o
= D{P
n
(A)} =
1
I
n
(θ)
,
т.е. в неравенстве Рао–Крамера достигается нижняя граница. Таким
образом,
b
θ
n
= P
n
(A) эффективно оценивает θ = P(A). Применимость
теоремы Рао–Крамера в данном случае обосновывается регулярностью
распределения Bi(1; θ) для всех θ (0; 1), что было доказано в приме-
ре 8.2.
§ 8. ЭФФЕКТИВНОСТЬ ТОЧЕЧНЫХ ОЦЕНОК 51
Следующий пример показывает, что выборочное среднее отнюдь не
всегда является эффективной оценкой математического ожидания.
П р и м е р 8.4. Выборка {X
k
, k = 1, . . . , n} соответствует распределе-
нию Лапласа с параметрами (θ, λ), где λ > 0, т.е.
p(x; θ) =
1
2λ
exp
|x θ|
λ
, θ R
1
. (8.10)
Доказать, что
X
n
является несмещенной, но не эффективной оценкой
среднего θ при любом известном λ.
Р е ш е н и е. Можно показать, что в условиях примера неравен-
ство (8.5) выполнено, причем I
n
(θ) =
n
λ
2
.
Если X имеет распределение (8.10), то M{X} =
=
1
2λ
Z
−∞
x exp
|x θ|
λ
dx = θ +
λ
2
Z
−∞
y exp{−|y|}dy = θ, поэтому
M
X
n
= M{X} = θ (см. решение примера 8.1). Далее D
X
n
=
=
D{X}
n
=
2λ
2
n
, так как D{X} =
1
2λ
Z
−∞
(x θ)
2
exp
|x θ|
λ
dx = 2λ
2
.
Отсюда видно, что
n
= D
X
n
=
2λ
2
n
>
1
I
n
(θ)
=
λ
2
n
=
n
min
. Таким
образом, с.к.-погрешность
n
оценки
X
n
параметра θ в два раза больше
нижней границы Рао–Крамера
n
min
при любом объеме выборки n и
любом θ R
1
. Последнее означает, что
X
n
не может быть эффективной
оценкой для θ. Более того,
X
n
не является даже асимптотически
эффективной, так как
n
n
min
6→ 1, n .
Приведем пример нерегулярного распределения и рассмотрим точ-
ность МП-оценки параметра этого распределения.
П р и м е р 8.5. П оказать, что распределение R[0; θ], θ > 0 нерегулярно.
Исследовать поведение с.к.-погрешности МП-оценки параметра θ при
n .
Р е ш е н и е. Зафиксируем любое x > 0. По условию
p(x; θ) =
(
0, если θ < x,
1
θ
, если θ > x.
Таким образом,
p
p(x; θ) терпит разрыв в точке θ = x и, естественно,
не является непрерывно дифференцируемой при любом x > 0. Итак,
условие R.1) нарушено.
4*
50                    ЭФФЕКТИВНОСТЬ ТОЧЕЧНЫХ ОЦЕНОК                          § 8.   § 8.                  ЭФФЕКТИВНОСТЬ ТОЧЕЧНЫХ ОЦЕНОК                        51

Итак, ∆ n = ∆ min
                n , поэтому X n — эффективная оценка для θ при любой                   Следующий пример показывает, что выборочное среднее отнюдь не
величине с.к.о. σ.                                                                  всегда является эффективной оценкой математического ожидания.
   П р и м е р 8.2. Показать, что распределение Бернулли Bi(1; θ), θ ∈                 П р и м е р 8.4. Выборка {X k, k = 1, . . . , n} соответствует распределе-
∈ (0; 1) является регулярным и найти информацию Фишера i(θ).                        нию Лапласа с параметрами (θ, λ), где λ > 0, т.е.
   Р е ш е н и е. По условию p(x;pθ) = θx (1 − θ)1−x , x = 0, 1, а θ ∈ Θ =                                                         
                                                                                                                  1       |x − θ|
                                    ∂
                                    p(x; θ)     ∂p(x; θ)     1                                          p(x; θ) =   exp −             , θ ∈ R1 .            (8.10)
= (0; 1). Обозначим f (x; θ) =              = −           p     . Если x =                                       2λ            λ
                                    ∂θ             ∂θ 2 p(θ; x)
                                                            1                          Доказать, что X n является несмещенной, но не эффективной оценкой
= 0, то p(x; θ) = 1 − θ, и, следовательно, f (x; θ) = − √      непрерывна           среднего θ при любом известном λ.
                                                         2 1−θ
                                                                        1              Р е ш е н и е. Можно показать, что в условиях примера неравен-
по θ на (0; 1). Аналогично, для x = 1 p(x; θ) = θ, т.е. f (x; θ) = − √                                                        n
                                                                       2 θ          ство (8.5) выполнено, причем I n(θ) = 2 .
также непрерывна по θ на Θ. Таким образом, условие регулярности R.1)                                                         λ
                                                                                       Если      X     имеет      распределение    (8.10),  то   M{X}       =
выполнено.                                                                                 ∞Z                                 Z
                                                                                                                                ∞
   Теперь найдем i(θ). Если X ∼ Bi(1; θ), то p(X; θ) = θX (1 − θ)1−X .                  1               |x − θ|              λ
                                                                                    =         x exp −             dx = θ +        y exp{−|y|} dy = θ, поэтому
Отсюда l(X; θ) = ln p(X; θ) = X ln θ + (1 − X) ln(1 − θ). Поэтому ϕ(X; θ) =                2λ             λ                   2
     ∂l(X; θ)    X    1−X    X −θ                                                      −∞                            −∞
                                                                                                                                                
=             =     −     =          . Теперь                                       M X n = M{X} = θ (см. решение примера 8.1). Далее D X n =
        ∂θ      1−θ    θ    θ(1 − θ)                                                                                Z
                                                                                                                    ∞                       
                                                                                      D{X}   2λ2                  1                  |x − θ|
                                               ˘          ¯                         =      =     , так как D{X} =     (x − θ)2 exp −           dx = 2λ2 .
                               2           M θ (X − θ)2                                    n    n                       2λ                       λ
                  i(θ) = M θ ϕ (X; θ) =                     =                                                                 −∞
                                              θ2 (1 − θ)2                                                          2λ            2
                                                                                                                                         1    2
                                                                                                                                               λ
                      D {X}       θ(1 − θ)         1                                Отсюда видно, что ∆ n = D X n =    >                     =   = ∆ min
                                                                                                                                                     n . Таким
                  = 2 θ         = 2         =           .                                                                     n       I n(θ)   n
                     θ (1 − θ)2  θ (1 − θ)2    θ(1 − θ)                             образом, с.к.-погрешность ∆ n оценки X n параметра θ в два раза больше
                                                                                    нижней границы Рао–Крамера ∆ min  n   при любом объеме выборки n и
Видно, что 0 < i(θ) < ∞ при любом θ ∈ Θ и i(θ) непрерывна по θ на Θ,
                                                                                    любом θ ∈ R1 . Последнее означает, что X n не может быть эффективной
т.е. условие R.2) также выполнено.
                                                                                    оценкой для θ. Более того, X n не является даже асимптотически
    П р и м е р 8.3. Доказать, что частота θbn = P ∗n(A) случайного события                                    ∆n
A является эффективной оценкой вероятности θ = P(A) этого события.                  эффективной, так как            6→ 1, n → ∞.
                                                     n
                                                                                                              ∆ min
                                                                                                                n
                                                   1 X                                 Приведем пример нерегулярного распределения и рассмотрим точ-
     Р е ш е н и е. По определению P ∗n(A) =           X k, где X k ∼ Bi(1; θ) —
                                                   n
                                                    k=1
                                                                                    ность МП-оценки параметра этого распределения.
независимые бернуллиевские СВ (см. пример 4.3). Поэтому M{P ∗n(A)} =                   П р и м е р 8.5. Показать, что распределение R[0; θ], θ > 0 нерегулярно.
                        D{X }           θ(1 − θ)                                    Исследовать поведение с.к.-погрешности МП-оценки параметра θ при
= θ, а D{P ∗n(A)} =        1
                              =         . Из примера 8.2 следует, что               n → ∞.
                         n          n
количество информации в выборке Z n = {X kn, k =                                       Р е ш е н и е. Зафиксируем любое x > 0. По условию
                                               o 1, . . . , n} о параметре                                           (
                            n                b                         1
θ равно I (θ) = n i(θ) =
           n                    . Поэтому D θ    = D{P ∗ (A)} =
                                                       n         n       ,                                             0, если θ < x,
                           θ(1 − θ)                                       I n(θ)                           p(x; θ) =
т.е. в неравенстве Рао–Крамера достигается нижняя граница. Таким                                                        1
                                                                                                                          , если θ > x.
                                                                                                                        θ
образом, θbn = P ∗n(A) эффективно оценивает θ = P(A). Применимость                                       p
теоремы Рао–Крамера в данном случае обосновывается регулярностью                       Таким образом, p(x; θ) терпит разрыв в точке θ = x и, естественно,
распределения Bi(1; θ) для всех θ ∈ (0; 1), что было доказано в приме-              не является непрерывно дифференцируемой при любом x > 0. Итак,
ре 8.2.                                                                             условие R.1) нарушено.
                                                                                    4*