Практикум по математической статистике. Панков А.Р - 18 стр.

UptoLike

Составители: 

34 ТОЧЕЧНЫЕ ОЦЕНКИ И ИХ СВОЙСТВА § 6.
= 1, . . . , n} выборка.
О п р е д е л е н и е 6.1. Точечной оценкой параметра θ по выборке Z
n
называется любая статистика
b
θ
n
= ϕ
n
(Z
n
), принимающая значения из
множества Θ.
На практике вычисляют реализацию оценки
b
θ
n
(по имеющей ся ре-
ализации z
n
) и принимают ее за приближенное значение параметра θ.
Поэтому желательно, чтобы при любом возможном θ величина
b
θ
n
была
бы близка к θ.
О п р е д е л е н и е 6.2. Величина
b
θ
n
=
b
θ
n
θ называется ошибкой
оценки
b
θ
n
.
О п р е д е л е н и е 6.3. Оценка
b
θ
n
называется несмещенной, если
M
n
b
θ
n
o
= 0. Если же M
n
b
θ
n
o
6= 0, но M
n
b
θ
n
o
0, n , то
оценка
b
θ
n
называется асимптотически несмещенной.
О п р е д е л е н и е 6.4. Оценка
b
θ
n
называется сильно состоятельной,
если
b
θ
n
п.н.
0, n и состоятельной в среднем квадратическом
(с.к.-состоятельной), если
b
θ
n
с.к.
0, n .
О п р е д е л е н и е 6.5. Среднеквадратической погрешностью (с.к.-
погрешностью) оцен ки
b
θ
n
называется величина
n
= M
n
|
b
θ
n
|
2
o
. (6.1)
Т е о р е м а 6.1. Пусть θ R
1
и M
n
|
b
θ
n
|
2
o
< , тогда
n
= l
n
2
+ d
n
, (6.2)
где l
n
= M
n
b
θ
n
o
смещение оценки
b
θ
n
, а d
n
= D
n
b
θ
n
o
дисперсия
ее ошибки.
О п р е д е л е н и е 6.6. Оценка
b
θ
n
называется асимптотически нор-
мальной, если существует детерминированная последовательность
{C
n
, n = 1, 2, . . . } такая, что C
n
b
θ
n
d
ξ N(0; 1), n .
Пусть теперь оценка
b
θ
n
= ϕ
n
(Z
n
) принадлежит некоторому задан-
ному классу допустимых оценок, т.е. ϕ
n
Φ
n
, n = 1, 2, . . . , где Φ
n
фиксированный класс допустимых преобразований выборки Z
n
.
О п р е д е л е н и е 6.7. Оценка
b
θ
n
= ϕ(Z
n
) называется оптимальной в
среднем квадратическом (с.к.-оптимальной) на Φ
n
, если
n
= M
n
|
b
θ
n
|
2
o
6 M
n
|θ
n
e
θ
n
|
2
o
, n = 1, 2, . . . ,
§ 6. ТОЧЕЧНЫЕ ОЦЕНКИ И ИХ СВОЙСТВА 35
где
e
θ
n
произвольная допустимая оценка:
e
θ
n
= ψ
n
(Z
n
), ψ
n
Φ
n
.
Если θ R
m
, где m > 2, то все вышеприведенные определения
остаются в силе со следующими уточнениями:
1) в (6.2) величина l
n
2
= δ
n
δ
n
, где δ
n
= M
n
b
θ
n
o
R
m
вектор
смещения оценки
b
θ
n
, а d
n
= tr[K
n
], где K
n
= cov(∆
b
θ
n
,
b
θ
n
) ковариа-
ционная матрица ошибки
b
θ
n
, tr[A] след матрицы A;
2) в определении 6.6 {C
n
, n = 1, 2, . . . } последовательность неслу-
чайных матриц размера m × m, а предельное распределение N(0; I)
m-мерное с тандартное гауссовское распределение.
6.2. Примеры.
П р и м е р 6.1. Пусть выборка {X
k
, k = 1, . . . , n} имеет вид
X
k
= θ + ε
k
, k = 1, . . . , n,
θ неслучайный скалярный параметр, {ε
k
, k = 1, . . . , n} независимые
случайные величины, M{ε
k
} = 0, D{ε
k
} = D
k
6
D < для всех
k > 1. Доказать, что выборочное среднее
X
n
является несмещенной и
состоятельной оценкой θ.
Р е ш е н и е. По определению 4.1
b
θ
n
=
X
n
=
1
n
n
X
k=1
X
k
, поэтому
X
n
=
=
1
n
n
X
k=1
(θ + ε
k
) = θ +
1
n
n
X
k=1
ε
k
= θ +
ε
n
. Отсюда X
n
=
b
θ
n
= X
n
θ =
ε
n
ошибка оценки
b
θ
n
= X
n
. Погрешность
n
= M
|X
n
|
2
=
= M
|
ε
n
|
2
=
1
n
2
n
X
k=1
D{ε
k
} 6
D
n
0, n . Поэтому оценка
X
n
с.к.-состоятельна.
Докажем теперь сильную состоятельность оценки
X
n
. Так как
M{ε
k
} = a
k
= 0, а
X
k=1
D
k
k
2
6
X
k=1
D
k
2
=
D
X
k=1
1
k
2
< , то
ε
n
=
=
1
n
n
X
k=1
ε
k
п.н.
0, n по теореме 4.2. Поэтому
X
n
= ε
n
п.н.
0,
n , т.е.
X
n
п.н.
θ, n , что означает сильную состоятельность
X
n
.
Наконец, для любого n > 1 M
n
b
θ
n
o
= M
X
n
= M{ε
n
} =
=
1
n
n
X
k=1
M{ε
k
} = 0, т.е. оценка
X
n
не смеще нная.
3*
34                   ТОЧЕЧНЫЕ ОЦЕНКИ И ИХ СВОЙСТВА                      § 6.   § 6.                       ТОЧЕЧНЫЕ ОЦЕНКИ И ИХ СВОЙСТВА                                  35

= 1, . . . , n} — выборка.                                                     где θen — произвольная допустимая оценка: θen = ψ n(Z n), ψ n ∈ Φ n.
   О п р е д е л е н и е 6.1. Точечной оценкой параметра θ по выборке Z n         Если θ ∈ Rm , где m > 2, то все вышеприведенные определения
называется любая статистика θbn = ϕ n(Z n), принимающая значения из            остаются в силе со следующими уточнениями: n             o
множества Θ.                                                                      1) в (6.2) величина l 2n = δ ⊤                      b    ∈ Rm — вектор
                                                                                                               n δ n, где δ n = M ∆θ n
   На практике вычисляют реализацию оценки θbn (по имеющейся ре-
ализации z n) и принимают ее за приближенное значение параметра θ.             смещения оценки θbn, а d n = tr[K n], где K n = cov(∆θbn, ∆θbn) — ковариа-
Поэтому желательно, чтобы при любом возможном θ величина θbn была              ционная матрица ошибки ∆θbn, tr[A] — след матрицы A;
бы близка к θ.                                                                    2) в определении 6.6 {C n, n = 1, 2, . . . } — последовательность неслу-
   О п р е д е л е н и е 6.2. Величина ∆θbn = θbn − θ называется ошибкой       чайных матриц размера m × m, а предельное распределение N (0; I) —
                                                                               m-мерное стандартное гауссовское распределение.
оценки θbn.
                                       b
  nО п рoе д е л е н и е 6.3. Оценка
                                n    o θ n называется
                                                  n    несмещенной, если
                                                       o                              6.2. Примеры.
M ∆θb  n      = 0. Если же M ∆θb n      6= 0, но M ∆θb
                                                     n   → 0, n → ∞, то               П р и м е р 6.1. Пусть выборка {X k, k = 1, . . . , n} имеет вид
оценка θbn называется асимптотически несмещенной.                                                             X k = θ + ε k,    k = 1, . . . , n,
    О п р е д е л е н и е 6.4. Оценка θbn называется сильно состоятельной,     θ — неслучайный скалярный параметр, {ε k, k = 1, . . . , n} — независимые
              п.н.
если ∆θbn −−−→ 0, n → ∞ и состоятельной в среднем квадратическом               случайные величины, M{ε k} = 0, D{ε k} = D k 6 D < ∞ для всех
                                     с.к.
(с.к.-состоятельной), если ∆θbn −−−→ 0, n → ∞.                                 k > 1. Доказать, что выборочное среднее X n является несмещенной и
    О п р е д е л е н и е 6.5. Среднеквадратической погрешностью (с.к.-        состоятельной оценкой θ.
                                                                                                                                 n
погрешностью) оценки θbn называется величина                                      Р е ш е н и е. По определению 4.1 θb = X =
                                                                                                                             1 X
                                                                                                                                       X , поэтому X =
                                                                                                                                 n        n                k         n
                                          n    o                                                                                                n
                                                                                                                                                    k=1
                                ∆ n = M |∆θbn|2 .                     (6.1)           n
                                                                                    1 X
                                                                                                          n
                                                                                                        1 X
                                            n     o                            =        (θ + ε k) = θ +     ε k = θ + ε n. Отсюда ∆X n = ∆θbn = X n −
                                                                                    n                   n
                                                                                   k=1                 k=1
    Т е о р е м а 6.1. Пусть θ ∈ R1 и M |∆θbn|2 < ∞, тогда                                                                             
                                                                               − θ = ε n — ошибка оценки θbn = X n. Погрешность ∆ n = M |∆X n|2 =
                                                                                                 n
                              ∆ n = l 2n + d n,                        (6.2)                   1 X             D
                                                                               = M |ε n|2 = 2       D{ε k} 6      → 0, n → ∞. Поэтому оценка X n
             n        o                                     n   o                                   n                     n
                                                                                                        k=1
где l n = M ∆θbn — смещение оценки θbn, а d n = D ∆θbn — дисперсия             с.к.-состоятельна.
ее ошибки.                                                                         Докажем теперь сильную состоятельность оценки X n. Так как
                                                                                                               ∞
                                                                                                               X               ∞
                                                                                                                               X                ∞
                                                                                                                                                X
    О п р е д е л е н и е 6.6. Оценка θbn называется асимптотически нор-                                         Dk              D                1
                                                                               M{ε k} = a k = 0, а                        6               = D              < ∞, то ε n =
мальной, если существует детерминированная последовательность                                                        k2              k2               k2
                                                                                                               k=1             k=1              k=1
                                            d                                          n
{C n, n = 1, 2, . . . } такая, что C n∆θbn −→ ξ ∼ N (0; 1), n → ∞.                  1 X        п.н.                                             п.н.
                                                                               =          ε k −−−→ 0, n → ∞ по теореме 4.2. Поэтому ∆X n = ε n −−−→ 0,
                                                                                    n
    Пусть теперь оценка θbn = ϕ n(Z n) принадлежит некоторому задан-                  k=1
ному классу допустимых оценок, т.е. ϕ n ∈ Φ n, n = 1, 2, . . . , где Φ n —                          п.н.
                                                                               n → ∞, т.е. X n −−−→ θ, n → ∞, что означает сильную состоятельность
фиксированный класс допустимых преобразований выборки Z n.                     X n.                              n    o       
    О п р е д е л е н и е 6.7. Оценка θbn = ϕ(Z n) называется оптимальной в
                                                                                  Наконец, для любого n > 1 M ∆θbn = M ∆X n = M{ε n} =
среднем квадратическом (с.к.-оптимальной) на Φ n, если
                                                                                      n
                         n       o      n          o                                1 X
                                                                               =        M{ε k} = 0, т.е. оценка X n — несмещенная.
              ∆ n = M |∆θbn|2 6 M |θ n − θen|2 , n = 1, 2, . . . ,                  n
                                                                                       k=1

                                                                               3*