ВУЗ:
Составители:
Рубрика:
48 ЭФФЕКТИВНОСТЬ ТОЧЕЧНЫХ ОЦЕНОК § 8.
О п р е д е л е н и е 8.5. Несмещенная оценка
b
θ
n
, с.к.-погрешность ко-
торой совпадает при всех n > 1 с нижней границей ∆
n
min
, называется
эффективной по Рао–Крамеру (R-эффективной).
Из при веденных определений и утверждений следует:
1) эфф ективная оценка является с.к.-оптимальной на классе всех
несмещенных оценок параметра θ
0
;
2) если эффективная оценка существует, то она имее т вид (8.6).
Следующее утверждение поясняет связь между эффективной оценкой
и МП-оценкой.
Т е о р е м а 8.3. Пусть в условиях теоремы 8.2 существует эффек-
тивная оценка
b
θ
n
, тогда она единственна и является МП-оценкой.
Заметим, что с учетом несмещенности эффективной оценки
b
θ
n
и
утверждения теоремы 8.1
∆
n
(θ
0
) = M
n
(
b
θ
n
− θ
0
)
2
o
= D
n
b
θ
n
o
=
1
n i(θ
0
)
, (8.7)
где i(θ) — инф ормация Фишера одного наблюдения (8.1) или (8.2).
Из (8.7) видно, что D
n
b
θ
n
o
= O
1
n
, т.е. убывает с ростом объема
выборки со скоростью, пропорциональной
1
n
. Кроме того, всякая эффек-
тивная оценка с.к.-состоятельна, так как ∆
n
= D
n
b
θ
n
o
→ 0, n → ∞.
Для случая θ ∈ Θ ⊆ R
m
, m > 1 условия регулярности R.1) и R.2)
принимают следующий вид:
R.1’)
p
p(x; θ) непрерывно дифференцируема по θ
j
, j = 1, . . . , m на Θ
для почти всех x.
R.2’) Матрица I(θ) = {I
ij
(θ)} с элементами
I
ij
(θ) =
∞
Z
−∞
∂ ln p(x; θ)
∂θ
i
·
∂ ln p(x; θ)
∂θ
j
p(x; θ)dx (8.8)
непрерывна по θ на Θ и положительно определена.
В этом случае неравенство Рао–Крамера (8.5) принимает вид
M
n
(
b
θ
n
− θ
0
)(
b
θ
n
− θ
0
)
⊤
o
>
I
−1
(θ
0
)
n
, (8.9)
где θ
0
— истинное значение вектора параметров θ, а
b
θ
n
— его произ-
вольная несмещенная оцен ка. Знак неравенства в (8.9) имеет следующий
§ 8. ЭФФЕКТИВНОСТЬ ТОЧЕЧНЫХ ОЦЕНОК 49
смысл: если матрицы A и B симметричны и неотрицательно определены,
то A > B означает, что A −B неотрицательно определена. Матрица I(θ)
называется информационной матрицей Фишера.
Если выборка соответствует регулярному распределению, θ ∈ Θ ⊆R
1
,
а для некоторой несмещенной оценки
b
θ
n
выполнено
D
n
b
θ
n
o
∆
min
n
→ 1, n → ∞,
то
b
θ
n
называется асимптотически эффективной оценкой.
8.2. Примеры.
П р и м е р 8.1. Выборка Z
n
соответствуе т распределению N(θ; σ
2
),
σ > 0. Доказать, что выборочное среднее
X
n
является эффективной
оценкой математического ожидания θ.
Р е ш е н и е. По условию p(x; θ) =
1
√
2πσ
exp
−
(x − θ)
2
2σ
2
, поэтому
условие R.1) очевидно выполнено. Проверим условие R.2). Пусть X ∼
∼ N(θ; σ
2
), тогда
l(X; θ) = ln p(X; θ) = ln
1
√
2πσ
−
(X − θ)
2
2σ
2
.
Отсюда ϕ(X; θ) =
∂l(X; θ)
∂θ
=
X − θ
σ
2
, и, следовательно,
i(θ) = M
θ
ϕ
2
(X; θ)
= M
θ
(X − θ)
2
σ
4
=
σ
2
σ
4
=
1
σ
2
.
Итак, информация Фишера для гауссовского распределения i(θ) =
1
σ
2
удовлетворяет R.2) при любом σ ∈ (0, +∞).
Теперь видно, что нижняя граница в неравенстве (8.5) Рао–Крамера
∆
n
min
=
1
n i(θ)
=
σ
2
n
и не зависит от θ.
Так как
X
n
=
1
n
n
X
k=1
X
k
по определению, то M
X
n
=
1
n
n
X
k=1
M{X
k
} =
=
nθ
n
= θ, т.е. X
n
— не смеще нная оценка. При этом
∆
n
= D
X
n
= D
(
1
n
n
X
k=1
X
k
)
=
nσ
2
n
2
=
σ
2
n
.
4 А.Р. Панков и Е.Н. Платонов
48 ЭФФЕКТИВНОСТЬ ТОЧЕЧНЫХ ОЦЕНОК § 8. § 8. ЭФФЕКТИВНОСТЬ ТОЧЕЧНЫХ ОЦЕНОК 49
О п р е д е л е н и е 8.5. Несмещенная оценка θbn, с.к.-погрешность ко- смысл: если матрицы A и B симметричны и неотрицательно определены,
торой совпадает при всех n > 1 с нижней границей ∆ min n , называется
то A > B означает, что A − B неотрицательно определена. Матрица I(θ)
эффективной по Рао–Крамеру (R-эффективной). называется информационной матрицей Фишера.
1
Из приведенных определений и утверждений следует: n o θ ∈ Θ⊆R ,
Если выборка соответствует регулярному распределению,
1) эффективная оценка является с.к.-оптимальной на классе всех D θbn
несмещенных оценок параметра θ 0; а для некоторой несмещенной оценки θbn выполнено → 1, n → ∞,
∆min
n
2) если эффективная оценка существует, то она имеет вид (8.6).
Следующее утверждение поясняет связь между эффективной оценкой то θbn называется асимптотически эффективной оценкой.
и МП-оценкой.
Т е о р е м а 8.3. Пусть в условиях теоремы 8.2 существует эффек-
тивная оценка θbn, тогда она единственна и является МП-оценкой. 8.2. Примеры.
П р и м е р 8.1. Выборка Z n соответствует распределению N (θ; σ 2 ),
Заметим, что с учетом несмещенности эффективной оценки θbn и
σ > 0. Доказать, что выборочное среднее X n является эффективной
утверждения теоремы 8.1
оценкой математического ожидания θ.
n o n o
1 1 (x − θ)2
∆ n(θ 0) = M (θbn − θ 0)2 = D θbn = , (8.7) Р е ш е н и е. По условию p(x; θ) = √ exp − , поэтому
n i(θ0 ) 2πσ 2σ 2
условие R.1) очевидно выполнено. Проверим условие R.2). Пусть X ∼
где i(θ) — информация Фишера
n o одного наблюдения (8.1) или (8.2).
1 ∼ N (θ; σ 2 ), тогда
b
Из (8.7) видно, что D θ = O , т.е. убывает с ростом объема
n n
1 1 (X − θ)2
выборки со скоростью, пропорциональной . Кроме того, всякая эффек- l(X; θ) = ln p(X; θ) = ln √ − 2
.
n n o 2πσ 2σ
тивная оценка с.к.-состоятельна, так как ∆ n = D θbn → 0, n → ∞.
∂l(X; θ) X −θ
Для случая θ ∈ Θ ⊆ Rm , m > 1 условия регулярности R.1) и R.2) Отсюда ϕ(X; θ) =
∂θ
=
σ2
, и, следовательно,
принимают следующий вид:
p
2 (X − θ)2 σ2 1
R.1’) p(x; θ) непрерывно дифференцируема по θ j , j = 1, . . . , m на Θ i(θ) = M θ ϕ (X; θ) = M θ = = 2.
для почти всех x. σ4 σ4 σ
R.2’) Матрица I(θ) = {I ij (θ)} с элементами 1
Итак, информация Фишера для гауссовского распределения i(θ) = 2
σ
Z
∞ удовлетворяет R.2) при любом σ ∈ (0, +∞).
∂ ln p(x; θ) ∂ ln p(x; θ)
I ij (θ) = · p(x; θ)dx (8.8) Теперь видно, что нижняя граница в неравенстве (8.5) Рао–Крамера
∂θi ∂θj
−∞ 1 σ2
∆ min
n = = и не зависит от θ.
n i(θ) n
непрерывна по θ на Θ и положительно определена. 1 X
n 1 X
n
Так как X n = X k по определению, то M X n = M{X k} =
В этом случае неравенство Рао–Крамера (8.5) принимает вид n
k=1
n
k=1
n o nθ
I −1 (θ0 ) = = θ, т.е. X n — несмещенная оценка. При этом
M (θbn − θ 0)(θbn − θ 0)⊤ > , (8.9) n
n
( )
n
где θ 0 — истинное значение вектора параметров θ, а θbn — его произ- 1 X nσ 2 σ2
∆n = D X n = D Xk = 2
= .
вольная несмещенная оценка. Знак неравенства в (8.9) имеет следующий n n n
k=1
4 А.Р. Панков и Е.Н. Платонов
Страницы
- « первая
- ‹ предыдущая
- …
- 23
- 24
- 25
- 26
- 27
- …
- следующая ›
- последняя »
