ВУЗ:
Составители:
Рубрика:
82 МЕТОД НАИМЕНЬШИХ КВАДРАТОВ § 12.
где
b
K
n
= σ
2
W
n
−1
— ковариационная матрица ошибки оценки
b
θ
n
(см.
теорему 12.2). Итак,
bϕ(t; θ) ∼ N
h
⊤
(t)θ; σ
2
h
⊤
(t)W
n
−1
h(t)
.
При этом ошибка оценки ∆ bϕ(t; θ) = bϕ(t; θ) −ϕ(t; θ) имеет распределе-
ние N
0; σ
2
h
⊤
(t)W
n
−1
h(t)
.
В условиях примера 12.3 для t = 5 находим
σ
2
h
⊤
(t)W
n
−1
h(t) = 0,01
1
5
⊤
·
0,6 −0,2
−0,2 0,1
·
1
5
= 0,011.
Итак, bϕ(5; θ) − ϕ(5; θ) ∼ N(0; 0,011). Отсюда
P
|bϕ(5; θ) − ϕ(5; θ)| 6 u
α
p
0,011
= 0,95,
если u
α
= 1,96 — квантиль уровня α = 0,975 распределения
N(0; 1). Таким образом, искомый доверительный интервал имеет вид
h
bϕ(5; θ) − 1,96
p
0,011; bϕ(5; θ) + 1,96
p
0,011
i
. Найдем реализацию этого
интервала, используя результаты примера 12.3. Так как bϕ(5; θ) = −0,98+
+ 2,01 · 5 = 9,07, окончательно получаем интервал [8,86; 9,28], который
с высокой надежностью накрывает точное значение ϕ(5; θ) полезного
сигнала в точке t = 5.
12.3. Задачи для самостоятельного решения.
1. Доказать теорему Гаусса-Маркова (теорема 12.3).
У к а з а н и е. См. пример 12.2.
2. Вывести выражение (12.7) для НЛН-оценки
b
θ
n
в случае произвольной
невырожденной ковариационной матрицы V
n
вектора ошибок наблюдения E
n
.
У к а з а н и е. С помощью матрицы Σ
n
: V
n
= Σ
n
(Σ
n
)
⊤
преобразовать обоб-
щенную регрессию к регрессии с некоррелированными ошибками. Воспользо-
ваться следствием 12.1.
3. Доказать, что ОМНК-оценка
b
θ
n
(12.7) вектора θ в мод ели обобщенной
линейной регрессии является МП-оценкой, если E
n
∼ N(0; V
n
), V
n
> 0.
У к а з а н и е. Показать, что θ
n
= arg min
θ
(Z
n
− H
n
θ)
⊤
V
n
−1
(Z
n
− H
n
θ).
4. Пусть
b
θ
n
— МНК-оценка вектора θ в модели линейной гауссовской
регрессии (12.2). Показать, что bσ
n
2
=
1
n − p
|Z
n
−H
n
b
θ
n
|
2
является несмещенной
оценкой дисперсии σ
2
ошибок наблюдений.
У к а з а н и е. Воспользоваться следствием 12.2.
§ 12. МЕТОД НАИМЕНЬШИХ КВАДРАТОВ 83
5. Модель (12.1) имеет следующий частный вид:
X
k
= θ
1
+ kθ
2
+ ε
k
, k = 1, . . . , n.
Найти явное аналитической выражение для оценки
b
θ
n
вектора θ = {θ
1
, θ
2
}
⊤
и
доказать ее состоятельность.
У к а з а н и е. Воспользоваться следствием 12.1. Доказать, что
b
K
n
→ 0 при
n → ∞.
6. Модель (12.1) имеет вид
X
k
= kθ + ε
k
, k = 1, . . . , n,
где {ε
k
} — независимые гауссов ские СВ, ε
k
∼ N(0; σ
2
), σ > 0. Используя
МНК-оценку
b
θ
n
параметра θ, построить для него доверительный интервал
надежности q = 0,95.
О т в е т.
h
b
θ
n
− 1,96 σ
p
ψ(n);
b
θ
n
+ 1,96 σ
p
ψ(n)
i
, где
b
θ
n
= ψ(n)
n
X
k=1
kX
k
,
ψ(n) = 6(2n
2
+ 3n + 1)
−1
.
7. В условиях примера 12.3 проверить на уровне значимости p = 0,05
параметрическую гипотезу H
0
: θ
2
= 0.
У к а з а н и е. Построить доверительный интервал надежности q = 0,95 для
параметра θ
2
.
О т в е т. H
0
отвергается.
6*
82 МЕТОД НАИМЕНЬШИХ КВАДРАТОВ § 12. § 12. МЕТОД НАИМЕНЬШИХ КВАДРАТОВ 83
b = σ 2 W −1 — ковариационная матрица ошибки оценки θb (см.
где K 5. Модель (12.1) имеет следующий частный вид:
n n n
теорему 12.2). Итак,
X k = θ 1 + kθ 2 + ε k, k = 1, . . . , n.
b θ) ∼ N h⊤ (t)θ; σ 2 h⊤ (t)W −1
ϕ(t; n h(t) .
Найти явное аналитической выражение для оценки θbn вектора θ = {θ 1, θ 2}⊤ и
При этом ошибка оценки b θ) − ϕ(t; θ) имеет распределе- доказать ее состоятельность.
∆ϕ(t;
b θ) = ϕ(t;
b → 0 при
ние N 0; σ 2 h⊤ (t)W −1 h(t) . У к а з а н и е. Воспользоваться следствием 12.1. Доказать, что K n
n
В условиях примера 12.3 для t = 5 находим n → ∞.
6. Модель (12.1) имеет вид
⊤
1 0,6 −0,2 1
σ 2 h⊤ (t)W −1 h(t) = 0,01 · · = 0,011. X k = kθ + ε k, k = 1, . . . , n,
n
5 −0,2 0,1 5
где {ε k} — независимые гауссовские СВ, ε k ∼ N (0; σ 2 ), σ > 0. Используя
b θ) − ϕ(5; θ) ∼ N (0; 0,011). Отсюда
Итак, ϕ(5; МНК-оценку θbn параметра θ, построить для него доверительный интервал
p надежности q = 0,95.
P |ϕ(5;
b θ) − ϕ(5; θ)| 6 u α 0,011 = 0,95, h p p i n
О т в е т. θb − 1,96 σ ψ(n); θb + 1,96 σ ψ(n) , где θb = ψ(n) kX ,
X
n n n k
k=1
если u α = 1,96 — квантиль уровня α = 0,975 распределения 2 −1
ψ(n) = 6(2n + 3n + 1) .
hN (0; 1). Таким
p
образом, искомый доверительный
p i интервал имеет вид 7. В условиях примера 12.3 проверить на уровне значимости p = 0,05
b θ) − 1,96 0,011; ϕ(5;
ϕ(5; b θ) + 1,96 0,011 . Найдем реализацию этого параметрическую гипотезу H 0: θ 2 = 0.
У к а з а н и е. Построить доверительный интервал надежности q = 0,95 для
b θ) = −0,98+
интервала, используя результаты примера 12.3. Так как ϕ(5; параметра θ 2.
+ 2,01 · 5 = 9,07, окончательно получаем интервал [8,86; 9,28], который О т в е т. H 0 отвергается.
с высокой надежностью накрывает точное значение ϕ(5; θ) полезного
сигнала в точке t = 5.
12.3. Задачи для самостоятельного решения.
1. Доказать теорему Гаусса-Маркова (теорема 12.3).
У к а з а н и е. См. пример 12.2.
2. Вывести выражение (12.7) для НЛН-оценки θbn в случае произвольной
невырожденной ковариационной матрицы V n вектора ошибок наблюдения E n.
У к а з а н и е. С помощью матрицы Σ n: V n = Σ n(Σ n)⊤ преобразовать обоб-
щенную регрессию к регрессии с некоррелированными ошибками. Воспользо-
ваться следствием 12.1.
3. Доказать, что ОМНК-оценка θbn (12.7) вектора θ в модели обобщенной
линейной регрессии является МП-оценкой, если E n ∼ N (0; V n), V n > 0.
У к а з а н и е. Показать, что θ n = arg min(Z n − H nθ)⊤ V −1
n (Z n − H nθ).
θ
4. Пусть θbn — МНК-оценка вектора θ в модели линейной гауссовской
1
b 2n =
регрессии (12.2). Показать, что σ |Z n − H nθbn|2 является несмещенной
n−p
оценкой дисперсии σ 2 ошибок наблюдений.
У к а з а н и е. Воспользоваться следствием 12.2.
6*
