Составители:
Рубрика:
Глава 2. Точечные оценки параметров
информации для некоторых задач. Наиболее убедительно эти
вопросы были разработаны и обобщены американским инжене-
ром Клодом Шенноном в 1948 г. С этого времени началось ин-
тенсивное развитие теории информации вообще и углубленное
исследование вопроса об измерении ее количества в частности.
Определение 4.5. Информацией Фишера (или количеством
информации) о параметре параметрической модели (X, P
θ
), со-
держащейся в выборке x = (x
1
, . . . , x
n
) называется величина
I
n
(θ) = M
·
∂ ln p(x; θ)
∂θ
¸
2
.
где p(x; θ) – плотность совместного распределения выборки.
Смысл этого определения раскрывается в свойствах вели-
чины, которые будут рассмотрены несколько позже, а сначала
рассмотрим другую возможность ее представления.
Теорема 4.1. Если:
1) область определения п.р. выборки {x : p(x; θ) 6= 0 } не
зависит от θ;
2) p(x; θ) дважды дифференцируема по θ,
тогда
I
n
(θ) = −M
·
∂
2
ln p(x; θ)
(∂θ)
2
¸
.
Доказательство. Так как p(x; θ) является плотностью, то
Z
R
n
p(x; θ) dx = 1.
Дифференцируя последнее равенство по θ и замечая, что
∂p(x; θ)
∂θ
=
∂ ln p(x; θ)
∂θ
p(x; θ),
49
Страницы
- « первая
- ‹ предыдущая
- …
- 47
- 48
- 49
- 50
- 51
- …
- следующая ›
- последняя »
