Теория вероятностей и математическая статистика: краткий курс для экономистов. Солопахо А.В. - 40 стр.

UptoLike

ВУЗ: 

ТГТУ | Тамбов

Составители: 

Рубрика: 

3.15. Метод максимального правдоподобия
Пусть
()
γ,xP – плотность распределения с.в.
X
, где
γ
– неизвестный, подлежащий оценке параметр. И пусть имеется вы-
борка
n
xxx ...,,,
21
значений этой с.в. Идея метода максимального правдоподобия состоит в том, что в качестве оценки
γ
следует принять такое значение, при котором вероятность появления именно этой имеющейся выборки максимальна.
А эта вероятность, условно говоря, пропорциональна функции
()
(
)
(
)
(
)
γ
⋅
⋅
γ
γ
=γ ,...,,
21 n
xPxPxPL ,
которую называют функцией правдоподобия Фишера. Таким образом мы приходим к задаче на нахождение экстремума
функции
()
max→
γ
L
.
Необходимое условие экстремума дает уравнение
(
)
0=
γ∂
γ∂L
,
которое, будучи разрешенным относительно γ , и определяет оценку метода максимального правдоподобия. Если неизвест-
ных параметров несколько
k
γγ ...,,
1
, то, аналогично, получаем систему необходимых условий экстремума
(
)
()
=
γ∂
γγ∂
=
γ∂
γ
γ
∂
,0
...,,
,0
...,,
1
1
1
k
k
k
L
L
M
из которой выражаются необходимые оценки.
Часто оказывается удобнее использовать не
(
)
γ
L , а
() ()() ()( ) ( )()()()
∑
=
γ=γ⋅⋅γγ=γ=γ
n
i
in
xPxPxPxPLL
1
21
,ln,...,,lnln
~
,
которая называется логарифмической функцией правдоподобия. В силу свойств логарифма, и
()
γL , и
()
γL
~
достигают мак-
симума при одном и том же значении.
Пример.
1. Найдем оценки максимального правдоподобия для параметров нормального распределения. Функция правдоподобия
имеет вид
()
()
∑
σπ
=σ
=
σ
−
−
n
i
i
ax
n
eaL
1
2
2
2
2
2
1
,
,
а логарифмическая функция правдоподобия
()
()
(
)
()
∑
−
σ
−σ−π−=σ
=
n
i
i
ax
nn
aL
1
2
2
22
2
1
ln
2
2ln
2
,
~
.
Ясно, что удобнее максимизировать последнюю. Система необходимых условий экстремума
()
()
()
()
()
=
∑
−
σ
+
σ
−=
σ∂
σ∂
=
∑
−
σ
=
∂
σ∂
=
=
.0
2
11
2
,
~
,0
1,
~
1
2
2
2
22
2
1
2
2
n
i
i
n
i
i
ax
naL
ax
a
aL
Выражая из этой системы
a
и
2
σ получаем искомые оценки
()
=
∑
−=σ
∑
=
=
=
∧
,0
1
ˆ
,
1
1
2
2
1
n
i
i
n
i
i
Xx
n
x
n
a
т.е. получили хорошо знакомый результат. В данном случае, оценки максимального правдоподобия совпадают с оценками
метода моментов, что на самом деле случается редко.
2. Найдем оценки максимального правдоподобия границ интервала распределения равномерно распределенной с.в. (см.
пример п. 3.14).

Страницы