Математическая статистика. Воскобойников Ю.Е - 18 стр.

Эта вероятность есть функция от x1 , x 2 , ..., x n , которая называется                                                                                ∂ 2 ln L
                                                                                                      3. Находим вторую производную                                 и ее значение в точке
функцией         максимального        правдоподобия    и    обозначается
                                                                                                                                                         ∂θ 2
L( x1 , x2 ,K, xn ,θ ) = P( X1 = x1 )K P( X n = xn ) .
                                                                                                  θ кр .    Если вторая производная в точке              θ кр   меньше нуля, то в точке
   Учитывая, что значение y i встречается в выборке n                        раз, получаем
                                                                         j
                                                                                                  θ кр     функция L( x1 ,..., x n ,θ ) достигает максимума.

                    L( x1 , ..., x n ,θ ) = p1n1 (θ ) ... p mnm (θ ) .                                Найденная таким образом
                                                                                                                                              *
                                                                                                                                            θ МП   является функцией случайных ве-
   Как уже было сказано, суть метода максимального правдоподобия                                  личин X 1 , X 2 ..., X n и, следовательно, сама является случайной вели-
состоит в том, что в качестве параметра θ берется такое значение, ко-                                                                                *
                                                                                                  чиной. Конкретное значение оценки                θ МП     получается при подстановке
торое максимизирует функцию L( x1 , ..., x n ,θ ) . Полученное значение,                                *
                                                                                                  в   θ МП ( X 1 , ..., X n )        вместо     X 1 , X 2 ..., X n значений выборки
если оно         существует, является           функцией        от x1 , x 2 , ..., x n ,   т.е.
      *
                                                                                                  x1 , x 2 , ..., x n .
θ = θ МП ( x1 , x 2 , ..., x n ) . Заменяя элементы x1 , x2 ,..., xn случайными                      Непрерывная генеральная совокупность. Рассмотрим случай, ко-
величинами X 1 , ..., X n , получаем оценку максимального правдоподо-                             гда генеральная совокупность имеет непрерывный ряд распределения.
                                                                                                  Функцию максимального правдоподобия определим по правилу
         *
бия    θ МП ( X 1 , X 2 , ..., X n ) .                                                                                    L( x1 , ..., xn ,θ ) = p( x1 ,θ )L p( xn ,θ ) ,
   Точка максимума функции L( x1 , ..., x n ,θ ) удовлетворяет нелиней-                           где p ( x,θ ) – плотность распределения генеральной совокупности. Все
ному (в общем случае) уравнению                                                                   остальное, изложенное для дискретного случая, переносится на непре-
                                 ∂L( x1 ,..., x n ,θ )                                            рывный.
                                                       =0                              (3.20)        Пример 3.1. Проводится п независимых опытов, в каждом из кото-
                                        ∂θ
                                                                                                  рых событие А повторяется с неизвестной вероятностью р. Рассмотрим
                                                        *
и поэтому конкретное значение оценки                  θ МП ( x1 , x 2 , ..., x n )   опреде-      генеральную совокупность Х – количество появлений события А в од-
ляют как корень уравнения (3.20).                                                                 ном опыте. По выборке x1 , ..., x n из генеральной совокупности Х необ-
   Функции L( x1 , ..., x n ,θ ) ) и ln L( x1 , ..., x n ,θ ) достигают макси-                    ходимо оценить параметр р.
мума при одном и том же значении θ . Поэтому вместо отыскания мак-                                   Решение. Выборка x1 , ..., x n состоит из нулей и единиц, причем
симума функции L( x1 , ..., x n ,θ ) находят максимум функции                                     xi = 1 , если в i -м опыте событие А произошло, и xi = 0 , если собы-
ln L( x1 , ..., x n ,θ ) . Эта функция получила название логарифмической                          тие не произошло. Предположим, что т – частота появления события А
функции правдоподобия.                                                                            в п опытах. Тогда выборка x1 , ..., x n содержит m единиц и ( n − m)
   Построение оценки максимального правдоподобия можно разбить на
следующие этапы:                                                                                  нулей. Так как P ( X = 1) = p, P ( X = 0) = 1 − p , то
   1. Определяем производную логарифмической функции правдопо-                                                                                                      n−m
                                                                                                                             L( x1 , ..., xn ,θ ) = p m ( 1 − p )         .
добия по параметру θ .
                                                                                                     Найдем точку максимума логарифмической функции максимального
   2. Приравнивая производную к нулю, находим критическую точку
                                                                                                  правдоподоподобия ln L
                                                       ∂L( x1 ,..., x n ,θ )
θ кр   – корень уравнения правдоподобия                                      = 0.                                ln L( x1 , ..., x n ,θ ) = m ln p + (n − m) ln(1 − p)        .
                                                              ∂θ                                  Определим из уравнения
                                               35                                                                                                  36