Теория вероятностей и математическая статистика. Блатов И.А - 230 стр.

   Метод наибольшего правдоподобия

   Пусть X – дискретная случайная величина, которая в
результате n испытаний приняла значения x1 , x2 ,, xn .
Предположим, что нам известен закон распределения этой
величины, определяемый параметром  , но неизвестно
численное значение этого параметра. Найдем его точечную
оценку.
   Пусть p( xi , ) – вероятность того, что в результате
испытания величина X примет значение                 xi . Назовем функцией
правдоподобия дискретной случайной величины                        X    функцию
аргумента  , определяемую по формуле:
         L  x1 , x2   , xn ,   p( x1 , )  p( x2 , ) 
                                                     p( xn , ) 
   Тогда в качестве точечной оценки параметра Θ принимают
такое его значение  *    x1 , x2 , xn  , при котором функция
правдоподобия достигает максимума. Оценку  * называют
оценкой наибольшего правдоподобия.
   Поскольку функции L и ln L достигают максимума при
одном и том же значении Θ, удобнее искать максимум ln L –
логарифмической функции правдоподобия. Для этого нужно:
                                  d ln L
   1) найти производную                  ;
                                   d
   2) приравнять ее нулю (получим так называемое уравнение
правдоподобия) и найти критическую точку;
                                                      d 2 ln L
   3) найти       вторую       производную                     ,       если   она
                                                       d 2
отрицательна в критической точке, то это – точка максимума.
   Достоинства метода наибольшего правдоподобия:
   1) полученные оценки состоятельны (хотя могут быть
смещенными), распределены асимптотически нормально при
больших значениях n и имеют наименьшую дисперсию по
сравнению с другими асимптотически нормальными оценками;

   230