Математика и информатика. Исаченко Н.А. - 42 стр.

      Такая оценка будет являться несмещенной. Ей соответству-                                                 d 2 ln L
ет исправленное среднее квадратическое отклонение                          3) найти вторую производную                  ; если она отрица-
                                 k
                                                                                                                dΘ 2
                                ∑ n (x i    i   − xB ) 2              тельна в критической точке, то это – точка максимума.
                                                                            Достоинства метода наибольшего правдоподобия: получен-
                 s = s2 =       i =1
                                                           .   (11)   ные оценки состоятельны (хотя могут быть смещенными), распре-
                                           n −1
                                                                      делены асимптотически нормально при больших значениях п и
     Определение. Оценка некоторого признака называется
                                                                      имеют наименьшую дисперсию по сравнению с другими асимпто-
асимптотически несмещенной, если для выборки х1, х2, …, хп
                                                                      тически нормальными оценками; если для оцениваемого парамет-
                             x1 + x 2 + ... + x n                     ра Θ существует эффективная оценка Θ*, то уравнение правдопо-
                       lim                        =X,          (12)
                       n→∞            n                               добия имеет единственное решение Θ*; метод наиболее полно ис-
где Х – истинное значение исследуемой величины.                       пользует данные выборки и поэтому особенно полезен в случае
                                                                      малых выборок.
     3.4. Способы построения оценок                                         Недостаток метода наибольшего правдоподобия: сложность
                                                                      вычислений.
      Метод наибольшего правдоподобия
                                                                            Для непрерывной случайной величины с известным видом
      Пусть Х – дискретная случайная величина, которая в резуль-
                                                                      плотности распределения f(x) и неизвестным параметром Θ функ-
тате п испытаний приняла значения х1, х2, …, хп. Предположим,
                                                                      ция правдоподобия имеет вид:
что нам известен закон распределения этой величины, определяе-
                                                                            L (х1, х2, …, хп; Θ) = f(x1,Θ)f(x2,Θ)…f(xn,Θ).
мый параметром Θ, но неизвестно численное значение этого па-
                                                                            Оценка наибольшего правдоподобия неизвестного парамет-
раметра. Найдем его точечную оценку.
                                                                      ра проводится так же, как для дискретной случайной величины.
      Пусть р(хi, Θ) – вероятность того, что в результате испыта-
ния величина Х примет значение хi. Назовем функцией правдопо-
                                                                            Метод моментов
добия дискретной случайной величины Х функцию аргумента Θ,
                                                                            Метод моментов основан на том, что начальные и централь-
определяемую по формуле:
                                                                      ные эмпирические моменты являются состоятельными оценками
      L (х1, х2, …, хп; Θ) = p(x1,Θ)p(x2,Θ)…p(xn,Θ).
                                                                      соответственно начальных и центральных теоретических момен-
      Тогда в качестве точечной оценки параметра Θ принимают
                                                                      тов, поэтому можно приравнять теоретические моменты соответ-
такое его значение Θ* = Θ(х1, х2, …, хп), при котором функция
                                                                      ствующим эмпирическим моментам того же порядка.
правдоподобия достигает максимума. Оценку Θ* называют оцен-
                                                                            Если задан вид плотности распределения f(x, Θ), определяе-
кой наибольшего правдоподобия.
                                                                      мой одним неизвестным параметром Θ, то для оценки этого пара-
      Поскольку функции L и lnL достигают максимума при од-
                                                                      метра достаточно иметь одно уравнение. Например, можно при-
ном и том же значении Θ, удобнее искать максимум lnL – лога-
                                                                      равнять начальные моменты первого порядка:
рифмической функции правдоподобия. Для этого нужно:                                                  ∞
                          d ln L
     1) найти производную
                           dΘ
                                 ;                                                  xB = M ( X ) =   ∫ xf ( x; Θ)dx = ϕ (Θ) ,
                                                                                                     −∞
     2) приравнять ее к нулю (получим так называемое уравнение        получив тем самым уравнение для определения Θ. Его решение
правдоподобия) и найти критическую точку;                             Θ* будет точечной оценкой параметра, которая является функцией
                                                                      от выборочного среднего и, следовательно, от вариант выборки:
                                  83                                                                      84