Эконометрика: Введение в регрессионный анализ временных рядов. Носко В.П. - 11 стр.

Ситуация A
    • случайная величина ε s не зависит (статистически) от xt1, xt2, …, xtp при всех t и s ,
    • ε 1, ε 2, …, ε n являются независимыми случайными величинами, имеющими
        одинаковое нормальное распределение с нулевым математическим ожиданием и
        конечной дисперсией σ2 > 0. (Далее мы кратко будем обозначать это как ε t ~ i.i.d. N
        (0, σ2). Здесь i.i.d. – independent, identically distributed.)
При выполнении таких условий имеем
    E ((XTX) – 1XTε ) = E ((XTX) – 1XT) ·E(ε ) = 0,
так что оценка наименьших квадратов для θ является несмещенной. Распределение
статистик критериев (“тестовых статистик”) можно найти с помощью двухшаговой
процедуры. На первом шаге находим условное распределение при фиксированном значении
X ; при этом значения объясняющих переменных рассматриваются как детерминированные
(как в классической модели). На втором шаге мы получаем безусловное распределение
соответствующей статистики, умножая условное распределение на плотность X                    и
интегрируя по всем возможным значениям X .
    Если применить такую процедуру для получения безусловного распределения оценки
наименьших квадратов θˆ , то на первом шаге находим:
                   (            )
        θˆ | X ~ N θ , σ 2 (X T X ) .
                                   −1


Интегрирование на втором этапе приводит к распределению, являющемуся смесью
                                    (
нормальных распределений N θ , σ 2 X T X(    )−1
                                                   )
                                              по X . Это распределение, в отличие от
классического случая, не является нормальным.
   В то же время, для оценки j-го коэффициента имеем:
     j
               (     2  T
                            )
   θˆ | X ~ N θ j , σ (X X )j j ,
                            −1



где (X T X ) jj – j-й диагональный элемент матрицы (X T X ) ,
          −1                                              −1


так что
      θˆj −θ j
                    X ~ N (0, 1) .
    σ ( X T X )−j1j
   Условным распределением отношения S2/σ2 , где S2 = RSS/(n – p), RSS – остаточная сумма
квадратов, является распределение хи-квадрат с (n – p) степенями свободы,
    S2/σ2 | X ~ χ2(n – p) .
   Заметим теперь, что t-статистика для проверки гипотезы H0: θ j = θ *j определяется
соотношением