Теорема Гаусса-Маркова для линейной модели парной регрессии

Вопрос 1. Теорема Гаусса-Маркова для линейной модели парной регрессии.

Ответ:

Уравнение линейной модели парной регрессии: Y = b0 + b1X.

Предпосылки МНК (условия Гаусса−Маркова)

10 Математическое ожидание случайного отклонения εi равно нулю: M(εi) = 0 для всех наблюдений.

Данное условие означает, что случайное отклонение в среднем не оказывает влияния на зависимую переменную. В каждом конкретном наблюдении случайный член может быть либо положительным, либо отрицательным, но он не должен иметь систематического смещения.

20 Дисперсия случайных отклонений εi постоянна: D(εi) = D(εj) = σ2 для любых наблюдений i и j.

Данное условие подразумевает, что несмотря на то, что при каждом конкретном наблюдении случайное отклонение может быть либо большим, либо меньшим, не должно быть некой априорной причины, вызывающей большую ошибку (отклонение).

Выполнимость данной предпосылки называется гомоскедастичностью (постоянством дисперсии отклонений). Невыполнимость данной предпосылки называется гетероскедастичностью (непостоянством дисперсий отклонений).

30 Случайные отклонения εi и εj являются независимыми друг от друга для i≠j.

Выполнимость данной предпосылки предполагает, что отсутствует систематическая связь между любыми случайными отклонениями. Другими словами, величина и определенный знак любого случайного отклонения не должны быть причинами величины и знака любого другого отклонения.

40 Случайное отклонение должно быть независимо от объясняющих переменных.

Обычно это условие выполняется автоматически при условии, что объясняющие переменные не являются случайными в данной модели.

50 Модель является линейной относительно параметров.

 

Теорема Гаусса−Маркова.

Если предпосылки 10 − 50 выполнены, то оценки, полученные по МНК, обладают следующими свойствами:

1. Оценки являются несмещенными, т. е. M(b0) = b0 , M(b1) = b1.

Это вытекает из того, что M(εi) = 0 и говорит об отсутствии систематической ошибки в определении положения линии регрессии.

2. Оценки состоятельны, т. к. дисперсия  оценок параметров при возрастании  числа n наблюдений стремится к нулю.

3. Оценки эффективны, т. е. они имеют  наименьшую дисперсию по сравнению  с любыми другими оценками  данных параметров, линейными относительно  величин yi.

 

Вопрос 2. Проверка нулевой гипотезы и доверительные интервалы для одного из коэффициентов множественной регрессии.

Ответ:

Значимость коэффициента регрессии bj осуществляется с помощью проверки нулевой гипотезыH0 о равенстве параметра   нулю.

Выдвигается гипотеза Н0: (коэффициент не значим) и альтернативная ей Н1: (коэффициент значим). Выбирается уровень значимости .

Рассчитывается величина , где - среднее квадратическое отклонение (стандартная ошибка) коэффициента регрессии bj.

Далее определяется табличное значение t – критерия Стьюдента при уровне значимости и числе степеней свободы к=n-р-1.

Если , то гипотезу Н0 принимаем, в противном случае принимаем альтернативную гипотезу о значимости коэффициента регрессии.

 

В общей постановке вопроса гипотеза Н0 о равенстве параметра заданному числу , т.е. = , отвергается, если .

Поэтому доверительный интервал для параметра есть

,

где

 

 

 

Задача № 10.

В результате регрессии у на 3 независимых переменных, включая константу, по 15 наборам значений  (хi1=1,xi2,xi3,yi) получены следующие оценки: , Известна матрица

Проверить гипотезу Н0: b3=1 на 5% - уровне значимости.

Решение:

Найдем оценку ковариации матрицы: ,

.

Дисперсия параметров множественной модели определяются соотношением: , т.е. это элементы, лежащие на главной диагонали.

Для проверки значимости гипотезы Н0: b3=1 нужно рассчитать величину: и сравнить ее с теоретической величиной .

Если , то гипотеза Н0 верна, в противном случае гипотезу следует отвергнуть.

Так. как , то гипотезу Н0 следует отвергнуть и принять гипотезу Н1: b3 1.

 

 

СПИСОК ЛИТЕРАТУРЫ

1. Магнус Я.Р., Катышев П.К., Пересецкий А.А., Эконометрика. Начальный курс., М.: Дело, 2005.

2. Артамонов Н. В. Введение в эконометрику : курс лекций. – М. МЦНМО, 2011.

3. Демиденко Е.З. Линейная и нелинейная  регрессии. – М.:Финансы и статистика, 1981.

4. Кремер Н.Ш., Путко Б.А. Эконометрика: Учебник для вузов. – М.: ЮНИТИ – ДАНА, 2002.

5. Бородич С.А. Эконометрика: Учебное  пособие. – Минск: Новое знание, 2001.

6. Елисеева И.И. Эконометрика: Учебник  для вузов. – М.:  Финансы и  статистика, 2002.