Определение эконометрики

4.  
   Оценка значимости уравнения регрессии и особенности применения коэффициента детерминации

 
После того как найдено  уравнение линейной регрессии, проводится оценка значимости как уравнения в целом, так и отдельных его параметров¹³. 
 
Оценка значимости уравнения регрессии в целом дается с помощью F-критерия Фишера. При этом выдвигается нулевая гипотеза, коэффициент регрессии равен нулю, то есть b=0, и, следовательно, фактор х не оказывает влияния на результат у. Непосредственному расчету F-критерия предшествует анализ дисперсии. Центральное место в нем занимает разложение общей суммы квадратов отклонений переменной у от среднего значения у на две части – «объясненную» и «необъясненную» (приложение 2).  
 
Общая сумма квадратов отклонений индивидуальных значений результативного признака у от среднего значения у вызвана влиянием множества причин. Условно всю совокупность причин можно разделить на две группы: 

•  
  изучаемый фактор х
•  
  прочие факторы

 
Если фактор не оказывает  влияния на результат, то линия регрессии  на графике параллельна оси охи  у = ŷ. Тогда вся дисперсия результативного  признака обусловлена воздействием прочих факторов и общая сумма  квадратов отклонений совпадает с остаточной. Если же прочие факторы не влияют на результат, то у связан с х функционально и остаточная сумма квадратов равна нулю. В этом случае сумма квадратов отклонений, объясненная регрессией, совпадает с общей суммой квадратов. 
 
Поскольку не все точки поля корреляции лежат на линии регрессии, то всегда имеет место их разброс как обусловленный влиянием фактора х, то есть регрессией у по х, так и вызванный действием прочих величин (необъясненная вариация). Пригодность линии регрессии для прогноза зависит от того, какая часть общей вариации признака у приходится на объясненную вариацию. Очевидно, что если сумма квадратов отклонений, обусловленная регрессией, будет больше остаточной суммы квадратов, то уравнение регрессии статистически значимо и фактор х оказывает существенное влияние на результат у. Это равносильно тому, что коэффициент детерминации r²_xy будет приближаться к единице. 
 
Любая сумма квадратов отклонений связана с числом степеней свободы (df – degrees of freedom), то есть с числом свободы независимого варьирования признака. Число степеней свободы связано с числом единиц совокупности n и с числом определяемых по ней констант. Применительно к исследуемой проблеме число степеней свободы должно показать, сколько независимых отклонений из n возможных [(y₁-y), (y₂-y),…,(y_n-y)] требуется для образования данной суммы квадратов. Так, для общей суммы квадратов ∑(y-y)² требуется (n-1) независимых отклонений. 
 
При расчете объясненной или факторной суммы квадратов ∑(ŷ_x -y)² используются теоретические (расчетные) значения результативного признака ŷ_x, найденные по линии регрессии: ŷ_x=а+b*x. 
 
В линейной регрессии сумма квадратов отклонений, обусловленных линейной регрессией, составит: ∑(ŷ_x -y)²=b²*∑(x –x)².  
 
Поскольку при заданном объеме наблюдений по х и у факторная сумма квадратов при линейной регрессии зависит только от одной константы коэффициента регрессии b, то данная сумма квадратов имеет одну степень свободы. К тому же выводу придем, если рассмотрим содержательную сторону расчетного значения признака у, то есть ŷ_x. Величина ŷ_x определяется по уравнению линейной регрессии: ŷ_x=а+b*x. Параметр а можно определить как: a=y-b*x. Подставив выражение параметра а в линейную модель получим: 
 
ŷ_x= y-b*x+b*x= y-b*(х-х). 
 
Отсюда видно, что при заданном наборе переменных у и х расчетное значение ŷ_x является в линейной регрессии функцией только одного параметра – коэффициента регрессии. Соответственно и факторная сумма квадратов отклонений имеет число степеней свободы, равное 1. 
 
Существует равенство между числом степеней свободы общей, факторной и остаточной суммами квадратов. Число степеней свободы остаточной суммы квадратов при линейной регрессии составляет n-2. Число степеней свободы для общей суммы квадратов определяется числом единиц, и поскольку используется средняя вычисленная по данным выборки, то теряем одну степень свободы, то есть df_общ= n-1. 
 
Итак, имеется два равенства: 
 
∑(у-у)²=∑( ŷ_x –у)²+∑(у- ŷ_x)², 
 
n-1=1+(n-2). 
 
Разделив каждую сумму квадратов на соответствующее ей число степеней свободы, получим средний квадрат отклонений, или, что то же самое, дисперсию на одну степень свободы D. 
 
D_общ=∑(у-у)²/(n-1); 
 
D_факт=∑( ŷ_x –у)²/1; 
 
D_ост=∑(у- ŷ_x)²/(n-1). 
 
Определение дисперсии на одну степень свободы приводит дисперсии к сравнимому виду. Сопоставляя факторную и остаточную дисперсии в расчете на одну степень свободы, получим величину F-отношения (F-критерия): 
 
F= D_факт/ D_ост, где 
 
F – критерий для проверки нулевой гипотезы Н₀: D_факт=D_ост. 
 
Если нулевая гипотеза справедлива, то факторная и остаточная дисперсии не отличаются друг от друга. Для Н₀ необходимо опровержение, чтобы факторная дисперсия превышала остаточную в несколько раз. 
 
Английским статистиком Снедекором разработаны таблицы критических значений F-отношений при разных уровнях существенности нулевой гипотезы и различимом числе степеней свободы. Табличное значение F-критерия – это максимальная величина отношения дисперсий, которая может иметь место при случайном их расхождении для данного уровня вероятности наличия нулевой гипотезы. Вычисленное значение F-отношения признается достоверным (отличным от единицы), если оно больше табличного. В этом случае нулевая гипотеза об отсутствии связи признаков отклоняется и делается вывод о существенности этой связи: F_факт>F_табл. Н₀ отклоняется. 
 
Если же величина окажется меньше табличной F_факт<F_табл, то вероятность нулевой гипотезы выше заданного уровня и она не может быть отклонена без серьезного риска сделать неправильный вывод о наличии связи. В этом случае уравнение регрессии считается статистически не значимым. Н₀ не отклоняется. 
 
Оценку качества модели дает коэффициент детерминации. Коэффициент детерминации (R²) — это квадрат множественного коэффициента корреляции¹⁴. Он показывает, какая доля дисперсии результативного признака объясняется влиянием независимых переменных. 
 
Формула для вычисления коэффициента детерминации: 
 
где  
 
y_i — выборочные данные, а f_i — соответствующие им значения модели. 
 
Также это квадрат корреляции Пирсона между двумя переменными. Он выражает количество дисперсии, общей между двумя переменными. 
 
Коэффициент принимает значения из интервала [0;1]. Чем ближе значение к 1 тем ближе модель к эмпирическим наблюдениям. 
 
В случае парной линейной регрессионной модели коэффициент детерминации равен квадрату коэффициента корреляции, то есть R² = r². 
 
Иногда показателям тесноты связи можно дать качественную оценку (шкала Чеддока) (приложение 3). 
 
Функциональная связь возникает при значении равном 1, а отсутствие связи — 0. При значениях показателей тесноты связи меньше 0,7 величина коэффициента детерминации всегда будет ниже 50 %. Это означает, что на долю вариации факторных признаков приходится меньшая часть по сравнению с остальными неучтенными в модели факторами, влияющими на изменение результативного показателя. Построенные при таких условиях регрессионные модели имеют низкое практическое значение. 
 
Выводы 
 
В настоящее время регрессионный анализ используется как в естественнонаучных исследованиях, так и в обществоведении. 
 
Уравнение регрессии позволяет найти значение зависимой переменной, если величина независимой или независимых переменных известна.  
 
Практически, речь идет о том, чтобы, анализируя множество точек на графике (т.е. множество статистических данных), найти линию, по возможности точно отражающую заключенную в этом множестве закономерность (тренд, тенденцию),  линию регрессии.  
 
Задачи регрессионного анализа лежат в сфере установления формы зависимости, определения функции регрессии, использования уравнения для оценки неизвестных значений зависимой переменной. 
 
Решение задач основывается на анализе соответствующих параметров (статистических данных) в которых всегда неизбежно присутствуют отклонения, вызванные случайными ошибками. Поэтому существуют специальные методы оценки как уравнения регрессии в целом, так и отдельных ее параметров. 
Глава 2. Практическое применение регрессионного анализа в эконометрике 
 
Задача 1 
 
По территории региона приводятся данные за 2007 (табл. 2.1).

 
Построить линейное уравнение  парной регрессии у от х. 
 
Решение: для расчета параметров уравнения линейной регрессии строим расчетную таблицу (табл. 2.2)

 
b=xy-y*x/∑x²-(x)²=(13484-85,6*155,8)/(7492,3-85,6²)=151,8/164,94=0,92 
 
a=y-b*x=155,8-0,92*85,6=77,0 
 
Получено уравнение регрессии: у=77,0+0,92*х. 
 
С увеличением среднедушевого прожиточного минимума на 1 рубль среднедневная заработная плата возрастает в среднем на 0,92 рубля. 
 
Задача 2 
 
По семи территориям Уральского района за 2008 г. Известны значения двух признаков (табл. 2.3).

 
Определить: 

1.  
   Для характеристики зависимости у от х рассчитать параметры следующих функций:

 
А. линейной, ценить ее через F-критерий Фишера. 
 
Б. степенной 
 
Решение: 
 
1.А. Для расчета параметров а и b линейной регрессии ŷ_x=а+b*x решаем систему нормальных уравнений относительно а и b: 
 
n*a+b∑x=∑y, 
 
a∑x+b∑x²=∑y*x. 
 
По исходным данным рассчитываем: ∑x, ∑y, ∑x², ∑y*x, ∑y². (Табл. 2.4) 
 
b= yx-y*x/ σ_x²=(3166,05-57,89*54,9)/(5,86)²=-0,35; 
 
a=y-b*x=57,89+0,35*54,9=76,88. 
 
Уравнение регрессии: ŷ=76,8-0,35*х

 
С увеличением среднедневной  заработной платы на 1 рубль доля расходов на покупку продовольственных  товаров снижается в среднем  на 0,35%-ных пункта. 
 
Рассчитаем линейный коэффициент парной корреляции: 
 
r_xy=b*σ_x /σ_y=-0,35*5,86/5,74=-0,357. 
 
Связь умеренная, обратная. 
 
Определим коэффициент детерминации: 
 
r²_xy=(-0,35)²=0,127. 
 
Вариация результата на 12,7% объясняется вариацией фактора х. 
 
Рассчитаем F-критерий: 
 
F_факт= r²_xy*(n-2)/(1- r²_xy)=0,127*5/0,873=0,7. 
 
Поскольку 1≤F≤∞, следует рассмотреть F^-1. 
 
Полученное значение указывает на необходимость принять гипотезу Н₀ о случайной природе выявленной зависимости и статистической незначимости параметров уравнения и показателя тесноты связи. 
 
1.Б. построению степенной модели ŷ_x=а*x^b предшествует процедура линеаризации переменных. В примере линеаризация производится путем логарифмирования обеих частей уравнения: 
 
lg y=lg a + b*lg x; 
 
Y = C + b*X, где 
 
Y = lg y, X = lg x, С = lg a. 
 
Для расчетов построим таблицу (табл. 2.5)

 
Рассчитаем С и b: 
 
b=(YX-Y*X)/ σ²_X=3,0572-1,7605*1,7370/0,0484²=-0,298; 
 
C=Y-b*X=1,7605+0,298*1,7370=2,278. 
 
Получим линейное уравнение: Ŷ=2,278-0,298*Х. 
 
Выполнив его потенцирование, получим: 
 
ŷ=10^2,278*х^-0,298=189,7* х^-0,298. 
 
Выводы 
 
В практических исследованиях возникает необходимость аппроксимировать (описать приблизительно) зависимость между переменными величинами у и х. Ее можно выразить аналитически с помощью формул и уравнений и графически в виде геометрического места точек в системе прямоугольных координат. Для выражения регрессии служат эмпирические и теоретические ряды, их графики — линии регрессии, а также корреляционные уравнения (уравнения регрессии) и коэффициент линейной регрессии. 
 
Показатели регрессии выражают корреляционную связь двусторонне, учитывая изменение средней величины   признака у при изменении значений x_i признака х, и, наоборот, показывают изменение средней величины   признака х по измененным значениям y_i признака у. 
 
Форма связи между показателями может быть разнообразной. И поэтому задача состоит в том, чтобы любую форму корреляционной связи выразить уравнением определенной функции (линейной, параболической и т.д.), что позволяет получать нужную информацию о корреляции между переменными величинами у и х, предвидеть возможные изменения признака у на основе известных изменений х, связанного с у корреляционно. 
Заключение 
 
В настоящее время регрессионный анализ используется как в естественнонаучных исследованиях, так и в обществоведении. 
 
В практических исследованиях возникает необходимость аппроксимировать (описать приблизительно) зависимость между переменными величинами у и х. Ее можно выразить аналитически с помощью формул и уравнений и графически в виде геометрического места точек в системе прямоугольных координат. Для выражения регрессии служат эмпирические и теоретические ряды, их графики — линии регрессии, а также корреляционные уравнения (уравнения регрессии) и коэффициент линейной регрессии. 
 
Показатели регрессии выражают корреляционную связь двусторонне, учитывая изменение средней величины   признака у при изменении значений x_i признака х, и, наоборот, показывают изменение средней величины   признака х по измененным значениям y_i признака у. 
 
Форма связи между показателями может быть разнообразной. И поэтому задача состоит в том, чтобы любую форму корреляционной связи выразить уравнением определенной функции (линейной, параболической и т.д.), что позволяет получать нужную информацию о корреляции между переменными величинами у и х, предвидеть возможные изменения признака у на основе известных изменений х, связанного с у корреляционно. 
 
Уравнение регрессии позволяет найти значение зависимой переменной, если величина независимой или независимых переменных известна.  
 
Практически, речь идет о том, чтобы, анализируя множество точек на графике (т.е. множество статистических данных), найти линию, по возможности точно отражающую заключенную в этом множестве закономерность (тренд, тенденцию),  линию регрессии.  
 
Задачи регрессионного анализа лежат в сфере установления формы зависимости, определения функции регрессии, использования уравнения для оценки неизвестных значений зависимой переменной. 
 
Решение задач основывается на анализе соответствующих параметров (статистических данных) в которых всегда неизбежно присутствуют отклонения, вызванные случайными ошибками. Поэтому существуют специальные методы оценки как уравнения регрессии в целом, так и отдельных ее параметров. 
 
Построение линейной регрессии сводится к оценке ее параметров – a и b. Оценки параметров линейной регрессии могут быть найдены разными методами. Классический подход к оцениванию параметров линейной регрессии основан на методе наименьших квадратов 
 
В прогнозных расчетах по уравнению регрессии путем подстановки в него соответствующего значения х определяется предсказываемое значение. Однако точечный прогноз явно не реален. Поэтому он дополняется расчетом стандартной ошибки ŷ_x, то есть m_ŷx, и соответственно интервальной оценкой прогнозного значения (у^*). 
 
После того как найдено уравнение линейной регрессии, проводится оценка значимости как уравнения в целом, так и отдельных его параметров. Оценка значимости уравнения регрессии в целом дается с помощью F-критерия Фишера.  
 
 
Библиографический список