Понятие регрессионного анализа: результирующая (зависимая, эндогенная) переменная У и объясняющие (предикторные, экзогенные) переменные Х,

 

 

 

 

 

 
      
     Рис. 3

 
     Как следует из рис. 3, зона, где расположены остатки, расширяется, поэтому следует подобрать другую математическую зависимость. Такие же выводы получены при проверке на точность зависимости между переменными по коэффициенту точности выравнивания линии r₁.

В матричной форме регрессионная  модель имеет вид

 

    (4)

Где – случайный вектор – столбец размерности (n×1) наблюдаемых значений результативного признака;

Х – матрица размерности [n×(k+1)] наблюдаемых значений аргументов;

 – вектор-столбец размерности  [(k+1) ×1] неизвестных, подлежащих оценке параметров (коэффициентов регрессии) модели;

 – случайный вектор-столбец  размерности (n×1) ошибок наблюдений (остатков). Компоненты вектора независимы между собой, имеют нормальный закон распределения с нулевым математическим ожиданием ( ) и неизвестной дисперсией ( ).

Так как в регрессионном анализе  x_ij рассматривают как неслучайные величины, а , то уравнение регрессии имеет вид:

    (5)

1.3  Задачи  регрессионного анализа 

 

С помощью  уравнения регрессии y=ƒ(x₁,x₂,…x_ħ), применяемого для экономического анализа, можно измерить влияние отдельных факторов на зависимую переменную, что делает анализ конкретным, существенно повышает его познавательную ценность, уравнения регрессии также применяются в прогнозных работах.

Построение  уравнения регрессии предполагает решение двух основных задач.

Первая  задача заключается в выборе независимых  переменных, оказывающих существенное влияние на зависимую величину, а  также в определении вида уравнения  регрессии.

Вторая  задача построения уравнения регрессии  – оценивание параметров (коэффициентов) уравнения. Она решается с помощью  того или иного математического  метода обработки данных. В связи  с тем, что оценки параметров уравнения являются выборочными характеристиками, в процессе оценивания необходимо проводить статистическую проверку существенности полученных параметров.

Выбор уравнения  регрессии осуществляется в соответствии с экономической сущностью изучаемого явления. Процессы, где влияние факторов – аргументов происходит с постоянным ускорением или замедлением, описываются  параболическими кривыми. Иногда в  экономике для описания зависимостей используются и более сложные  виды функций, например, логистические, если процесс сначала ускоренно  развивается, а затем после достижения некоторого уровня затухает и приближается к некоторому пределу.

Наиболее  простыми видами зависимости являются линейные, или приводимые к ним.

На практике чаще встречаются следующие виды уравнений регрессии:

1. - двумерное линейное;
2. - полиноминальное;
3.   - гиперболическое;
4. - линейное многомерное;
5. - степенное.

Линейной  с точки зрения регрессионного анализа  называется  - модель, линейная относительно неизвестных параметров β_j.

Определить  тип уравнения можно, исследуя зависимость  графически. Однако существуют более  общие указания, позволяющие выявить  уравнение связи, не прибегая к графическому изображению. Если результативный и факторный признаки возрастают одинаково, примерно в арифметической прогрессии, то это свидетельствует о том, что связь между ними линейная, а при обратной связи – гиперболическая. Если результативный признак увеличивается в арифметической прогрессии, а факторный – значительно быстрее, то используется параболическая или степенная регрессии.

Оценка  параметров уравнений регрессии (b₀, b₁ и b₂  - в уравнении параболы второго порядка) осуществляется методом наименьших квадратов, в основе которого лежит предположение о независимости наблюдений исследуемой совокупности.

Основной  принцип метода наименьших квадратов  можно рассмотреть на следующем  примере: считаем, что  две величины (два показателя) X  и Y взаимосвязаны между собой, причем Y находится в некоторой зависимости от  Х. Следовательно, Y будет зависимой, а Х – независимой величинами.

Сущность  метода наименьших квадратов заключается  в нахождении параметров модели (b₀, b₁), при которых минимизируется сумма квадратов отклонений эмпирических (фактических) значений результативного признака от теоретических, полученных по выбранному уравнению регрессии:

S = Σ (Yi – Yx)² → min

Для прямой зависимости:

S = Σ (y – b0 – b1x)² → min

 

Откуда  система нормальных уравнений для  нахождения параметров линейной парной регрессии методом наименьших квадратов  имеет следующий вид:

 

nb₀ + b₁Σx = Σy;

b₀Σ + b₁Σx² = Σxy,

где n – объем исследуемой совокупности (число единиц наблюдений).

В уравнениях регрессии параметр b₀ показывает усредненное влияние на результативный признак неучтенных (не выделенных для исследования) факторов; параметр b₁  (а в уравнении параболы и b₂) – коэффициент регрессии показывает, насколько изменяется в среднем значение результативного признака при увеличении факторного на единицу собственного измерения.

Метод наименьших квадратов обладает тем замечательным  свойством, что делает число нормальных уравнений равным числу неизвестных  коэффициентов.

Применение  метода наименьших квадратов объясняется  неизбежным наличием случайных ошибок в результатах опыта.

Статистические  данные обладают ошибками упрощения, которые  возникают как следствие:

• неполноты охвата, потому что часть единиц совокупности, полученных в результате наблюдения, не может быть использована в исследовании;
• неполноты факторов, определяющих то или иное социально-экономическое явление, в силу того, что ни в одно уравнение, или модель, нельзя включить бесконечное число аргументов (во всех случаях отбирается только часть воздействующих факторов, причем отбор носит чисто субъективный характер);
• Характера выбранного уравнения связи. Как бы хорошо оно ни было обосновано, как бы теоретически адекватно ни описывало исследуемое явление, оно не может быть его точным аналогом.

Решение вопроса о возможности использования  метода наименьших квадратов для  изучения связей между социально-экономическими явлениями зависит от свойства оценок, получаемых с помощью этого метода.

Даже  при сравнительно небольшом числе  наблюдений применение метода наименьших квадратов позволяет получить достаточные  оценки.

Метод наименьших квадратов также может быть использован  в случаях проведения анализа  косвенных наблюдений, являющихся функциями  многих неизвестных.

Проверка  адекватности моделей, построенных  на основе уравнений регрессии, начинается с проверки значимости каждого коэффициента регрессии.

 

G_{расчетная}=/å    (6),

где – максимальная дисперсия,

å - суммарная дисперсия.

Если  G_{расчетная} ≤ G_табл, то гипотеза об однородности принимается.

Значимость  коэффициентов регрессии осуществляется с помощью t-критерия Стьюдента:

     (7),

где  σ²b_i – дисперсия коэффициента регрессии.

Пример модели признан статистически значимым, если

t_p > t_таьл

Проверка  адекватности всей модели осуществляется с помощью расчета F-критерия и величины средней ошибки аппроксимации ε.

Значение  F-критерия Фишера определяется по следующей формуле:

   (8),

 

где yi – теоретические значения результативного признака, полученные по уравнению регрессии;

n – объем исследуемой совокупности;

к – число факторных признаков в модели.

Если  Fp > Fά при ά = 0,05, то Н₀ – гипотеза о несоответствии заложенных в уравнении регрессии связей реально существующим – отвергается.

 

 

 

2.  Понятия регрессионного анализа: результирующая (зависимая, эндогенная) переменная У и объясняющие (предикторные, экзогенные), переменные Х, функция регрессии у по Х

Результирующая (зависимая, эндогенная) переменная (или признак) y характеризует результат или эффективность функционирования анализируемой экономической модели (системы). Ее значения формируются в процессе и внутри функционирования системы под воздействием ряда других переменных и факторов, часть из которых поддается регистрации и, в определенной степени, управлению и планированию (эту часть принято называть объясняющими переменными). В регрессионном анализе результирующая переменная выступает в роли функции, значения которой определяются (правда, с некоторой случайной погрешностью) значениями упомянутых выше объясняющих переменных, выступающих в роли аргументов. Поэтому по своей природе результирующая переменная – всегда случайная величина.

Объясняющие (экзогенные) переменные (или признаки)   – поддающиеся регистрации, описывающие условия функционирования системы (модели) – в существенной мере определяют процесс формирования значений результирующей переменной, как правило, часть из которых поддается хотя бы частичному управлению и регулированию. Значение ряда объясняющих переменных задается как бы извне анализируемой системы, их принято называть экзогенными переменными. В регрессионном анализе они играют роль аргументов той функции, в качестве которой рассматривается анализируемый результирующий показатель y. По своей природе объясняющие переменные могут быть как случайными, так и не случайными величинами.

Функция регрессии y по X называется зависимость у = f ( ), если она описывает изменения условного среднего значения результирующей переменной y (при условии, что значения объясняющих переменных X, зафиксированных на уровне  ) в зависимости от изменения значений   объясняющих переменных. Математически это определение можно записать в виде

f (

) = M (y | X =  ),

или в целях упрощения 

f (х) = M (y | X)       (9).

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

3.Возмущения

В регрессионном  анализе рассматривается односторонняя зависимость случайной зависимой переменной Y от одной (или нескольких) неслучайной независимой переменной X, называемой часто объясняющей переменной. Такая зависимость может быть представлена в виде модельного уравнения регрессии. В силу воздействия неучтенных случайных факторов и причин отдельные наблюдения у будут в большей или меньшей мере отклоняться от функции регрессии φ(х). В этом случае уравнение взаимосвязи двух переменных (парная регрессионная модель) может быть представлена в виде: у =φ(х)+ε, где ε — случайная переменная, характеризующая отклонение от функции регрессии. Эту переменную будем называть возмущающей или просто возмущением. Таким образом, в регрессионной модели зависимая переменная Y есть некоторая функция φ(х) с точностью до случайного возмущения ε.

Рассмотрим линейный регрессионный анализ, для которого функция ф(х) линейна относительно оцениваемых параметров: 
 
(10) 
 
Предположим, что для оценки параметров линейной функции регрессии (10) взята выборка, содержащая п пар значений переменных (x_i ,п_i), где i=1,2,..., п.  
В этом случае линейная парная регрессионная модель имеет вид: 
 
(11) 
 
Отметим основные предпосылки регрессионного анализа: 
1. Зависимая переменная у_i,- (или возмущения ε) есть величина случайная, а объясняющая переменная x_i — величина неслучайная. 
2. Математическое ожидание возмущения ε_i равно нулю M(ε_i)= 0. (12) 
3. Дисперсия зависимой переменной у_i, (или возмущения ε_i ) постоянна для любогоD(ε_i )=σ² (13) 
4. Переменные у_i,и у_j (или возмущения ε и ε_i ) не коррелированы: 
M(εε_i )=0(14) 
5. Зависимая переменная у_i, (или возмущение ε_i,) есть нормально распределенная случайная величина. 
Для получения уравнения регрессии достаточно первых четырех предпосылок. Требование выполнения пятой предпосылки (т.е. рассмотрение «нормальной регрессии») необходимо для оценки точности уравнения регрессии и его параметров. Оценкой модели (11) по выборке является уравнение регрессии у_х=Ьо+Ь_1x (15). Параметры этого уравнения Ь₀ и Ь определяются на основе метода наименьших квадратов.  
Воздействие неучтенных случайных факторов и ошибок наблюдений в модели (11) определяется с помощью остаточной дисперсии σ². Оценкой этой дисперсии является выборочная остаточная дисперсия 
 
 (16) 
 
где у_xi, — групповая средняя, найденная по уравнению регрессии; е_i = у_xi - у_i,, — выборочная оценка возмущения е.