Автор работы: Пользователь скрыл имя, 18 Июня 2013 в 08:07, контрольная работа
Оцінка параметрів простої лінійної моделі методом найменших квадратів
Оцінити параметри простої лінійної регресії, знайти коефіцієнти кореляції та детермінації. Оцінити її адекватність.
(b - tкрит Sb; b + tкрит Sb)
(1.2393 - 1.86 • 0.8909; 1.2393 + 1.86 • 0.8909)
(-0.4178;2.8963)
З імовірністю 95% можна стверджувати, що значення даного параметра будуть лежати в знайденому інтервалі.
(a - tкрит Sa; a + tкрит Sa)
(7.9001 - 1.86 • 14.7547; 7.9001 + 1.86 • 14.7547)
(-19.5436;35.3438)
З імовірністю 95% можна стверджувати, що значення даного параметра будуть лежати в знайденому інтервалі.
2) F-статистики. Критерій Фішера.
Перевірка значущості моделі регресії проводиться з використанням F-критерію Фішера, розрахункове значення якого знаходиться як відношення дисперсії вихідного ряду спостережень показника, що вивчається і незміщеної оцінки дисперсії залишкової послідовності для даної моделі.
Якщо розрахункове значення з k1=(m) i k2=(n-m-1) ступенями свободи більше табличного при заданому рівні значимості, то модель вважається значущою.
де m – число факторів в моделі.
Оцінка статистичної значущості парної лінійної регресії проводиться за наступним алгоритмом:
1. Висувається нульова гіпотеза про те, що рівняння в цілому статистично незначимо: H0: R2=0 на рівні значущості α.
2. Далі визначають фактичне значення F-критерію:
де m=1 для парної регресії.
3. Табличне значення визначається за таблицями розподілу Фішера для заданого рівня значущості, беручи до уваги, що число ступенів свободи для загальної суми квадратів (більшої дисперсії) дорівнює 1 і число ступенів свободи залишкової суми квадратів (меншою дисперсії) при лінійній регресії одно n-2.
4. Якщо фактичне значення F-критерію менше табличного, то говорять, що немає підстави відхиляти нульову гіпотезу.
В іншому випадку, нульова гіпотеза відхиляється і з імовірністю (1-α) приймається альтернативна гіпотеза про статистичну значимість рівняння в цілому.
Табличне значення критерію зі ступенями свободи k1=1 i k2=8, Fkp = 5.32
Оскільки фактичне значення F < Fkp, то коефіцієнт детермінації статистично незнач (Знайдена оцінка рівняння регресії статистично не надійна).
Перевірка на
наявність автокореляції
Важливою передумовою побудови якісної регресійної моделі по МНК є незалежність значень випадкових відхилень від значень відхилень у всіх інших спостереженнях. Це гарантує відсутність корельованості між будь-якими відхиленнями і, зокрема, між сусідніми відхиленнями.
Автокореляція (послідовна кореляція) визначається як кореляція між спостережуваними показниками, впорядкованими під часу (часові ряди) або у просторі (перехресні ряди). Автокорреляция залишків (відхилень) зазвичай зустрічається в регресійному аналізі при використанні даних тимчасових рядів і дуже рідко при використанні перехресних даних.
Критерій Дарбіна-Уотсона. Цей критерій є найбільш відомим для виявлення автокореляції.
При статистичному аналізі рівняння регресії на початковому етапі часто перевіряють здійснимість однієї передумови: умови статистичної незалежності відхилень між собою. При цьому перевіряється некорелірованні сусідніх величин ei.
y |
y(x) |
ei = y-y(x) |
e2 |
(ei - ei-1)2 |
32 |
24.01 |
7.99 |
63.83 |
0 |
32 |
21.53 |
10.47 |
109.58 |
6.14 |
12 |
26.49 |
-14.49 |
209.93 |
622.85 |
20 |
26.49 |
-6.49 |
42.11 |
64 |
22 |
27.73 |
-5.73 |
32.81 |
0.5787 |
25 |
27.73 |
-2.73 |
7.44 |
9 |
27 |
28.97 |
-1.97 |
3.87 |
0.5787 |
32 |
31.45 |
0.554 |
0.3069 |
6.36 |
39 |
32.69 |
6.31 |
39.88 |
33.19 |
40 |
33.92 |
6.08 |
36.91 |
0.0572 |
0 |
0 |
0 |
546.67 |
742.75 |
Для аналізу корельованості відхилень використовують статистику Дарбіна-Уотсона:
Критичні значення d1 i d2 визначаються на основі спеціальних таблиць для необхідного рівня значущості α, числа спостережень n = 10 і кількості пояснюють змінних m=1.
Автокореляція відсутня, якщо виконується така умова:
d1 < DW i d2 < DW < 4 - d2.
Не звертаючись до
таблиць, можна користуватися приблизним
Оцінка параметрів багатофакторної лінійної регресії
Оцінити параметри моделі лінійної багатофакторної регресії. Побудувати кореляційну матрицю. Зробити висновки про зв'язок між факторами і результативним показником. Оцінити адекватність моделі.
Вхідні дані задачі.
у |
х1 |
х2 |
9 |
11 |
5 |
10 |
12 |
5 |
14 |
12 |
4 |
15 |
12 |
5 |
12 |
15 |
6 |
19 |
15 |
3 |
13 |
19 |
7 |
11 |
20 |
5 |
14 |
19 |
7 |
15 |
22 |
9 |
Рішення
1. Оцінений рівняння регресії.
Визначимо вектор оцінок коефіцієнтів регресії. Згідно з методом найменших квадратів, вектор виходить з виразу:
s = (XTX)-1XTY
Матриця X:
1 |
11 |
5 |
1 |
12 |
5 |
1 |
12 |
4 |
1 |
12 |
5 |
1 |
15 |
6 |
1 |
15 |
3 |
1 |
19 |
7 |
1 |
20 |
5 |
1 |
19 |
7 |
1 |
22 |
9 |
Матриця Y:
9 |
10 |
14 |
15 |
12 |
19 |
13 |
11 |
14 |
15 |
Матриця XT:
1 |
1 |
1 |
1 |
1 |
1 |
1 |
1 |
1 |
1 |
11 |
12 |
12 |
12 |
15 |
15 |
19 |
20 |
19 |
22 |
5 |
5 |
4 |
5 |
6 |
3 |
7 |
5 |
7 |
9 |
Множимо матриці, (XTX):
У матриці, (XTX) число 10, що лежить на перетині 1-го рядка і 1-го стовпця, отримано як сума творів елементів 1-го рядка матриці XT і 1-го стовпця матриці X.
Множимо матриці, (XTY):
Знаходимо зворотну матрицю (XTX)-1:
1.87 |
-0.0886 |
-0.0684 |
-0.0886 |
0.0134 |
-0.0217 |
-0.0684 |
-0.0217 |
0.0731 |
Вектор оцінок коефіцієнтів регресії дорівнює:
s = (XTX)-1XTY =
Рівняння регресії (оцінка рівняння регресії)
Y = 11.553 + 0.4153X1-0.8703X2
2. Матриця парних коефіцієнтів кореляції.
Число спостережень n = 10. Число незалежних змінних в моделі одно 2, а число регресорів з урахуванням одиничного вектора дорівнює кількості невідомих коефіцієнтів. З урахуванням ознаки Y, розмірність матриці стає рівним 4. Матриця (10 х 4). Матриця ХT Х визначається безпосереднім множенням або за такими попередньо обчисленими сумами.
Матриця складена з Y і X:
1 |
9 |
11 |
5 |
1 |
10 |
12 |
5 |
1 |
14 |
12 |
4 |
1 |
15 |
12 |
5 |
1 |
12 |
15 |
6 |
1 |
19 |
15 |
3 |
1 |
13 |
19 |
7 |
1 |
11 |
20 |
5 |
1 |
14 |
19 |
7 |
1 |
15 |
22 |
9 |
Матриця ATA:
10 |
132 |
157 |
56 |
132 |
1818 |
2095 |
734 |
157 |
2095 |
2609 |
922 |
56 |
734 |
922 |
340 |
Отримана матриця має наступне відповідність:
∑n |
∑y |
∑x1 |
∑x2 |
∑y |
∑y2 |
∑x1 y |
∑x2 y |
∑x1 |
∑yx1 |
∑x1 2 |
∑x2 x1 |
∑x2 |
∑yx2 |
∑x1 x2 |
∑x2 2 |
Знайдемо парні коефіцієнти кореляції.
1) Для y и x1 :
Рівняння має вигляд y = ax + b
Середні значення: