Материал: Методические указания к лабораторным работам №1-4 по дисциплине «Современные технологии обработки информации». Разинкин К.А

Решение.

1.По данным примера вычислим суммы квадратов Q_y, Q_x и сумму про­изведений Q_xy; n=5. Предварительно найдем средние значения:

;

Оценки параметров линейной регрессии по формулам (1) и (2) равны:

Таким образом, уравнение линейной регрессии Y на х имеет вид

у =0,451 + 0,577*x.

Аналогично, оценки параметров линейной регрессии X на у.

Уравнение линейной регрессии X на у имеет вид

х = 2,163 + l,091y

2. Диаграмма рассеяния исходных данных и прямая регрессии Y на х показана на рис. 1.

Рис. 1. Диаграмма рассеяния и прямая регрессии Y на х

3. Для линейной регрессии Y на х вычислим остатки:

…………………………………………

Остаточная сумма квадратов Q_e:

Q_e = (0,377)² + (0,478)² + (0,35)² + (-0,25)² + (-0,949)² 1,457.

Оценка дисперсии ошибок наблюдений

где — число оцениваемых параметров; для простой линейной регрессии

Коэффициент детерминации R²:

Оценка коэффициента корреляции r:

4. Вычислим оценки параметров линейной регрессии Y на х в матричном виде, используя формулу (3):

где ; А — регрессионная матрица:

Последовательно вычисляем:

Определитель матрицы В:

= det(A^TA)=37,6.

Обратная матрица к матрице В:

где — присоединенная матрица к матрице В, составленная из алгебраи­ческих дополнений к элементам матрицы В.

Далее вычисляем произведения матриц

Окончательно

Сравнивая полученные значения с результатами в п. 2 видно, что рас­хождение имеется только в третьем десятичном знаке [4].

5. Выполнение задания в пакете STATISTICA.

Откройте новый файл данных. В таблице удалите ненужные столбцы (Var-Delete) и строки наблюдений (Cases-Delete). Дайте имена пе­ременным: Y— зависимая переменная (Dependent), X— фактор (независи­мая переменная — Independent). В ячейки таблицы введите данные.

Построим график исходных данных. Для этого можно воспользовать­ся меню Graphs — графики и выбрать необходимый тип графика. В нашем примере мы воспользуемся двумерными диаграммами рассеяния (Stats 2D Graphs -» Scatterplots). В диалоговом окне при помощи кнопки Variables — Переменные выбе­рите необходимые переменные, которые вы хотите отобразить графически и необходимый тип графика.

В Переключателе модулей (STATISTICA Module Switcher) выберите модуль Множественная регрессия (Multiple Regression). После запуска мо­дуля на экране откроется стартовая панель модуля (рис. 2). Далее выбе­рите переменные для анализа (воспользуйтесь кнопкой Variables). В качест­ве зависимой переменной (Dependent) выберите У, в качестве независимой (Independent) — X. После определения зависимых и независимых перемен­ных на стартовой панели нажмите ОК. Появится окно с результатами вычислений (рис. 3).

Рис. 2. Стартовая панель модуля Multiply Regression

В диалоговом окне Результаты Множественной регрессии — Multiple Regression Results просмотрите результаты оценивания. Результаты можно просмотреть в численном и графическом виде. Окно результатов анализа имеет следующую структуру: верх окна — информационный. Он состоит из двух частей: в первой части содержится основная информация о результа­тах оценивания, во второй высвечиваются значимый стандартизованный регрессионный коэффициент X-beta=,793; стандартизованный коэффици­ент регрессии вычисляется по формуле

где s_x и s_y — оценки среднеквадратических отклонений для переменных х и у.

Рис. 3. Окно результатов множественной регрессии

Внизу окна Результаты множественной регрессии находятся функциональ­ные кнопки, позволяющие всесторонне рассмотреть результаты анализа.

Рассмотрим вначале информационную часть окна. В ней содержатся краткие сведения о результатах анализа. А именно:

• Dep.Var. — имя зависимой переменной (Y);

• No. of Cases — число наблюдений (объем выборки п), по которым построена регрессия (n = 5);

• Multiple R — коэффициент множественной корреляции (описывает степень линейной зависимости между Y и факторами); в случае простой линейной регрессии равен модулю коэффициента корреляции;

• R — square — RI — квадрат коэффициента множественной корреля­ции (коэффициент детерминации). Если регрессионная модель значима, то коэффициент детерминации равен той доле дисперсии ошибок наблюде­ний, которая объясняется регрессионной моделью.

Коэффициент детерминации, вычисляется по формуле

— Adjusted R-square: adjusted RI— скорректированный коэффициент де­терминации

где п — число наблюдений, а k — число оцениваемых параметров регресси­онной модели; для простой линейной регрессии k = 2, так как определяют­ся оценки двух параметров и ;

— Std. Error of estimate — среднее квадратическое отклонение ошибок наблюдений

• Intercept — оценка свободного члена регрессии ;

• Std. Error — стандартная ошибка оценки свободного члена ;

• t(n-k) and p-value — выборочное значение /-статистики и вычислен­ного уровня значимости р.

t-статистика используется для проверки гипотезы : = 0:

Уровень значимости , где Т(п - к) — случайная ве­личина, имеющая распределение Стьюдента с (я - к) степенями свободы, — выборочное значение t-статистики.

Если , где — заданный уровень значимости, то гипотеза H₀: принимается.

В данном случае р = 0,823749, следовательно гипотеза H₀: прини­мается.

— F—выборочное значение F-статистики, F_B. F-статистика используется для проверки гипотезы H₀: .

Если гипотеза H₀: верна, то статистика F имеет распределение Фишера с (к- 1) и (n - к) степенями свободы.

Гипотеза H₀ принимается на уровне значимости , если выборочное значение статистики F, F_B, меньше - квантили распреде­ления Фишера порядка 1 - . Если гипотеза H₀: принимается, то рег­рессионная модель незначима.

• df— число степеней свободы F -статистики: (к- 1; n-к).

• р — вычисленный уровень значимости.

Вычисленный уровень значимости р: р = P[F(k - 1; п - k) > F_B], где F_B — выборочное значение F -статистики.

Если р < а, то гипотеза H₀: отклоняется; если р> , то гипотеза H₀: принимается.

В данном примере р = 0,109278, следовательно гипотеза H₀: при­нимается на уровне значимости = 0,05. Регрессионная модель незначима.

Функциональные кнопки. При нажатии кнопки Regression Summary — Результаты регрессии на экране появится следующая таблица с результата­ми анализа (рис. 4.):

Во втором столбце таблицы (BETA) выводится стандартизованный ко­эффициент регрессии

где s_x и s_y — оценки среднеквадратических отклонений для переменных х и у.

Рис. 4. Результаты регрессии

Стандартизированные коэффициенты регрессии — безразмерные вели­чины[2].

В случае множественной регрессии стандартизованные коэффициенты регрессии используются для сравнения влияния на зависимую переменную факторов, имеющих различную размерность.

В четвертом столбце (В) приведены МНК-оценки коэффициентов рег­рессии: и .