2 Лінійний регресійний аналіз

Найпростішим прикладом лінійної регресії є парна лінійна регресія, коли залежність приймає вигляд:

,

де - параметри (коефіцієнти) регресії.

Ці параметри мають якісь істинні значення в генеральної сукупності, але вони не відомі. Суть побудови моделі парної лінійної регресії полягає в тому, щоб за даними спостережень найкращим чином оцінити значення параметрів.

Можна виділити основні етапи парного лінійного регресивного аналізу:

Оцінка значень параметрів рівняння за даними спостережень (калібрування моделі).

Аналіз якості отриманої моделі.

Інтерпретація моделі, тобто визначення економічного сенсу отриманих оцінок значень параметрів.

Побудова прогнозів на основі отриманої моделі.

Ці основні етапи характерні як для парної, так і для множинної регресії.

Оцінка значень параметрів парної лінійної регресії.

Класичний підхід до оцінювання параметрів лінійної регресії заснований на методі найменших квадратів (МНК). Суть методу МНК полягає у пошуку лінійної функції, яка мінімізує суму квадратів відхилень фактичних (спостережуваних) значень від розрахункових (модельних):

.

Використовуючи методи диференціального обчислення можна довести, що оцінки параметрів парної лінійної регресії можуть бути отримані з системи лінійних рівнянь:

.

Параметри рівняння регресії визначаються формулами:

.

Аналіз якості отриманої моделі.

Якщо модель добре описує вихідні спостереження, то між фактичними значеннями результуючого ознаки та відповідними теоретичними значеннями, знайденими за рівнянням регресії, повинна існувати тісна залежність. Її можна оцінити коефіцієнтом кореляції:

.

Якщо значення коефіцієнта кореляції близько до одиниці, це свідчить про високу якість моделі. Квадрат коефіцієнта кореляції називається коефіцієнтом детермінації R². Він показує питому вагу варіації результуючого ознаки, яку пояснює рівняння регресії, в його загальній варіації.

Ще одним критерієм якості виступають відхилення і, і їх дисперсія. Існує два шляхи розгляду відхилень, отриманих в результаті оцінювання рівняння регресії. З одного боку, чим більше залишки, тим гірше регресія і тим менше коефіцієнт кореляції. Проте залишки, що розглядаються окремо, вказують, коли і в якій мірі побудована модель не змогла пояснити фактичні дані. Витяг користі з такого аналізу вимагає від дослідника великого терпіння. Якщо вибірка досить мала, то вам слід дуже уважно розглянути кожне спостереження з великим від'ємним чи позитивним відхиленням і спробувати знайти для них гіпотетичне пояснення. Якщо вам вдасться виявити закономірність у відхиленнях по декількох спостереженнями, то це великий крок вперед. Наступним кроком має бути знаходження розумного способу для кількісного опису даного чинника і включення його в модель.

Додатковими критеріями адекватності отриманої моделі є оцінка значущості (суттєвості) рівняння регресії в цілому та окремих його параметрів. Оцінка значущості рівняння регресії в цілому проводиться за допомогою F-критерію, а оцінка статистичної значущості параметрів моделі припускає використання t-критерію.

Інтерпретація парної лінійної регресії.

Інтерпретація параметрів парної лінійної регресії полягає в наступному

По-перше, збільшення значення х на одну одиницю (в одиницях виміру змінної х) призведе до збільшення або зменшення (залежно від знака коефіцієнта) значення у на а1, одиниць (в одиницях виміру змінної у).

По-друге, величина коефіцієнта а0 дає прогнозоване значення у, якщо х = 0. Це може мати або не мати ясний зміст в залежності від конкретної ситуації.

По-третє, визначається коефіцієнт еластичності Е:

.

Коефіцієнт еластичності показує, на скільки відсотків в середньому зміниться результат, якщо значення фактора х зміниться на 1%. В силу того, що коефіцієнт еластичності для лінійної функції не є величиною постійною, а залежить від відповідного значення х, то звичайно розраховується середній показник еластичності за формулою:

.

Величина цього коефіцієнта показує, на скільки відсотків в середньому зміниться результат, якщо значення фактора х в середньому зміниться на 1%.

В оцінці можна пов'язати значення коефіцієнтів еластичності з поправками на різні види ризиків при розрахунку ставки дисконту, а також з поправками при коригуванні вартості об'єктів порівняння.

Побудова прогнозів на основі отриманої моделі.

Основним застосуванням отриманого рівняння регресії є прогнозування значення результуючого ознаки при заданому значенні факторного ознаки. Розрізняють точкове і інтервальне прогнозування. У першому випадку оцінка - це конкретне число, в другому - інтервал, який накриває істинне значення результату із заданою вірогідністю.

Точковий прогноз виходить при підстановці прогнозного значення факторної змінної х в рівняння регресії.

Процедура побудови інтервальних прогнозів вимагає певних навичок в обробці статистичних даних і знання апарату матричної алгебри. Для практичного застосування можна скористатися кілька спрощеною методом побудови інтервальних прогнозів. Для цього необхідно обчислити дисперсію відхилень. Її значення визначається за формулою:

.

Якщо вважати, що розподіл точкової оцінки близько до нормального, то абсолютна похибка при досить великій кількості вимірів може бути отримана наступним чином:

,

де - критичне значення t-статистики при рівні значущості і числі ступенів свободи .

Тоді інтервальний прогноз результуючого показника буде мати вигляд:

.

Інтерпретація отриманого результату наступна: справжнє значення прогнозованого показника у з імовірністю накривається зазначеним відрізком.

Множинний лінійний аналіз

Розглянемо узагальнену модель множинної регресії:

,

Лінійне рівняння, що не включає в себе відхилення u, з конкретними значеннями регресійних коефіцієнтів називається емпіричним рівнянням регресії:

.

Включення в рівняння множинної регресії того чи іншого факторного ознаки пов'язано, насамперед, з уявленнями дослідника про природу взаємозв'язку результуючого показника з іншими економічними та фізичними показниками, що характеризують даний об'єкт. Факторні змінні, що включаються у множинну регресію, повинні відповідати таким вимогам:

Вони повинні бути кількісно вимірні. Якщо необхідно включити в модель якісний фактор, то йому потрібно надати кількісну визначеність.

Фактори повинні бути незалежними один від одного. Порушення цієї умови називається мультиколінеарністью.

Основні етапи побудови (після проведення специфікації) множинної лінійної регресійної моделі збігаються з аналогічними етапами, розглянутими для парної лінійної регресії.

Оцінка параметрів множинної лінійної регресії.

Значення оцінок коефіцієнтів рівняння регресії можуть бути отримані в результаті застосування методу найменших квадратів (МНК). Рішення зводиться до системи рівнянь:

.

Аналіз якості отриманої моделі.

Оцінка параметрів конкретного рівняння регресії є лише окремим етапом тривалого і складного процесу побудови регресійної моделі. Перше ж отримане рівняння дуже рідко є задовільним в усіх відношеннях. Зазвичай доводитися поступово итеративно підбирати форму зв'язку і склад факторних змінних, тобто повертатися до етапу специфікації моделі, аналізуючи кожен раз якість отриманої моделі.

Розглянемо найбільш часто використовувані показники якості лінійної регресійної моделі.

1. Дисперсія відхилень:

.

2. Стандартне відхилення результату:

.

3. Коефіцієнт варіації результуючого ознаки

.

Він може служити критерієм прогнозних якостей отриманої регресійної моделі. Чим він менший, тим вище прогнозні якості моделі.

4. Перевірка статистичної значущості коефіцієнтів рівняння регресії проводиться за допомогою t-критерію.

5. Коефіцієнт детермінації (квадрат коефіцієнта множинної кореляції):

.

Він використовується для аналізу загальної якості отриманої регресійної моделі. З цього виразу очевидний сенс коефіцієнта детермінації: він показує частку дисперсії, пояснюється регресією в загальній дисперсії. Коефіцієнт детермінації завжди лежить межах: . Чим ближче значення коефіцієнта детермінації до одиниці, тим краще функція описує вихідний ряд. Недоліком коефіцієнта детермінації є те, що введення в рівняння додаткової змінної (навіть незначною) завжди збільшує його значення.

Точну кордон прийнятності показника D вказати для всіх випадків неможливо. Треба брати до уваги й обсяг вибірки, і змістовну інтерпретацію рівняння.

6. Скоригований (нормований) коефіцієнт детермінації:

.

Він виключає вищеназваний недолік, властивий коефіцієнту D. До такої коригуванні особливо часто вдаються, якщо обсяг вибірки менше 30.

Необхідність введення скоригованого коефіцієнта детермінації диктується тим, що при збільшенні числа змінних звичайний коефіцієнт детермінації практично завжди збільшується, але зменшується число ступенів свободи (nk-1). Введена коригування завжди зменшує значення D, оскільки (n-1)> (nk-1). У результаті величина може стати негативною. Це означає, що величина D була близька до нуля до коригування, і пояснюється за допомогою рівняння регресії частка дисперсії змінної у дуже мала.

З двох варіантів регресійних моделей, які відрізняються величиною скоригованого коефіцієнта детермінації, але мають однаково хороші інші критерії якості, переважно варіант з великим значенням скоригованого коефіцієнта детермінації.

7. Перевірка значущості рівняння регресії в цілому проводиться за допомогою F-критерію.

Розрахункове значення цього критерію визначається за формулою:

.

Розрахункове значення порівнюється з критичним рівнем, який залежить від рівня значущості, числа ступенів свободи , числа ступенів свободи . Якщо розрахункове значення більше критичного - рівняння в цілому значимо.

8. На якість моделі впливає також ступінь виконання основних передумов множинної лінійної регресійної моделі. До таких передумов відносяться передумови про незалежність і однаковою распределейності відхилень, крім того відхилення повинні мати нульове середнє; передумова про невипадковість і незалежності пояснюють змінних. Якщо передумови порушуються, то погіршуються властивості оцінок параметрів регресії.

Інтерпретація рівняння регресії.

Множинний регресійний аналіз дозволяє розмежувати вплив факторних змінних. Коефіцієнт регресії при кожній змінній дає оцінку її впливу на величину у у разі зміни хj на одиницю, при незмінності всіх інших змінних. Однак, слід зауважити, що не завжди коефіцієнти піддаються змістовній інтерпретації. Особливо проблематично це у випадку, коли якісні змінні були перетворені в кількісні, і в такому вигляді введені в регресійну модель. Якщо інтерпретація принципово важлива в конкретної практичної задачі, то можна використовувати, якщо включається в модель якісна ознака має не два, а кілька значень, використовувати систему бінарних (тобто приймають два значення 0 і 1) змінних.

На практиці іноді поряд зі «звичайними» регресійний коефіцієнтами застосовуються стандартизовані регресійні коефіцієнти:

.

Гідність стандартизованих коефіцієнтів регресії полягає в тому, що вони є безрозмірними величинами. Завдяки цьому вони можуть використовуватися для порівняльного аналізу внеску кожної факторної змінної в формування результуючого показника: чим більше його величина, тим більше вплив факторного ознаки на зміну результуючого.

Для визначення ступеня впливу факторних змінних на результуючу змінну без урахування одиниць їх вимірювання використовується також коефіцієнт еластичності:

.

Змістовний сенс коефіцієнта еластичності: якщо, за інших рівних умов (тобто значення інших пояснюють змінних не зміняться), i-ая змінна зміниться на один відсоток, то яка пояснюється змінна зміниться на Е відсотків.

Може використовувати середній показник еластичності. Величина цього коефіцієнта показує, на скільки відсотків в середньому зміниться результат, якщо значення фактора в середньому змінитися на 1%.

Побудова прогнозів на основі отриманої моделі.

Застосування регресійних моделей в оціночної діяльності в основному зводиться до отримання прогнозних значень різних параметрів для оцінюваного об'єкта. Зазвичай термін «прогнозування» використовується в тих ситуаціях, коли потрібно передбачити значення даного параметра в майбутньому. Для регресійних моделей він має більш широкий зміст. Дані можуть не мати тимчасової структури, але і в цих випадках цілком може виникнути задача: оцінити значення результуючої змінної для деякого набору факторних змінних, яких немає у вихідній вибірці. Саме в цьому сенсі найчастіше розуміється прогнозування в оцінці.

Всі процедури з побудови точкових та інтервальних прогнозів, описані для парної лінійної регресії, застосовуються в тому ж вигляді і в тій же послідовності і для множинної лінійної регресії.

Інтервальний прогноз вказує нижню і верхню межу відрізка, що накриває істинне значення прогнозованого показника і якщо вважати, що розподіл точкових оцінок є нормальним і обсяг вибірки досить великий, визначається виразом:

.