10) Кореляційний аналіз

При проведенні кореляційного аналізу сукупність даних розглядається як безліч змінних (чинників), кожна з яких містить n спостережень; xik – спостереження i змінної k; – середнє значення k-ї змінної; i=1,...,n.

Парні коефіцієнти кореляції

Парний коефіцієнт кореляції між k-м і L-м чинниками обчислюється за формулою:

Він є показником тісноти лінійного статистичного зв'язку, але тільки у разі спільного нормального розподілу випадкових величин, вибірками яких є k-й і L-й чинники.

За таких умов для перевірки гіпотези про рівність нулю парного коефіцієнта кореляції використовується t-статистика, розподілена згідно із законом Стьюдента з n-2 ступенями свободи.

Часткові коефіцієнти кореляції

Частковий коефіцієнт кореляції першого порядку між k-м і L-м чинниками характеризує тісноту їх лінійного зв'язку при фіксованому значенні j-го чинника. Він визначається як

Він розподілений аналогічно парному коефіцієнту за таких самих передумов, і для перевірки його значеннєвості використовується t-статистика, в якій число ступенів свободи дорівнює n-3. У програмі частковий коефіцієнт кореляції розраховується в загальному вигляді, тобто за умови, що решта всіх змінних - фіксовані:

Тут Dij — визначник матриці, утвореної з матриці парних коефіцієнтів кореляції викреслюванням i-го рядка і j-го стовпчика.

Множинні коефіцієнти кореляції

Для визначення тісноти зв’язку між поточною k-ю змінною і змінними, що залишились, використовується вибірковий множинний коефіцієнт кореляції:

де D - визначник матриці парних коефіцієнтів кореляції.

Для перевірки статистичної значущості коефіцієнта множинної кореляції використовується величина:

Якщо розраховане F-значення більше значення F-розподілу на відповідному рівні імовірності (0.9 і вище), то гіпотеза про лінійний зв'язок між k-ю змінною і рештою змінних не заперечується.

11 .Скоригований коефіцієнт детермінації за Тейлом та Амемією.

Коефіцієнт детермінації без урахування поправки на число ступенів свободи ніколи не зменшується при введенні до регресії нових пояснюючих змінних.

Щоб уникнути цієї невідповідності, розраховують скоригований , який запропонував Тейл. Скоригований позначають як , він базується на твердженні про те, що незміщений оцінник дисперсії вектора збурення дорівнює :

Відповідно до чого непояснена варіація приведена до кількості ступенів свободи, отже :

Тут число ступенів свободи для залишків базується на ( n – k), а для незалежних змінних на ( n -1 ).

Отже, скоригований коефіцієнт детермінації, за Тейлом, знаходять як

Де k – кількість входів у модель;

k- 1= p – кількість незалежних змінних.

У загальному випадку справедлива нерівність :

Можливий випадок :

при k=1 або при

Зазначимо, що скоригований коефіцієнт детермінації може бути від’ємними.

Дещо пізніше Амемія запропонував інший підхід до розрахунку скоригованого коефіцієнта детермінації. Він застосував абсолютну середню квадратичну помилку прогнозну як цільову функцію і мінімізував її :

Отже, скоригований коефіцієнт детермінації більш адекватно реагує на введення додаткових пояснюючих змінних до багатофакторної моделі. Разом з тим існує певне застереження щодо скоригованого коефіцієнта детермінації. Це пов’язано з тим,що вираз для являє собою штучну конструкцію, яка виникла у результаті технічного удосконалення. Тому він не має чіткої інтерпретації в межах бейєсівського підходу.