Засоби усунення мультиколінеарності. Метод головних компонентів

Виявлення мультиколінеарності є лише частиною справи. Інша частина - як її усунути. Безпомилкових і абсолютно правильних по-рад немає, оскільки мультиколінеарність є прикладною проблемою.

Звичайно, усе залежить від ступеня мультиколінеарності, однак у будь-якому разі можна запропонувати кілька простих методів усунення мультиколінеарності:

1) використання додаткової або первинної інформації;

2) об’єднання інформації;

3) відкидання змінної з високою кореляцією;

4) перетворення даних (використання перших різниць);

5) збільшення кількості спостережень.

Які поради спрацюють на практиці, залежить від істотності про-блеми та її характеру.

Якщо переліченими методами не вдається усунути мультиколіне-арність, то для оцінювання параметрів багатовимірної моделі доціль-но застосувати метод головних компонентів.

Алгоритм методу головних компонентів

Цей алгоритм включає дев’ять кроків.

1-й крок: нормалізувати змінні x1 x2, ... хт регресійної моделі, обчисливши де п кількість спостережень (і= 1, «);

т - кількість пояснюючих змінних у моделі (/= 1, т); х. - середня арифметична ;-ї незалежної змінної;

σ - середньоквадратичне відхилення ;-ї незалежної змінної.

2-й крок: побудувати нову матрицю Ґ, елементами якої є нормалізовані незалежні змінні.

3-й крок: обчислити кореляційну матрицю (матрицю моментів нормалізованої системи нормальних рівнянь) за формулою

де X** - транспонована матриця Ґ:

(недіагональні елементи матриці R характеризують щільність зв’яз-ку однієї незалежної змінної з іншою (rij = rxixj ), тобто є парними ко-ефіцієнтами кореляції).

4-й крок: знайти характеристичні числа матриці r, тобто визначити корені

X1,X2,..., Хm рівняння m-то порядку:

де E - одинична матриця розмірності mxm; Хj, j = 1, 2,..., m - харак-теристичні числа матриці r.

5-й крок: ранжувати власні значення Я , i = 1, 2, ..., m, за абсолютним рівнем внеску кожного головного компонента в загальну дисперсію.

6-й крок: розв’язати систему рівнянь

і обчислити власні вектори ai , і = 1, 2, ..., m, за умови, що вони відповідають таким співвідношенням:

7-й крок:

знайти головні компоненти векторів zi=xai, і= 1, 2, ..., m, які задо-вольняють умови

8-й крок: визначити параметри моделі Y = ZP :

9-й крок: знайти параметри моделі Y = XА:

Зауважимо, що метод головних компонентів доцільно застосовувати, по-перше, для оцінювання параметрів моделей з великою кількістю факторів, по-друге, для моделей, у яких незалежні змінні (стовпці матриці спостережень X) мають однакові одиниці вимірювання.

36. Поняття гомо- й гетероскедастичності, природа гетероскедастичності.

Розглянемо особливості економетричного моделювання, коли порушується умова, згідно з якою припускається, що відхилення мають такий розподіл імовірностей, який зберігається для всіх спостережень. Тоді дисперсія залишків лишається незмінною для кожного спостереження.

Означення 7.1. Якщо дисперсія залишків стала для кожного спостереження, тобто , то ця її властивість називається гомоскедастичністю.

Часто у практичних дослідженнях явище гомоскедастичності порушується. Випробування на наявність чи відсутність гомоскедастичності звичайно не практикується, але здебільшого можна висунути гіпотези про правдоподібність альтернативних припущень щодо пропорційності помилки до X. Так, наприклад, при побудові економетричної моделі, що характеризує залежність між заощадженнями і доходами населення на підставі теоретичної та практичної інформації, можна висунути гіпотезу, що дисперсія залишків за окремими групами населення змінюватиметься і буде пропорційною до середнього доходу цієї групи. Коли розглядати економетричну модель, що характеризує залежність між дивідендами і розміром прибутку або між витратами на харчування і доходом на одного члена сім’ї, витратами на харчування і загальними витратами, то також можна припустити, що дисперсія залишків для окремих груп спостережень змінюватиметься.

Означення 7.2. Якщо дисперсія залишків змінюється для кожного спостереження або групи спостережень, тобто , то це явище називається гетероскедастичністю.

Якщо існує гетероскедастичність залишків, то це спричинюється до того, що оцінки параметрів моделі 1МНК будуть незміщеними, обгрунтованими, але неефективними. При цьому формулу для стандартної помилки оцінки, строго кажучи, застосувати не можна.

припустимо, що дисперсія залишків для моделі пропорційна до величини Х. Тоді доцільно виконати перетворення вихідної інформації, поділивши, наприклад, усі змінні на Х. Модель набере вигляду

.

У результаті для оцінювання параметрів можна застосувати МНК. Зауважимо, що параметри а₀ і а₁ помінялися ролями. Вільним членом моделі замість а₀ став параметр а₁.