4. Моделі множинної лінійної регресії

Подібні моделі застосовуються у випадку, коли необхідно встановити кількісне співвідношення між результативною ознакою (відгуком) у та певною кількістю незалежних змінних x_j(j =( ), що впливають на значення у.

У загальному випадку модель множинної лінійної регресії має вид:

у = а_о + а₁х₁ + а₂х₂ +….+ а_mх_{m (4.1)}

Щоб краще зрозуміти одержання коефіцієнтів рівняння регресії, розглянемо спочатку просту модель множинної регресії при т =2, тобто

у = а₀ + а₁х₁ + а₂х₂ .

Для пошуку оптимальних значень a_o;a₁;a₂, скористаємося, як і для парної лінійної регресії, методом найменшого квадрата відхилень (МНК), тобто таким вибором цих коефіцієнтів, що забезпечує мінімум функціонала:

,

де N - кількість експериментальних значень кожного аргументу х_j.

Диференціюючи вказаний функціонал по параметрах моделі, зажадаємо, як і раніш, щоб

(4.2)

Після введення центрованих значень змінних:

і виконання операції диференціювання з урахуванням формули (4.2), одержимо систему З -х рівнянь (тут і далі піде сумування по i від 1 до N)

(4.3)

(4.4)

Після розрахунку центрованих значень, що входять до формул (4.4), вони використовуються як коефіцієнти системи алгебраїчних рівнянь (4.3). Рішення ж цієї системи відносно невідомих змінних a_o;a₁;a₂, (наприклад за правилом Крамера, або методом Гаусса) дозволяє визначити чисельне значення цих коефіцієнтів регресивної моделі.

Для зручності та спрощення розрахунків рекомендується звести експериментальні і розрахункові величини в одну таблицю 4.1.

Таблиця 4.1

Таблиця для розрахунку коефіцієнтів рівняння множинної регресії.

№ даних	Уі	Х1і	Х2і	Х1і2	Х2і2	Х1і Х2і	Х1і Уі	Х2і Уі
1	У1	Х11	Х21	Х112	Х212	Х11 Х21	Х11 У1	Х21 У1
2	У2	Х12	Х22	Х12і2	Х222	Х12 Х22	Х12 У1	Х22 У1
. . . . . .	. . .	. . .	. . .	. . .	. . .	. . .	. . .	. . .
N	УN	Х1N	Х2N	Х1N2	Х2N2	Х1N Х2N	Х1N УN	Х2N УN
Суми	Уі	Х1і	Х2і	(Х1і)2	(Х2і)2	(Х1і Х2і)	(Х1і Уі)	(Х2і Уі)
Сер. знач				. .	. . .	. . .	. . .	. . .
	. . .	. . .	. . .	N	N	N	N	N
К-ти Рівн(4.3)				e	e	e	e	e

Спочатку розраховуються суми стовпчиків, потім для перших трьох стовпчиків розраховуються середні значення шляхом розподілу на N відповідних сум (третій з низу рядок). Отримані середні значення ; ; - використовується в рядку розрахункових значень (другий з низу рядок). Потім з отриманих у четвертому з низу рядку сум віднімаються відповідні розрахункові значення. Отримані різниці заносяться в останній рядок таблиці 4.1 і використовуються як коефіцієнти системи алгебраїчних рівнянь(4.3).

Відзначимо, що коефіцієнти а₁ і а₂ у рівнянні лінійної множинної регресії називаються частковими (іноді чистими) коефіцієнтами регресії у по х₁ і по х₂, які відображають вплив тільки відповідної змінної. Якщо ми досліджуємо тільки вплив х₁ на у за допомогою рівняння у = а₀ + а₁х_1, зневажаючи впливом х₂, то коефіцієнт а₁ у цьому рівнянні називається - повним коефіцієнтом регресії у по х_і і чисельно не дорівнює частковому коефіцієнтові а₁ у рівнянні лінійної множинної регресії, тому що враховує також і непрямий вплив неврахованої змінної х₂.

У випадку побудови моделі з трьома і більш незалежними змінними можливе, в принципі, використання допоміжних таблиць, аналогічних таблиці 4.1, з відповідним збільшенням числа стовпців. Однак в даний час при т≥3 ручний метод підрахунку практично не використовується через значне зростання обсягу обчислень. Набагато простіше доручити цю роботу ЕОМ, що має у своєму програмному забезпеченні комплекси стандартних програм кореляційного та регресивного аналізу даних експерименту.

Розглянемо найбільш загальний випадок множинної лінійної регресії з т незалежними перемінними х_j (j = ), що має наступний вигляд:

у = а_о + а₁х₁ + а₂х₂ +….+ а_mх_{m (4..5)}

Нехай необхідно визначити значення коефіцієнтів регресивного рівняння. Для цього проведемо заміну натуральних змінних (y_i та х_ji (j = ); і = ) на нормовані змінні:

_(4..6)

Очевидно, що для нормованих змінних

Виходячи з того, що

рівняння (4.5) можна представити у вигляді:

(4.7)

Враховуючи , для варіацій у відносно в нормованих змінних матимемо:

де (4.8)

При цьому вільний член нормованого рівняння множинної регресії α₀ = 0.

Коефіцієнти рівняння (4.8) знаходимо, як завжди, з умови мінімізації середньої квадратичної похибки, тобто із застосуванням методу найменших квадратів (МНК):

де - розрахункове значення нормованої змінної.

Взявши відповідні похідні та прирівнявши їх до нуля:

. . .

і враховуючи, що

та ( k≠j ), (4.9)

де r_yx є нормований коефіцієнт кореляції між х_j та х_k , отримаємо систему т рівнянь , аналогічну системі (4.3), яка була записана лише для двох незалежних змінних а₁ і та а₂:

(4.10)

- нормований коефіцієнт кореляції між у та x_j;

- нормований коефіцієнт кореляції між х_j, та х_k з числа решти змінних, що залишилися.

Розв’язання системи (4.10) відносно проведемо, наприклад, за допомогою правила Крамера: ( j=1,2,…m), де

1 r₁₂ r_{13 …} r_1m

_{∆ =} r₂₁ 1 r_{23 …} r_2m

……..………………….

r_m1 r_m2 r_{m3 …} 1

- головний визначник системи, визначник Крамера, який отриманий з головного визначника шляхом заміни j-го стовпчика на стовпчик {r_yx1 r_yx2 r_yxm}. Відмітимо, що значення r_ух та r_jk легко знаходяться з експериментальних даних за допомогою (4.6; 4.9). Після визначення а_j знаходимо по (4.8)

.

Потім, після визначення a_j знаходимо a₀:

Таким чином знайдено коефіцієнти множинної регресії, які входять до формули (4.5).