3.9.4. Метод найменших квадратів

Припустимо, що вибірка обсягу – не згрупована. Оскільки ми припустили існування лінійного зв’язку між результативною та факторною ознаками, то діаграма розсіювання точок має вигляд:

Рис. 3.3. Діаграма розсіювання точок

Основна ідея методу найменших квадратів полягає в тому, що точковими оцінками і параметрів і вибирають такі числа, для яких пряма є “найближчою” до точок

Мірою відхилення шуканої прямої від точок вибирають величину:

тобто суму квадратів різниць між ординатами прямої та ординатами точок для одних і тих самих значень

Якщо числа і – такі, що функція має найменше значення, то пряма найменше відхиляється від точок

Методом найменших квадратів називається метод знаходження статистичних оцінок і параметрів і за допомогою функції виходячи з рівності:

Для знаходження мінімуму функції маємо розв’язати систему рівнянь:

яку елементарними перетвореннями зводимо до такого вигляду:

У випадку згрупованої вибірки для визначення невідомих параметрів і маємо систему двох рівнянь:

де  – частоти відповідних варіант та ;

– частота появи події

Припускаючи, що ознака не є сталою, тобто серед варіант обов’язково є різні числа, робимо висновок про визначник системи:

Звідси випливає, що досліджувана система рівнянь має єдиний розв’язок:

де

Таким чином, шукане рівняння регресії набуває такого вигляду:

Коефіцієнт називають коефіцієнтом регресії, який характеризує відношення величини приросту результативної ознаки до величини приросту факторної ознаки

Лінійне рівняння регресії можна подати в іншому вигляді через статистичну оцінку коефіцієнта кореляції:

Необхідно зауважити, що в разі порушення припущення про лінійність зв’язку між результативною та факторною ознаками, а про це можна зробити висновок із діаграми розсіювання вибірки, використовують нелінійні регресійні моделі. У нелінійних регресійних моделях зв’язок може виражатися, наприклад, такими рівняннями: або або Статистичні оцінки параметрів у цих нелінійних моделях також можна знайти за допомогою методу найменших квадратів.

Приклад 3.12. Знайти рівняння регресії Y на X на підставі вибірки:

xi	1,2	1,5	1,8	2,1	2, 3	3,0	3,6	4,2	5,7	6,3
yi	5,6	6,8	7,8	9,4	10,3	11,4	12,9	14,8	15,2	18,5

Розв’язання. Для знаходження рівняння регресії проведемо необхідні обчислення:

Для обчислення вибіркового коефіцієнта кореляції обчислимо попередньо:

Тоді

Отже, рівняння регресії на одержане на підставі вибірки: або

Питання для самоконтролю

1. Яке рівняння називається вибірковим рівнянням регресії на

2. Який метод є основним методом отримання точкових оцінок для параметрів рівняння регресії, у чому він полягає?

3. Що називають коефіцієнтом регресії?

4. Якими рівняннями може виражатися зв’язок між випадковими величинами в нелінійних регресійних моделях?

5. За допомогою якого методу можна дістати статистичні оцінки параметрів нелінійних регресійних моделей?

Вправи

1. Знайти вибіркове рівняння регресії на за даними вправи 1 з пункту 3.9.2.

2. Знайти вибіркові рівняння регресії Y на X та X на Y за даними вправи 2 з пункту 3.9.2.

3. На хімічному виробництві отримані такі дані про залежність виходу готового хімічного продукту Y (кг/год.) від температури реакції X (°С):

X	28	29	32	35	40	44	45	51	53
Y	5,3	9,2	15,2	20,7	21,7	36,5	39,3	52,7	55,4
X	64	65	73	75	80	83	93	95	99
Y	76,0	79,1	94,8	101,1	89,5	114,8	137,4	138,2	150,3

Знайти вибіркові рівняння регресії на припускаючи, що має місце лінійна модель.

4. За допомогою методу найменших квадратів скласти емпіричне рівняння прямої регресії залежності випадкової величини Y від випадкової величини X на підставі вибірки вправи 3 з пункту 3.9.2.