11. 11. Метод найменших квадратів

Часто при розв'язку практичних задач функціональна залежність між змінними задається у вигляді таблиці:

xi	x1	x2	...	xn
yi	y1	y2	...	yn

Для аналізу отриманого розв'язку зручно підібрати функцію, яка відповідала б таблиці експериментальних даних і якою можна було б скористатися для одержання значень функції.

Зобразивши точки на координатній площині, можна зробити висновок про вигляд функції .

Так, якщо точки таблиці групуються біля деякої прямої, цю функцію можна шукати у вигляді лінійної функції .

Якщо ж точки розташовуються біля деякої параболи, то природно шукати функцію у вигляді квадратичної функції і т.д.

Якщо є вигляд функції, то залишається підібрати такі її коефіцієнти, при яких функція найкраще відповідала б таблиці.

Підбор значень коефіцієнтів здійснюється методом найменших квадратів, що полягає в наступному: складають суму квадратів різниць значень функції в точках і табличних значень , а потім підбирають коефіцієнти функції так, щоб ця сума була найменшою.

Нехай, наприклад, функція – лінійна, тобто . Тоді .

Ця функція з двома змінними і набуває мінімуму в точках, для яких і , тобто

Перепишемо систему у вигляді

(4.14)

Система (4.14) є системою лінійних рівнянь відносно і . Неважко переконатися, що система має єдиний розв'язок і що при знайдених значеннях і сума має мінімум.

Приклад 4.9. Досліджуючи залежність врожайності від кількості внесених добрив (y – врожайність у ц/га, x – кількість добрив у ц/га) одержали такі дослідні дані:

x	0	1	2	3	4
y	16	18	21	24	25

Рис. 4.6.

Розв’язання. Побудуємо дослідну лінію залежності від (рис. 4.6).

Як бачимо з рисунка, на проміжку залежність від буде досить точно відображатися лінійною функцією . Знайдемо параметри , за методом найменших квадратів.

Складемо для нашої задачі і розв’яжемо систему (4.14). Для цього скористаємося розрахунковою таблицею:

xi	yi		xiyi
0	16	0	0
1	18	1	18
2	21	4	42
3	24	9	72
4	25	16	100

Знаходимо , , , .

Система (4.14) набуває вигляду

або

Розв’язуючи систему, знайдемо, що ; . Отже, залежність врожайності від кількості внесених добрив на 1 га найкраще відображає лінійна функція вигляду .

Нехай тепер є квадратичною функцією. Знайдемо значення коефіцієнтів , , , при яких функція найкраще (за методом найменших квадратів) відображає залежність між і , представлену таблично.

У цьому випадку сума квадратів відхилень значень функції: є функцією трьох змінних , , .

Функція досягає мінімуму в точках, для яких , , . Оскільки

, ,

,

то система рівнянь для визначення коефіцієнтів набуває вигляду:

Перепишемо систему інакше:

(4.15)

Із системи (4.15) коефіцієнти , , визначаються однозначно.