§3. Метод найменших квадратів.

Цей метод застосовується на практиці при потребі згладжування експериментальних залежностей.

Нехай результати досліджень занесено в таблицю.

X	X1	X2	…	X i	…	X n	…
Y	Y1	Y2	…	Y i	…	Y n	…

Можна підібрати аналітичну формулу, яка буде відбивати відповідність між ,так звану емпіричну формулу .

Задача знаходження емпіричних формул розбивається на два етапи.

1. Встановити вид залежності у від х (лінійна, квадратична, логарифмічна )

; ; ;

2. Визначити невідомі параметри (а; в) цієї функції.

Припустимо, що результати дослідження з таблиці відмічено на координатній площині.

у

y_{i + +} l₁

y_{2 + + + + + +}

у₁

l₂

0 х₁ х₂  х_i  х_n х

Зрозуміло, що існує безліч кривих, що проходять через ці точки і природно припустити, найбільш гладка крива співпадатиме з емпіричними даними. Для перевірки правильності припущення проводяться ще раз додаткові заміри і додаткові точки наносять на площину ( ). Якщо ці точки знаходяться достатньо близько до вибраної кривої, то можна вважати, що вид кривої встановлено, в противному випадку криву треба підкоректувати і знову провести додаткові заміри і лише потім переходити до другого етапу досліджень, а саме до знаходження невідомих параметрів (а; в) визначеної емпіричної функції.

Найбільш розповсюдженим, та теоретично обумовленим є метод найменших квадратів.

Суть методу найменших квадратів полягає в тому, що в якості невідомих параметрів (а; в) функції вибирають такі значення, щоб сума квадратів нев’язок _і була найменшою, де під “нев’язками” розуміють різницю значень знайдених відповідно теоретичним шляхом (за формулою ) та дослідницьким шляхом ( табличними значеннями )

Отже

Наприклад, нехай в якості емпіричної формули взята лінійна функція , отже задача буде полягати в відшуканні таких значень параметрів а і в при яких функція.

набуде найменших значень.

Відмітимо, що функція є функцією двох змінних а і в до тих пір, поки ми не знайдемо їх “найкращі” значення при яких функція S стане найменшою. За таких умов х _і , у _і сприймають як сталі величини, знайдені експериментальним шляхом.

Для розв’язання цієї задачі застосуємо відомий алгоритм дослідження функції двох змінних на екстремум.

1). Обчислимо стаціонарні точки

або

Після алгебраїчних перетворень ця система набуде виду:

Цю систему ще називають системою нормальних рівнянь , вона має єдиний розв’язок, бо її визначник  0.

2). Переконаємось, що розв’язок системи нормальних рівнянь даватимуть мінімум функції . Для цього визначимо знак виразу , де

; ;

Отже = 4  0

Оскільки  0, то згідно з достатньою умовою екстремуму функції n змінних, дана функція має єдину точку мінімуму, що визначається з системи нормальних рівнянь.

Відмітимо, що в цій точці функція має не тільки локальний мінімум але й найменше значення, тобто глобальний мінімум.

Приклад. Є такі дані про ціну на нафту гр.од. в індексі акцій нафтових компаній у (ум.од.)

х	17,28	17,05	18,30	18,80	19,20	18,50
у	537	534	550	555	560	552

Припустивши, що між змінними х та у існує лінійна залежність, знайти емпіричну формулу виду у = ах + в, використовуючи метод найменших квадратів.

Розв’язання.

Знайдемо необхідні для розрахунків суми

; ; ; .

Проміжні обчислення запишемо у вигляді таблиці

хі	уі	хі уі	хі2
17,28	537	9279,36	298,5984
17,05	534	9104,70	290,7025
18,30	550	10065,00	334,8900
18,80	555	10434,00	253,4400
19,20	560	10752,00	368,6400
18,50	552	10212,00	342,2500

110,13 3288 59847,06 1988,5200

Отже система нормальних рівнянь матиме вид:

; а = 15,317; в = 266,86

у = 15,317 х + 266,86.

Отже з зростанням ціни на нафту на 1 гр.од. індекс акцій нафтових компаній в середньому зростатиме на 15,32 ум. од.

184