5.11 Метод найменших квадратів

Нехай у вузлах задані значення функції, де. Треба знайти коефіцієнти, узагальненого многочлена

(5.15)

де - система базисних функцій, які забезпечують мінімум:

Необхідна умова безумовного екстремуму: де.

У результаті можна отримати:

(5.16)

Система (5.16) називається нормальною системою МНК. Для лінійної апроксимації маємо: . Система (5.16) набуває вигляду:

Звідси: , (5.17)

де - середні значеннях і у.

Для квадратичної апроксимації отримаємо:

. (5.18)

Приклад 1. Визначити рівняння прямої за МНК, яка проходить найближче до таких точок:

х	1	1,5	2	2,5	3	3,5
у	0,29	0,81	1,26	1,85	2,5	3,01

За формулами (5.17) отримаємо:

Відповідь: .

Приклад 2. Визначити рівняння прямої за МНК, яка проходить найближче до таких точок:

х	2,8	2,2	3	3,5	3,2	3,7	4	4,8	6	5,4	5,2	5,4	6	9
у	6,7	6,9	7,2	7,3	8	8,8	9,1	9,8	10,6	10,7	11,1	11,8	12,1	12,4

Аналогічно попередньому отримаємо:

Відповідь: .

Приклад 3. Визначити рівняння прямої за МНК, яка проходить найближче до таких точок:

х	1	2	3	4	5
у	5,7	6,7	5,2	3,2	3,7

Відповідь: .

Приклад 4. Визначити рівняння прямої та параболи за МНК, які проходять найближче до таких точок:

х	2	3	4	5
у	7	5	8	7

За формулами (5.17), (5.18) отримаємо

5.12 Особливості мнк

1. Метод інтерполяції – точковий метод, тому що потребує виконання точкових умов інтерполяції. МНК є інтерполяційним методом і не потребує точного виконання функціональних умов, вимагає відповідності ів середньому (за інтегралом або за інтегральною сумою).

2. Вихідна функція задана неточно, а з деякою похибкою, суттєво більшою, ніж у методі інтерполяції. Ця похибка зумовлена результатами фізичного досліду.

3. Кількість точок , у яких задана вихідна функція, як правило, значно більше степенят многочлена . Тому міжп і т немає відповідності, як це має місце в методі інтерполяції.

Зауваження.

1. Якщо для функції, яка задана в точці, визначати многочлен степеняза МНК, тозбігається з інтерполяційним многочленом і метод стає еквівалентним методу інтерполяції з нульовою дисперсією.

2. У кожному конкретному випадку може існувати "оптимальна" степінь т, яка залежить від конкретної поведінки функції, числа п і вигляду базисних функцій . Нехай похибка задання вихідної функції характеризується тільки одним значенням(усі похибки однакові).

Задаючи деяке т, визначають коефіцієнти , та середнє квадратичне відхиленняі порівнюють його з. Можливі три випадки:

• якщо , то апроксимація дуже груба, степіньт недостатня, треба її збільшити;

• якщо , то апроксимація фізично недостовірна, степіньт треба зменшити;

• якщо , то степінь многочленат є оптимальною.

3. Система (2) при стає погано зумовленою і визначити многочленпрактично неможливо. Необхідно замість степеневих базисних функцій використовувати, наприклад, поліноми Чебишова або інші базисні функції.

4. МНК реалізує найкраще в середньому наближення у всій області визначення функції і в деяких випадках не враховує локальних властивостей функції, наприклад, окремі піки функції.

5. Реалізація МНК з використанням степеневих функцій пов’язана з розв’язуванням СЛАР відповідно до коефіцієнтів , причому при зміні степенят усі коефіцієнти необхідно розраховувати знову. Цей недолік усувається вибором ортогональних базисних функцій .