Метод найменших квадратів (мнк)

Нехай у вузлах задані значення функції, де. Треба знайти коефіцієнти, узагальненого багаточлена

(1)

де - система базисних функцій, які забезпечують мінімум:

Необхідна умова безумовного екстремуму: де.

У результаті можна отримати:

(2)

Система (2) – нормальна система МНК. Для лінійної апроксимації маємо: . Система (2) набуває вигляду:

Звідси: ,

де - середні значеннях і у.

Для квадратичної апроксимації отримаємо:.

Приклад 1. Визначити рівняння прямої за МНК, яка проходить найближче до таких точок:

х	1	1,5	2	2,5	3	3,5
у	0,29	0,81	1,26	1,85	2,5	3,01

Приклад 2.

х	2,8	2,2	3	3,5	3,2	3,7	4	4,8	6	5,4	5,2	5,4	6	9
у	6,7	6,9	7,2	7,3	8	8,8	9,1	9,8	10,6	10,7	11,1	11,8	12,1	12,4

Приклад 3.

х	1	2	3	4	5
у	5,7	6,7	5,2	3,2	3,7

Приклад 4.

х	2	3	4	5
у	7	5	8	7

Особливості мнк

1. Метод інтерполяції – точковий метод, тому що потребує виконання точкових умов інтерполяції. МНК є інтерполяційним методом і не потребує точного виконання функціональних умов, вимагає відповідності ів середньому (за інтегралом або за інтегральною сумою).

2. Вихідна функція задана неточно, а з деякою похибкою, суттєво більшою, ніж у методі інтерполяції. Ця похибка зумовлена результатами фізичного досліду.

3. Кількість точок , у яких задана вихідна функція, як правило, значно більше степенят багаточлена . Тому міжп і т немає відповідності, як це має місце в методі інтерполяції.

Зауваження.

1. Якщо функції, яка задана в точці, визначати багаточлен степеняМНК, тозбігається з інтерполяційним багаточленом і метод стає еквівалентним методу інтерполяції з нульовою дисперсією.

2. У кожному конкретному випадку може існувати "оптимальна" степінь т, яка залежить від конкретної поведінки функції, числа п і вигляду базисних функцій . Нехай похибка задання вихідної функції характеризується тільки одним значенням(усі похибки однакові).

Задаючи деяке т, визначають коефіцієнти , та середнє квадратичне відхиленняі порівнюють його з.

Можливі три випадки:

• якщо , то апроксимація дуже груба, степіньт недостатня, треба її збільшити;

• якщо , то апроксимація фізично недостовірна, степіньт треба зменшити;

• якщо , то степінь багаточленат є оптимальною.

3. Система (2) при стає погано зумовленою і визначити поліномпрактично неможливо. Необхідно замість степеневих базисних функцій треба використовувати, наприклад, поліноми Чебишова або інші базисні функції.

4. МНК реалізує найкраще в середньому наближення у всій області визначення функції і в деяких випадках не враховує локальних властивостей функції, наприклад, окремі піки функції.

5. Реалізація МНК з використанням степеневих функцій пов’язана з розв’язуванням СЛАР відповідно до коефіцієнтів , причому при зміні степенят усі коефіцієнти необхідно розраховувати знову. Цей недолік усувається вибором ортогональних базисних функцій .