Лекція 8. Метод найменших квадратів

Постановка задачі

Визначення виду функціональних залежностей, одержуваних у фізичному експерименті, має дуже важливе значення. Так, у результаті експериментів часто

одержують сукупність крапок (x1 , y1 )...(xN , yN ), абсциси яких {xk } різні. Одне із призначень чисельних методів – визначення формули виду y = f (x), що

зв'язує ці змінні, точніше – вибір класу припустимих формул, коефіцієнти в які повинні бути визначені.

Якщо всі чисельні значення {xk }, {yk } відомі з декількома знаками

точності, то інтерполяційний поліном може бути з успіхом використаний, інакше це неможливо. У деяких експериментах застосовується спеціалізоване встаткування, що дозволяє одержати вимірювані крапки, принаймні, з п'ятьма знаками точності. Однак більшість експериментів проводиться на встаткуванні, що надійно дає тільки три або менше знаки точності. Часто у вимірі присутнє

експериментальна помилка. І хоча записуються три цифри для значень {xk }, {yk }. Мається на увазі, що щире значення f (xk ) задовольняє рівності:

де εk – помилка виміру.

Для визначення кращого наближення функції до отриманих крапок, проведемо дослідження помилок (також називаних відхиленнями або

Розглянемо це на прикладі.

Приклад 1. Зрівняти максимальну, середню й середньоквадратичну помилки для лінійного наближення функції y = f (x)= 8,6 − 1,6 x по заданих

крапках (−1;10), (0;9), (1;7 ), (2;5), (3;4), (4;3), (5;0) і (6;−1).

51

E∞ ( f )= max{0,2;0,4;0,0;0,4;0,2;0,8;0,6;0,0}= 0,8

E1 ( f )= 81 (2,6 )= 0,325

Ясно, що максимальна помилка найбільша і якщо одна крапка погана, те її значення визначає E∞ ( f ). Середня помилка E1 ( f ) – просто середнє абсолютних величин помилок різних різних крапок. Вона часто використається

52

завдяки простоті обчислення. Помилку E2 ( f ) часто використають при

вивченні помилок статистичної природи.

Найкраща побудована лінія визначається шляхом мінімізації однієї з величин, заданих вираженнями (8.3) – (8.5). Таким чином, можна знайти три

щонайкраще побудовані лінії. Традиційно вибирається третя норма E2 ( f ) тому, що її набагато легше мінімізувати.

Метод найменших квадратів

Нехай залежність між змінними x й y представлена таблицею даних,

Потрібно отримані дані описати деякою функціональною залежністю виду y = f (x). Така залежність повинна відбити основну тенденцію зміни змінної

yзі зміною змінної x й згладити випадкові погрішності вимірів, які неминучі

вексперименті.

Задача знаходження емпіричної формули (формули, що служить для аналітичного подання досвідчених даних) складається із двох основних етапів.

На першому етапі необхідно встановити вид залежності y = f (x), тобто

інший. Для цього експериментальні крапки наносяться на координатну площину й по їхньому розташуванню висувають гіпотезу про вид емпіричної залежності.

На другому етапі, коли загальний вид емпіричної функції обраний, необхідно визначити числові значення її параметрів a0 , a1 , a2 ,..., an . Критерієм

вибору значень параметрів є метод найменших квадратів (МНК).

У методі найменших квадратів апроксимуюча функція (поліном) будується на підставі того, що сума квадратів нев'язань по всіх крапках повинна бути найменшої. Т.е.:

де δk – нев'язання.

Якщо взяти поліном у вигляді:

те F = F (a0 ,a1 ,...,am )

Помітимо, що ступінь полінома m повинна бути менше числа крапок N . (У випадку m = N − 1 одержимо поліном Лагранжа).

53

Лінійна апроксимація (інтерполяція)

У цьому випадку m = 1 , тоді апроксимуюча функція буде мати вигляд: (8.8)

Згідно МНК значення її параметрів підбираються таким чином, щоб відхилення експериментальних крапок (xk ; yk ) від обраної кривої було мінімальним. Т. е. параметри a0 , a1 повинні бути такими, щоб сума квадратів відхилень спостережуваних значень yk від розрахованих по функції (8.8), була мінімальною. Сума квадратів відхилень від лінійної функції (8.8) має вигляд:

Тоді:

1 Основы работы с матрицами в MS Excel представлены в приложении 1

54