Нелінійний метод найменших квадратів

Розглянемо апроксимацію сукупності точок за допомогою нелінійного МНК на прикладі залежності .

Для процедури нелінійного МНК необхідно знайти мінімум функції .

Частинні похідні по A і С дорівнюють:

(7.4)

(7.5)

Якщо дорівняти вирази (7.4), (7.5) до нуля і потім виконати деякі перетворення, то можна отримати нормальні рівняння:

(7.6)

Значення коефіцієнтів A і С знаходяться шляхом рішення нелінійної системи рівнянь (7.6), наприклад, за допомогою градієнтного методу, методу Ньютона, покоординатного й найскорішого спуску і т.і.

Метод лінеаризації даних

У деяких випадках, коли апроксимуюча функція нелінійна, доцільним є застосування методу лінеаризації даних, який дозволяє шляхом відповідних перетворень отримати лінійну залежність і застосувати лінійний МНК. Метод лінеаризації даних позбавляє необхідності використання нелінійного МНК і розв’язання нелінійної системи (7.6).

Задача лінійного МНК полягає в знаходженні М коефіцієнтів таких, щоб функція , яка задана у вигляді лінійно незалежних складових , мінімізувала суму квадратів помилок:

. (7.7)

Функція E буде мінімальною за умови . У цьому випадку справедливою є система лінійних рівнянь розміром , що дозволяє знайти невідомі коефіцієнти :

. (7.8)

Найбільш поширені перетворення, які використовуються при лінеаризації даних і використанні лінійного МНК приведені в табл. 7.1.

Таблиця 7.1 – Заміна змінних для методу лінеаризації даних

Функція	Лінеаризована форма	Заміна змінних і постійних величин

Лінійний МНК використовується для апроксимації нелінійних даних поліномами виду .

Якщо дані не проявляють поліноміального характеру, то в результаті апроксимаційна крива буде сильно осцилювати. Це явище спостерігається у поліномів високого ступеня і називається поліноміальним розгойдуванням [8]. Тому апроксимаційні поліноми 6-го і вищих ступенів не використовуються, якщо невідомо чи є дійсна функція поліномом.

Наближення тригонометричним поліномом

Значна кількість фізичних явищ і процесів мають періодичний характер і описуються періодичними функціями:

, (7.9)

де T – період функції.

Графік періодичної функції приведений на рис. 7.2.

Функція f(x) називається кусково-безперервною на інтервалі [a; b], якщо виконується умова , а на інтервалах вона безперервна і має границі зліва і зправа в кожній з точок . Графік кусково-безперервної функції зображений на рис. 7.3.

Рисунок 7.2 – Безперервна функція з періодом T

Рисунок 7.3 – Кусково-безперервна функція на інтервалі [a; b]

Для періодичної з періодом і кусково-безперервної на відрізку функції f(x) ряд Фур’є S(x) має вигляд:

, (7.10)

де коефіцієнти a_j і b_j розраховуються за формулою Ейлера:

; (7.11)

. (7.12)

Розклад Фур’є для парної функції, що має властивість :

, (7.13)

де коефіцієнти a_j розраховуються за формулою

. (7.14)

Розклад Фур’є для непарної функції, що має властивість :

, (7.15)

де коефіцієнти a_j розраховуються за формулою

. (7.16)

Сума косинусних і синусних складових виду

(7.17)

називається тригонометричним поліномом порядком М, де коефіцієнти a_j і b_j розраховуються за формулами:

; (7.18)

. (7.19)

Коефіцієнти тригонометричного полінома a_j і b_j є чисельним наближенням інтегральних формул Ейлера (7.11) і (7.12).

Для періодичної функції f(x) з періодом , яка задана у вигляді сукупності точок з рівновіддаленими абсцисами можна скласти тригонометричний поліном . виду (7.17), що мінімізує величину .

За формулами Ейлера (7.11), (7.12) розраховуються коефіцієнти ряду Фур’є безперервної функції, а за формулами (7.18) і (7.19) обчислюються коефіцієнти тригонометричного поліному для кривої, що побудова за заданими точками. Чим більше використовується точок, тим ближче коефіцієнти тригонометричного полінома до коефіцієнтів ряду Фур’є.

ПРИКЛАДИ РОЗРАХУНКУ

1. Знайти коефіцієнти апроксимаційної кривої для точок , , , , з використанням методу лінеаризації даних. Результати розрахунків представити у табличному вигляді. Побудувати графіки вихідної та лінеаризованої апроксимаційних кривих.

Розв’язок

Отримаємо координати вихідних точок після лінеаризації вихідних даних:

В табл. 7.2 зведені необхідні дані для розрахунку коефіцієнтів нормальних рівнянь для вихідних точок після перетворення .

Таблиця 7.2 – Дані для розрахунку коефіцієнтів нормальних рівнянь

0.0	1.5	0.0	0.405465	0.0	0.000000
1.0	2.5	1.0	0.916291	1.0	0.916291
2.0	3.5	2.0	1.252763	4.0	2.505526
3.0	5.0	3.0	1.609438	9.0	4.828314
4.0	7.5	4.0	2.014903	16.0	8.059612

На основі табл. 7.2, отримаємо систему лінійних рівнянь для знаходження коефіцієнтів A, B:

Рішенням системи лінійних рівнянь: .

Значення коефіцієнта С апроксимаційної кривої : .

Рівняння лінії , яка отримана за допомогою методу найменших квадратів, і апроксимаційної залежності матимуть вигляд відповідно:

;

.

На рис. 7.4 зображені вихідні точки після перетворення і лінеаризована форма апроксимаційної кривої. Результат апроксимації вихідних даних кривою за допомогою методу лінеаризації даних приведений на рис. 7.5

Рисунок 7.4 – Лінеаризована форма апроксимаційної кривої

Рисунок 7.5 – Результат апроксимації вихідних даних кривою

2. Знайти перші п’ять членів розкладу Фур’є функції . Побудувати тригонометричний поліном ступеня М=5 для функції за рівновіддаленими точками . Порівняти коефіцієнти тригонометричного поліному для випадків 12, 60, 360 точок з коефіцієнтами ряду Фур’є.

Розв’язок

З використанням формул Ейлера (7.11), (7.12) та інтегрування за частинами, коефіцієнти ряду Фур’є матимуть вигляд:

;

.

В табл. 7.3 наведені числові значення коефіцієнтів , для .

Таблиця 7.3 – Коефіцієнти ряду Фур’є

j	1	2	3	4	5
aj	0	0	0	0	0
bj	-1.0	-0.5	0.3333	-0.25	0.2

Значення коефіцієнту a₀:

.

Розклад Фур’є для функції матиме вигляд:

.

Функція є парною, тому коефіцієнти при членах з косинусами дорівнюють нулю. Тригонометричний поліном ступеня M = 5 містить у собі тільки члени з синусами і з використанням формули (7.17) матиме вигляд:

Графік полінома , який побудовано за 12 точками, що лежать на ліні , показаний на рис. 7.6.

Рисунок 7.6 – Графік тригонометричного полінома

В табл. 7.4 наведені результати порівняння коефіцієнтів тригонометричного поліному , побудованого за 12, 60, 360 точками, з коефіцієнтами розкладу Фур’є функції на інтервалі .

Таблиця 7.4 – Порівняння коефіцієнтів тригонометричного поліному з коефіцієнтами ряду Фур’є

	Коефіцієнти тригонометричного поліному			Коефіцієнти ряду Фур’є
	12 точок	60 точок	360 точок
b1	0.97704862	0.99908598	0.99997462	1.0
b2	-0.45344984	-0.49817096	-0.49994923	-0.5
b3	0.26179939	0.33058726	0.33325718	0.3333333

Продовження таблиці 7.4

b4	-0.15114995	-0.24633386	-0.24989845	-0.25
b5	0.07014893	0.19540972	0.19987306	0.2

З табл. 7.4 видно, що з збільшенням кількості точок коефіцієнти тригонометричного ряду повільно наближуються до коефіцієнтів ряду Фур’є.

ЗАВДАННЯ ДЛЯ РОЗРАХУНКУ

1. Знайти коефіцієнти апроксимаційної кривої для точок , , , , з використанням методу лінеаризації даних. Результати розрахунків представити у табличному вигляді. Побудувати графіки вихідної та лінеаризованої апроксимаційних кривих.

2. Знайти перші шість членів розкладу Фур’є функції . Побудувати тригонометричний поліном ступеня М=6 для функції за рівновіддаленими точками . Порівняти коефіцієнти тригонометричного поліному для випадків 10, 12, 20 точок з коефіцієнтами ряду Фур’є.

Примітка: для виконання завдання необхідно мати уявлення про процедуру використання лінійного і нелінійного МНК; особливості лінеаризації даних, складання тригонометричних поліномів та розкладу Фур’є. Відповіді на ці питання можна знайти в [8, с. 279-340; 12, с. 78-85].