6.1.6. Метод найменших квадратів (лінійна залежність)

Метод найменших квадратів — метод знаходження наближеного розв'язку надлишково-визначеної системи. Часто застосовується в регресійному аналізі. На практиці найчастіше використовується лінійний метод найменших квадратів, що використовується у випадку системи лінійних рівнянь. Зокрема важливим застосуванням у цьому випадку є оцінка параметрів у лінійній регресії, що широко застосовується у математичній статистиці і економетриці.

Сутність даного методу полягає в тому, що є залежність f(x, a₀, a₁, ..., a_m), близька до заданої сукупності значень x_i , y_i у змісті мінімуму квадратичного відхилення

, (2.1)

де _i – відхилення апроксимуючої функції від експериментальних значень

_i= f (x_i, a₀, a₁, ..., a_m) – y_i, i=0, 1, 2, ..., n. (2.2)

Тоді задача полягає у виборі такої сукупності параметрів a₀, a₁, ..., a_m, при яких значення критерію (2.1) є мінімальним. При цьому завжди n>m, тому що у випадку n=m виходить задача інтерполяції, в якій значення критерію R може бути зведено до нуля. Необхідною умовою мінімуму критерію (2.1) є рівність нулю всіх частинних похідних функції R по a₀, a₁, ..., a_m, тобто

. (2.3)

Вирішуючи систему рівнянь (2.3), знаходимо значення a₀, a₁, ..., a_m коефіцієнтів шуканої залежності.

6.1.7. Числові ряди. Поняття їх збіжності

Числовий ряд — послідовність чисел, яку розглядають разом з іншою послідовністю, що називається послідовністю часткових сум (ряду). Розглядаються числові ряди двох видів:

• Дробові числові ряди — вивчаються в математичному аналізі;

• Комплексні числові ряди — вивчаються в комплексному аналізі;

Важливіше питання дослідження числових рядів — це збіжність числових рядів. Числові ряди застосовуються як система наближень до чисел. Узагальненням поняття ряду є поняття подвійного ряду.

Тривалий час, думка про те, що така потенційно нескінченна сума може мати скінченний результат, математиками і філософами розглядалася як парадокс. Цей парадокс було вирішено з виникненням поняття границі під час 19-го століття. Парадокс Зенона про Ахілла та черепаху ілюструє цю контрінтуїтивну властивість скінченних рядів: Ахілл біжить услід за черепахою, але коли він наздоганяє черепаху на початку гонки, вона вже досягає другої позиції; коли він досягає другої позиції черепахи, вона буде вже на третій позиції, і так далі. Зенон розрахував, що Ахілл ніколи не зможе досягнути черепаху, і що таким робом такого моменту не існує. Зенон розділив цю гонку на нескінченно велику кількість частин гонки, кожна з яких займає скінченну частину часу, так, що загальний час, за який Ахілл добіжить до черепахи, заданий рядом. Вирішенням цього парадоксу є те, що, хоча ряд має нескінченно велику кількість елементів, він має скінченну суму, яка і є тим часом, за який Ахілл наздожене та впіймає черепаху.

Ряд з дійсних чисел збігається абсолютно тоді й тільки тоді, коли збігаються обидва ряди: ряд з додатних його членів і ряд з від'ємних членів.