ЛАБОРАТОРНЕ ЗАНЯТТЯ №5
«Метод найменших квадратів»
Мотивація задачі
Апроксимувати функції можна інтерполяційними многочленами. Проте в ряді випадків інтерполювання не ефективне. Наприклад, при інтерполюванні, як відомо, інтерполяційний многочлен будують при умові, що у вузлах його значення дорівнюють значенням функції f(x). А якщо значення функції f(x) у вузлах знайдені неточно (наприклад, визначені в процесі деякого експерименту), то, очевидно, точно прирівнювати значення многочлена і функції у вузлах недоцільно. Корисно в цьому випадку підібрати для апроксимації таку функцію, яка хоча і не дорівнює заданій функції в заданих вузлах, проте найкраще наближається функцію на всьому відрізку.
Крім цього, при експерименті кожен новий дослід дає новий вузол інтерполювання. Внаслідок цього часто утворюються многочлени високого степеня, з якими працювати не зручно. Правда, цьому можна запобігти. Для цього відрізок, на якому потрібно апроксимувати задану функцію f(x), розбивають на частини невеликої довжини і для кожної такої частини будують свій інтерполяційний многочлен невисокого степеня. Проте цей метод має також недоліки, оскільки в багатьох випадках бажано мати єдину наближену формулу, яку б можна було застосовувати для всього відрізка.
В багатьох випадках результати спостережень вдається подати деякою емпіричною формулою. Так, наприклад, спостерігаючи рух важкої кульки по похилій площині. Галілей відкрив закони рівноприскореного руху тіл. Результати спостережень він подав простою формулою, відповідно до якої пройдений шлях пропорціональний квадрату часу руху тіла. Взагалі, майже всі основні закони природи були встановлені шляхом обробки результатів спостережень і встановлення внаслідок цього відповідних емпіричних формул. Щоб подати результати спостережень за допомогою емпіричної формули, треба насамперед вибрати її тип, а потім вже на основі даних спостережень обчислити параметри, що входять у формулу вибраного типу.
Досить часто для знаходження емпіричних формул застосовують метод найменших квадратів. Вперше цей метод запропонував французький математик Лежандр у своїй праці «Новий спосіб визначення орбіт комет (1806 р.)». Метод найменших квадратів Лежандр запровадив для визначення орбіт комет. У 1794 р. Незалежно від Лежандра цей метод розробив німецький математик Гаусc і застосував його для визначення орбіт небесних тіл, але опублікував лише в 1808 р. В своєму творі «Теорія руху небесних тіл по конічних перерізах навколо Сонця». Гаусc і потім неодноразово повертався до викладу свого методу і довів його до повної закінченості і досконалості. Гауcсу належить перше наукове обґрунтування методу найменших квадратів за допомогою нормального розміщення похибкою. Задачу наближення функцій за методом найменших квадратів вивчив російський математик П.Л.Чебишев, який з цією метою ввів ортогональні многочлени з різною вагою. Одне з найбільш строгих і витончених обґрунтувань методу найменших квадратів дав російський математик А.А.Марков.
Очевидно, що найбільш простими емпіричними формулами є ті, які подають результати спостережень у вигляді поліномів від тих величин, які при виконанні спостережень є незалежними змінними.