Лабораторна робота №6

Тема: Побудова математичних моделей експериментально‒статистичними методами (метод найменших квадратів).

Мета: засвоїти методику побудови математичної моделі статистики об’єкта управління експериментально-статистичними методами.

Теоретичні відомості

Об’єкт має m вхідних х1, х2…, хm і одну координату y. Структурна схема такого об’єкту приведена на рис.1.

Тут ми не розмежовуємо змінні, що регулюються і не регулюються. Позначимо вектор вхідних координат, Т знак транспонування. Проведено n експериментів, в кожному з яких, при відомих значеннях вхідних координат j , визначалися відповідні їм в установленому режимі значення yj вихідної координати (j – номер експерименту). Необхідно побудувати математичну модель об’єкта.

Залежність математичного очікування вихідної координати у від х називається регресійною залежністю. Вона і може в даному випадку слугувати математичною моделлю об’єкта. Крива, що описує залежність М {y/ } від х, називається кривою регресії. Приклад кривої регресії наведений на рис.2.

При побудові моделі у нашому розпорядженні є сукупність експериментально отриманих значень вхідної і вихідної координати. Їй відповідає сукупність точок у просторі ( – у), якщо об’єкт має одну вхідну координату х.

Ясно, що крива регресії повинна проходити близько експериментальних точок. Точніше, значення вихідної змінної j, що знаходиться за моделлю, при умові, що вхідні координати прийняли значення j (j – номер експерименту), повинні бути близькі до значень вихідної координати yj , що визначні експериментально при тих же значення вхідних змінних. Ця умова і використовується при побудові моделі. Для цього сформуємо функцію F, яка оцінює невязку  - ступінь відхилення

Ці відхилення вказані стосовно випадку, коли об’єкт має одну вхідну координату. У методі найменших квадратів використовується квадрат невязки:

Вид залежності ( , ) задається. В загальному виді залежність можна представити у вигляді:

(1)

де (b0, b1,…,bp) – вектор параметрів моделі (коефіцієнти).

Задача полягає в тому, щоб за дослідними даними найкращим чином визначити значення параметрів .

У цьому випадку метод найменших квадратів зводиться до наступного. Найкращими будуть ті значення параметрів , при яких сума квадратів відхилень розрахункових величин ( , ) від дослідних у( ) виявиться найменшою.

Враховуючи, що при знаходженні параметрів кількість експериментів n постійна, ступінь близькості моделі і об’єкта будуть оцінюватися величиною:

(2)

Таким чином, у методі найменших квадратів параметри знаходяться із умови:

Тобто являються розв’язком задачі мінімізації суми квадратів невязки (цим і пояснюється назва методу).

Покажемо, як вирішується ця задача.

Нехай функція задана в загальному вигляді (1). Структуру моделі, вхідні координати, що входять до неї, чи функції від них, можна потім уточнити. Запишемо умови всіх дослідів у вигляді таблиці матриці плану експерименту:

(3)

Тут кожен рядок умова одного досліду; кожен стовпець значення однієї змінної в різних дослідах; х.. значення 1-ї змінної в 3-му досліді.

Розглянемо також вектор-стовпець результатів експерименту:

(4)

Розрахункове значення j для j-того рядка матриці буде мати вигляд:

(5)

Приведене вище визначення метода найменших квадратів може бути записане формулою:

(6)

Ті значення , при яких сума S виявиться мінімальною, і будуть найкращими.

Простіше всього розрахунок методом найменших квадратів здійснюється, коли рівняння (1) лінійно відносно коефіцієнтів . Це означає, що його можна записати в наступному вигляді:

(7)

Тут х0 фіктивна змінна, тотожно рівна одиниці. Вона вводиться для симетрії для того, щоб усі параметри, і в тому числі b0 , входили в модель єдинообразно. Це спрощує викладки.

Розглянемо розрахунок коефіцієнтів для цього випадку. Матриця буде мати вигляд:

(8)

Квадрат різниці для 3-го досліду запишеться так:

(9)

Підставляючи залежність (9) у вираз (6), отримаємо:

(10)

Необхідною умовою мінімуму функції S( ) є рівність нулю її часткових похідних за шуканими параметрами (оскільки функція S ( ) являється квадратичною, то ці умови виділяють єдину точку мінімуму).

або

Запишемо цю систему у вигляді, зручному для аналізу,

(11)

Отримана система лінійних алгебраїчних рівнянь включає стільки рівнянь, скільки в неї входить невідомих параметрів b. В теорії метода систему (11) прийнято називати системою нормальних рівнянь.

Система нормальних рівнянь може бути розв’язана, наприклад, по правилу Крамера, згідно якому , де - визначник матриці системи нормальних рівнянь:

а отримується з шляхом заміни 1-го стовпця на стовпець

Розв’язок може бути порівняно точно знайдень, якщо матриця системи нормальних рівнянь не являється погано обумовленою, тобто визначник суттєво відрізняється від нуля. У протилежному випадку, при розрахунку b1, 1 буде ділитися на великину, близьку до нуля. В цьому випадку необхідно або змінювати структуру моделі, або змінювати вибірку експериментальних даних.

Приклад. Розразунок коефіцієнтів методом найменших квадратів.

За дослідними даними побудувати залежність густоти рідини від температури у вигляді параболи 2-ї степіні.

Для зменшення розрахунків зручно перетворити змінні так, щоб вони виражались малим числом цифр. Так замість Т можна використати величину х = (Т - 288) / 5, а замість  у =  - 870

Тоді залежність отримає вид:

Представимо дослідні дані х та у

У першому стовпці матриці плану у всіх рядках стоять значення х0 = 1, у другому стовпці значення х, у третьому значення х2. Остаточно ця матриця має вигляд:

Система нормальних рівнянь вийде за формулою (11)

Визначник матриці системи нормальних рівнянь

Звідки

або

Остаточно

При великому числі шуканих параметрів побудова регресійного рівняння вимагає громіздких обчислень. У зв’язку з цим у нинішній час побудова регресійних залежностей практично завжди виконується із застосування ЕВМ. У цьому випадку зручно використовувати матричний спосіб представлення й обробки інформації. Нескладно переконатися, що матриця коефіцієнтів лівих частин системи рівна добутку матриці на транспоновану матрицю Т:

(12)

Вектор-стовпець правих частин системи нормальних рівнянь дорівнює добутку Т , де – вектор (4)

(13)

В матричних позначення розв’язок системи (11) має вигляд

(14)

Де індекс -1 є символ звернення матриці; – вектор вихідних параметрів. Це співвідношення і використовується для знаходження параметрів моделі.

Відзначимо, що якщо об’єкт має декілька вихідних координат, то для кожної вихідної координати її залежність від вхідних змінних знаходиться окремо.

Перевірка адекватності моделі

Перевірка гіпотези про адекватність здійснюється шляхом порівняння розкид дослідних даних відносно рівняння регресії з величиною випадкової похибки експерименту. Якщо розкид того ж порядку, що і помилка дослідження, то його можна пояснити випадковими помилками: рівняння адекватне. Якщо розкид значно більше, то він, очевидно, не зводиться до помилки дослідження, а пов’язаний з неадекватністю рівняння. Рівняння треба ускладнити. Так, за допомогою метода найменших квадратів на рис.4 через одні й ті ж точки проведені пряма і парабола. Пряма неадекватна, а парабола адекватна.

Для кількісної оцінки вводиться міра розкиду даних дисперсія. Мірою розкиду дослідних даних відносно моделі являється залишкова дисперсія , що дорівнює відношенню мінімальної суми квадратів відхилення S до числа ступенів свободи.

Число ступенів свободи називають різницю між числом експериментів і числом невідомих параметрів, що оцінюються на основі цих експериментів. Остаточно, вираз для залишкової дисперсії

(15)

Де f число ступенів свободи( f=n-p; n – число експериментів; p – число параметрів, що оцінюються).

Для оцінки величини випадкової помилки експерименту розраховуються дисперсію відтворюваності . Для цього проводять одну чи декілька серій паралельних дослідів; в кожній такій серії значення вхідних змінних від досліду до досліду не змінюються. У цьому випадку відхилення відносять до середнього значення вимірюваної величину. А число ступенів свободи буде на одиницю менше числа паралельних дослідів m.

Формула f = m – 1 пояснюється в даному випадку так, як і формула для f при описі рівнянь; одиниця найменше число дослідів, необхідне для того, щоб скласти представлення про середнє значення величини, що визначається.

Отже

(16)

Де – середнє значення у всіх результатах експериментів

(17)

Для перевірки адекватності розраховують дисперсійне відношення F

(18)

Якщо F більше деякого критичного значення, то рівняння неадекватне, якщо менше, то адекватне. Критичне значення F залежить від двох чисел ступенів свободи: f1, що входить у формулу (15), f2 = m-1, що входить у формулу (16). Таблиця критичних значень приведена у додатку.

Чим менше f2, тим більше критичне F: чим менше число ступенів свободи при оцінці дисперсії відтворюваності, тим ця оцінка менш точна і тим менш визначено доводиться оцінювати адекватність: не виключено, що навіть дуже великий розкид пояснюється помилкою досліду. В усякому випадку для оцінки доцільно провести не менше трьох дослідів (f2≥2).

Приклад. Перевірка адекватності рівняння.

Вивчена залежність у від х. приведемо дослідні дані:

Для оцінки відтворюваності проведені 4 досліди при х = 0:

Чи адекватне лінійне рівняння?

Параметри його знайдемо з дослідних даних методом найменших квадратів. Отримаємо:

Відхилення дослідних даних від розрахункових складає:

У відповідності до формули (15), = 0,133. Із паралельних дослідів при х = 0 за формулою (16) знаходимо = 0,0834. Звідси

Числа ступенів свободи: f1 = 5 – 2 = 3; f2 = 4 – 1 = 3. По таблиці FКР = 9,3 : F<FКР (при α = 0,05).

Рівняння адекватно.

Приклад. Перевірка адекватності моделі при великій точності дослідів.

Чи адекватне рівняння, отримане в попередньому прикладі, якщо при оцінці відтворюваності отримані такі результати:

Рівняння регресії не змінюється, = 0,133, але точність дослідів інша: = 0,00834.

При такій точності експерименту те ж рівняння неадекватне.

Перевіримо більш складне рівняння (2-го порядку). За тими ж даними метод найменших квадратів дає:

Для цього рівняння відхилення дослідних даних від розрахункових дорівнюють:

Звідси

Числа ступенів свободи: f1 = 5 – 2 = 3; f2 = 4 – 1 = 3. По таблиці FКР = 9,3. Таким чином, F<FКР.

Рівняння адекватне.

За відсутності паралельних дослідів і дисперсії відтворюваності якості апроксимації можна оцінити, порівнявши остаточну дисперсію і дисперсію відносно середнього

(19)

По критерію F

(20)

Якщо F більше критичного значення, то рівняння неадекватне, якщо менше, то адекватне.

Якщо модель виявилась неадекватною, то треба або змінити її структуру, або збільшити число проведених експериментів.