14. Мнк для ідентифікації об’єктів.

Методи кореляційного аналізу дозволяють встановити лише чи існує лінійна або нелінійна залежність. За допомогою методів регресійного аналізу можна побудувати лінійну залежність між вхідними та вихідними параметрами. Одним із таких методів є МНК. Суть даного методу полягає в тому, що знаходяться найбільш кращі коефіцієнти функціональних залежностей.

Розглянемо спочатку найпростіший варіант:

, а саме коли на вихідний параметр впливає лише одна вхідна. Для знаходження коефіцієнтів та проводять на об’єкті деяку к-ть N експериментів. В результаті матимемо наступні системи рівняння:

Отримавши систему N- рівнянь на 2 невідомі та , а тому виникає задача усереднення експериментальних даних:

Основна ідея МНК базується на лінеаризації суми квадратів відхилень експериментальних значень.

Аналітично дана умова запишеться у вигляді:

Оскільки , то

Для знаходження мінімуму функції F необхідно знайти похідні по невідомим та та прирівняти їх до нуля:

Приклад:

Нехай маємо деякий об’єкт з одним вхідним х та одним вихідним у параметром. На об’єкті провели 3 експеримента , які зведені в наступній таблиці. Задача полягає в тому , побудувати лінійну залежність.

	1	2	3
Х	0	1	2
у	-1	0	2

Запишемо формулу МНК для даного випадку:

Зробивши підстановки ми отримаємо лінійну залежність:

15. Застосування мнк до нелінійної регресії та багатомірного об’єкта.

Форма лінії регресії може носити не тільки лінійний характер, але і нелінійний. А саме лінію регресії можна задавати наприклад у вигляді:

Коефіцієнти шукаються аналогічно як в попередньому випадку за МНК. А саме проводять п-к-ть експериментів:

Далі знаходимо мінімум функції F. В якості прикладу розглянемо відшукання коефіцієнтів у випадку коли зв’язок між вхідним та вихідним задається у вигляді:

Тоді :

Знайдемо похідну і прирівняємо до нуля:

Отже, ми отримали систему з 2 рівнянь з 2 невідомими. Аналогічно застосовують МНК до будь-якої з наведених вище функцій лінії регресії. У випадку багатомірного об’єкта зв’язок між вхідними і вихідними запишеться у вигляді:

Задачу визначення коефіцієнта розв’язують також за МНК. Згідно МНК у випадку багатомірного об’єкта розклад експериментальних даних , щодо розрахунку залежності був мінімальний.

Мірою такого розкладу є вибіркова дисперсія, яка визначається:

Для визначення коефіцієнтів згідно МНК ми будемо шукати мінімум вибіркової дисперсії. Для цього необхідно знайти похідні від функції F по всіх відомих коефіцієнтах і прирівняти їх до нуля:

Найшовши похідну по F отримаємо наступну систему рівнянь:

Розв’язавши дану систему знайдемо коефіцієнти, а отже отримаємо лінію регресії для багатомірного об’єкту.

16. Побудова лінії регресії засобами MatLab.

У MatLab використовується функція polytool(x,y). Перед використанням даної команди вводяться значення Х та У у вигляді векторів.

Після введення команди polytool , на екрані з’являється графічне вікно. Дане вікно містить поле Degree, куди вводяться степінь полінома для лінії регресії.

Також у вікні зображено експериментальні точки, лінію регресії, та довірчий інтервал. Тут є випадаючий список Export, де вказуються дані, які можна зберегти у робочому просторі.

При виборі у цьому списку Parameters, у робочому просторі будуть збереженні коефіцієнти лінії регресії.

Приклад:

Нехай маємо набір експериментальних даних:

Х	1	2	3	4	5	6
у	2	4	7	9	11	15

Необхідно встановити зв’язок між Х та У у вигляді функцій:

Вводимо наступні команди:

X=[1,2,3,4,5,6];

Y=[2,4,7,9,11,15];

polytool(x,y)

В результаті отримаємо наступне графічне вікно: