Вхідні дані моделювання

І
1	25	5
2	30	6
3	35	9
4	45	12
5	65	18

Реальні спостереження зобразимо точками у системі координат () (рис.2.1).

Рис. 2.1. Залежність між обсягами виданих банком кредитів та витратами на рекламу

Яка пряма більше підходить? Інтуїтивно ми обираємо 2. Запишемо це у математичних термінах. Що таке математичні терміни? Це координати точок.

Візуально можна припустити, що між даними є лінійна залежність, тобто їх можна апроксимувати прямою лінією.

Взагалі, існує необмежена кількість прямих , які можна провести через множину спостережуваних точок. Яку ж із них вибрати?

Щоб це визначити, потрібно мати у розпорядженні певний критерій, що дозволяв би вибрати з множини можливих прямих «найкращу» з точки зору даного критерію. Найпоширенішим є критерій мінімізації суми квадратів відхилень. На рис. 2.1, наприклад, пряма (1), як і інші, розташована таким чином, що деякі точки знаходяться вище, деякі нижче цієї прямої, на основі чого можна встановити відхилення (помилки) відносно цієї прямої:

(2.22)

де –-та точка на прямій, яка відповідає значенню(див. рис. 2.2).

Відхилення, або помилки, ще інколи називають залишками. Логічно, що треба проводити пряму таким чином, щоб сума квадратів помилок була мінімальною. В цьому і полягає критерій найменших квадратів: невідомі параметри тавизначаються таким чином, щоб мінімізувати. Справді, за критерієм маємо

(2.23)

Це функція двох змінних та.

Знайдемо мінімум функції двох змінних.

Визначимо значення та, які мінімізують вираз (2.23). Мінімум функції (2.22) досягається за необхідних умов, коли перші похідні дорівнюють нулю, тобто

Рис. 2.2. Відхилення теоретичних значень від фактичних

	(2.24)
	(2.25)

Вирішимо систему лінійних алгебраїчних рівнянь за допомогою теореми Кронекера-Капеллі.

Отримаємо систему лінійних рівнянь:

(2.26)

яка називається нормальною.

Розв'язок (2.26) відносно нахилу прямої (невідома ) дає

(2.27)

З метою спрощення виразу для чисельник та знаменник виразу 2.27 помножимо на. Отримаємо:

(2.28)

де .

Коефіцієнт коваріації
Дисперсія величини

Отже, кут нахилу прямої регресії можна встановити за формулою (2.28).

Для визначення параметра повернемося до (2.27). Маємо:

(2.29)

Вираз (2.29) дає нам, по-перше, підтвердження того, що сума помилок дорівнює нулеві. Справді,

(2.30)

по-друге, розділивши (2.30) на маємо вираз для визначення:

(2.31)

Таким чином, ми знайшли формули для визначення невідомих параметрів та, і можемо записати у явному вигляді регресіюу від х, у якій параметри обчислені за методом найменших квадратів, її інколи називають регресією найменших квадратів у від х. Маємо:

(2.32)

або

(2.33)

ПРИКЛАД ілюстрації побудови рівняння регресії. Для ілюстрації цих викладок повернемося до нашого прикладу про дослідження ефективності витрат на рекламу. Проведені попередні розрахунки подамо у вигляді табл.2.2.

Для обчислення невідомих параметрів необхідно послідовно здійснити такі розрахунки:

Таблиця 2.3