2. Знаходження параметрів теоретичного рівняння регресії методом найменших квадратів

Розглянемо питання про знаходження параметрів теоретичного рівняння регресії методом найменших квадратів.

Нехай дано точок (для простоти позначимо ). Знайдемо та методом найменших квадратів. Для цього будемо вимагати, щоб сума квадратів відхилень точок від лінії вздовж осі була найменшою (рис.1).

0

Рис. 1. Метод найменших квадратів.

Маємо: . Оскільки – функція, залежна від двох змінних і , для знаходження її мінімуму шукаємо частинні похідні та :

,

.

Прирівнюючи ці похідні до нуля, одержимо так звану нормальну систему відносно і :

.

Звідси маємо:

Параметри і теоретичного рівняння регресії можна оцінити за формулами (для рівняння значущості )

,

де – статистика Стьюдента при рівні значущості ; – кількість степенів свободи (критична область двохстороння).

Зауваження. Коефіцієнт можна представити у вигляді

,

де та – вибіркові середні квадратичні відхилення, а – вибірковий коефіцієнт кореляції:

.

Цей коефіцієнт є статистичною оцінкою невідомого теоретичного коефіцієнта кореляції , який визначається рівністю:

.

Аналогічно можна знайти вибіркове рівняння прямої лінії регресії на :

,

Цікаво визначити, що у швейному і взуттєвому виробництвах при виборі ознак, за якими стандартизують одяг і взуття, велику роль відіграє оцінка близькості кореляційної залежності між і і лінійної функціональної залежності. Це пов’язане з тим, що розміри людського тіла (наприклад, зріст, повнота, довжина, ширина кисті руки) відповідають нормальним законам розподілу, а в таких випадках кореляційні залежності близькі до лінійних функцій.

3. Властивості вибіркового коефіцієнта кореляції

Відзначимо властивості вибіркового коефіцієнта кореляції .

1. Число – безрозмірна величина, яка характеризує тісноту лінійної залежності двох випадкових величин і .

2. Модуль вибіркового коефіцієнта кореляції не перевищує одиницю: .

3. Якщо , то обидві лінії регресії та на співпадають. Між випадковими величинами та існує строга лінійна кореляційна залежність.

4. Якщо , то між та немає лінійної залежності. В цьому випадку говорять, що випадкові величини та некорельовані.

5. При кореляція називається додатною із зростанням однієї випадкової величини друга в середньому також зростає.

6. При кореляція називається від’ємною. Із зростанням однієї випадкової величини друга в середньому спадає.

7. На практиці для оцінки тісноти лінійного зв’язку і користуються такою шкалою.

–зв’язку немає;

–зв’язок слабкий;

–зв’язок помірний;

–зв’язок задовільний;

–зв’язок сильний;

–зв’язок дуже сильний.