31. Оцінювання параметрів моделі

Розгляньмо побудову множинної ЛКР моделі (3.2) методом найменших квадратів. У першому наближенні вважають, що обсяг вибірки, на підставі якої оцінюють параметри моделі, має бути щонайменше у 10 разів більший від кількості факторних ознак, до того ж що тісніше факторні змінні корелюють між собою, то більшим повинен бути обсяг вибірки.

Критерій методу найменших квадратів для оцінювання параметрів узагальненої моделі має вигляд

Q(b₀, b₁, b₂,…, b_k) є або

Після деяких перетворень отримуємо систему нормальних рівнянь для визначення b₀, b₁, b₂, …, b_k вибіркової моделі:

Розв’язавши систему (3.4), яка містить (k+1)-не лінійне рівняння з k+1 невідомою, знайдемо значення параметрів b₀, b₁, b₂, …, b_k . Дослідження доводять, що функція Q(b₀, b₁, b₂,…, b_k) в отриманій точці набуває мінімальне значення.

Спосіб, яким записують систему нормальних рівнянь (3.4), назвемо звичайним. Систему нормальних рівнянь для визначення параметрів b₀, b₁, b₂,…, b_k множинної ЛКРМ можна записати ще трьома іншими способами: -способом відхилень; -способом коваріацій; -способом кореляційної матриці.

1. Побудова системи нормальних рівнянь способом відхилень.

Під час застосування способу відхилень для представлення системи (3.4) використовують суми, суми квадратів та суми парних добутків відхилень змінних моделі від своїх середніх значень. При цьому передбачають, що саму множинну ЛКРМ можна подати як . (3.5)

Оскільки , то перше рівняння системи (3.4) набуває вигляд де

Наступні k рівняння, щоби визначити k параметрів b₁, b₂,…, b_k, утворюють таку систему:

Вільний член b₀ моделі (3.3) визначають за допомогою першого рівняння системи (3.4) або ж рівняння (3.5): (3.7)

2. Побудова системи нормальних рівнянь способом коваріацій.

Під час застосування способу коваріацій для представлення системи (3.4) використовують дисперсії та коваріації змінних моделі. Для цього поділимо всі рівняння системи (3.6) на n. Зважаючи що

і ввівши позначення

щоби визначити параметри b₁, b₂,…,b_k, отримаємо таку систему k рівнянь з k невідомими:

Зауваження. Щоби знайти дисперсії та коваріаії, зручно використовувати формули обчислення моментів:

3. побудова системи нормальних рівнянь способом кореляційної матриці.

Під час застосування способу кореляційної матриці для представлення системи (3.4) використовують матрицю R коефіцієнтів парної кореляції між змінними моделі. Для цього поділимо перше рівняння системи (3.8) на S₁S_y, друге – на S₂S_y,…, k-те рівняння – на S_kS_y і введемо позначення:

(3.9)

Отримаємо таку систему рівнянь:

(3.10)

Параметри які є розв’язками системи рівнянь (3.10), називають стандартизованими. На відміну від звичайних коефіцієнтів множинної регресії b_j, вони є без вимірними величинами, а отже, їх можна порівнювати між собою.

Якщо множину ЛКРМ ми хочемо записати стандартизовано, то факторні ознаки і результуючу змінну також необхідно подати в стандартизованих відхиленнях: (3.11)

Множину ЛКРМ стандартизовано записують так:

Якщо ж множинну модель ми хочемо записати як (3.2), то параметри b_j, знаходимо за формулою а вільний член моделі b₀ – за формулою (3.7).

Оцінки b₀, b₁, b₂,…, b_k невідомих параметрів узагальненої множинної ЛРКМ, котрі отримані методом найменших квадратів за умови дотримання основних припущень, є найкращими лінійними оцінками.