2.5 Оператор оцінювання 1мнк

Нехай відомо n спостережень незалежних змінних х₁, x₂,...,х_m і n спостережень залежної змінної у. Необхідно за МНК оцінити параметри α₁, α₂,..., α_m лінійної моделі (2.18).

Якщо виконуються зазначені раніше передумови, то оцінки параметрів можна отримати за таким алгоритмом.

1. Незалежні змінні записати у вигляді матриці

(2.34)

де x₀ – вектор, складений з n одиниць;

х₁, x₂,...,х_m – вектори спостережень незалежних змінних.

2. Обчислити матрицю X^TX і вектор X^Tу, де X^T – транспонована матриця X, у – вектор спостережень залежної змінної.

3. Обчислити обернену матрицю (X^TX)^-1.

4. Обчислити параметри моделі за формулою

(2.35)

де α – вектор параметрів, .

Для визначення оцінок параметрів можна скористатися будь-яким методом розв’язання системи лінійних рівнянь відносно вектора невідомих змінних:

(2.36)

2.6 Передумови застосування методу найменших квадратів (1мнк) – умови гауса-маркова

Для визначення емпіричного вектора необхідно використати метод найменших квадратів (МНК), а для цього потрібно, щоб виконувалися певні умови, які називаються умовами Гаусса-Маркова, а саме:

1. Математичне сподівання випадкових відхилень повинно дорівнювати нулеві:

(2.37)

Ця умова вимагає, щоб випадкові відхилення в середньому не впливали на залежну змінну Y, тобто в кожному конкретному спостереженні відхилення може набувати додатні або від’ємні значення, але не повинно спостерігатися систематичне зміщення відхилень в переважній більшості в бік одного знаку.

Із врахуванням вищесказаного, використовуючи рівняння (2.32), будемо мати:

(2.38)

2. Дисперсія випадкових відхилень повинна бути сталою величиною

,

(2.39)

Ця вимога передбачає, що не зважаючи на те, що при кожному конкретному спостереженні випадкове відхилення може виявитися відносно великим чи малим, це не повинно складати основу для апріорної причини, тобто причини, що не базується на досвіді, що спонукала б велику похибку.

3. Випадкові відхилення та , повинні бути незалежними одне від одного.

Виконання цієї умови припускає, що між будь-якими випадковими відхиленнями відсутній систематичний зв’язок, тобто величина та знак будь-якого випадкового відхилення не буде являтися причиною величини та знаку будь-якого іншого випадкового відхилення. Цю умову можна записати так

(2.40)

Тут є математичний запис коваріаційного (кореляційного) моменту.

4. Випадковий вектор відхилень повинен бути незалежним від регресорів матриці .

Ця умова виконується автоматично, коли пояснюючі змінні не є стохастичними величинами в заданій моделі.

(2.41)

бо , а ( не є випадковою величиною).

5. Компоненти випадкового вектора повинні мати нормальний закон розподілу .

Тоді випадковий вектор буде мати нормальний закон розподілу виду .

6. Між регресорами , матриці Х повинна бути відсутня лінійна (кореляційна) залежність. Для цього випадку повинна виконуватися умова.

(2.42)

Слід при цьому наголосити, що матриця є симетричною.

7. Економетричні моделі повинні бути лінійними відносно своїх параметрів.

Класичні лінійні моделі	економетричні моделі, для яких виконуються умови (1-7)
Гомоскедастичні моделі	моделі, для яких виконується умова (2) (сталість дисперсії випадкових відхилень)
Гетероскедастичні моделі	моделі, для яких не виконується умова (2) ()

Слід також зауважити, що ранг матриці Х повинен бути

(2.43)

Виконання перелічених умов дає нам право на використання МНК для визначення статистичних оцінок параметрів теоретичної лінійної множинної регресії, перевірку статистичних гіпотез та побудови інтервальних статистичних оцінок.