64. Чому дорівнює вектор в моделі множинної лінійної регресії?

Для визначення компонента вектора , як статистичних оцінок компонента вектора , використовується МНК. Нагадаємо, що суть методу найменших квадратів – мінімізація суми квадратів похибок. В данному випадку цю велечину можна представити як добуток , що дорівнює:

(10.7)

Для мінімізації добутку використ. Правила диференціації по вектору:

У випадку, коли матриця А симетрична – транспортована матриця, маємо:

(10.9)

Тут А – матриця зі сталими коефіцієнтами

Формула (10.7) + (10.9) одержимо:

(10.10)

Отже компонент вектора визначається за формулою (10.10) . Вектор є випадковим ,його елементи змінюються зі зміною вибірки:

Отже одержано:

65. Чому дорівнює м( ), cov , m( ) в моделі множинної лінійної регресії?

Оскільки - випадковий вектор то його компоненти будуть випадковими величинами.

Знаючи що

Отримаємо

Бо

Отже маємо

Для визначення дисперсії випадкових величин компонентів емпіричного вектора знайдемо його коваріаційний момент:

Математичне сподівання буде дорівнювати:

66. Як визначається точкова незміщена статистична оцінка для в моделі множинної лінійної регресії?

Так як є статистичною оцінкою для , то буде пов'язане із . Враховуючи те, що прогнозне значені оззнаки Y буде дорівнювати то позначивши , одержимо

Тоді вектор залишків буде дорівнювати

^{e=y-y*=y-Xβ*=y-X(X”X)-1X”y=(I- X(X”X)-1X”)y=(I-N)y=T}

I-N=T (10.23)

Для матриць N і Т виконуються умови: ,

^{, . Такі матриці називають ідемпотентними.}

^{При цьому корисно знати, що}

(10.24)

тут — слід матриці, тобто сума елементів її головної діагоналі. Ураховуючи особливу структуру матриць N і Т, можемо стверджувати, що

(10.25)

(10.26)

Повернемося до вектора відхилень (10.22):

(10.27

Тепер сума квадратів відхилень дорівнює

(10.28)

Візьмемо математичне сподівання від правої та лівої частин рівності (10.28), використовуючи при цьому (10.24):

(оскільки матриця має порядок і при цьому , де — це слід мат­риці). Таким чином, дістали

Тоді виправлена дисперсія , та виправлене середньоквадртичне відхилення будуть обчислюватися за формулами

де —точкова незміщена статистична оцінка для .(10.29)

Враховуючи (10.29), (10.16), (10.19), (10.20) набере такого ви­гляду:

(10.31)

Можна довести,

Тобто зв'язок між векторами відсутній. Але враховуючи те, що є функцією від вектора , випливає висновок про незалежність та .

67. Як побудувати довірчий інтервал із заданною надійністю  для та теоретичної множинної лінійної регресії?

Для побудови довірчих інтервалів для параметрів за надійнітю γ визначається з нерівності:

. Отже, значання параметрів буде міститися з надійністю γ в проміжку: , де число ступенів свободи k=n-m-1. Аналогічно побудова довірчого інтервалу для теоретичної множинної лінійної регресії із заданою надійністю γ використовується рівність з якої одержимо: де

t(γ,k=n-m-i) визначається по таблиці. Якщо до значень додати можливі відхилення залежної змінної Y від функції регресії, то в цьому випадку до дисперсії D( необхідно додати дисперсію випадкової величини , яка дорівнює , однак ураховуючи те, що є невідомою величиною, то використовуємо її точкову незміщену статистичну оцінку

В цьому разі

Тепер довірчий інтервал буде дорівнювати