1.5.Статистичні власт ок методу найменших

цінки методу найменших квадратів є незміщеними1) :

Eb = β, Ea = α .

цінок методу найменших квадратів обчислюються

за наступними формулами:

б) відсутність зв’язк2

в) відсутність зв’язку2

У випадку, зображеному на Рис. 1.2.а) має місце досить тісний лінійний зв’язок між змінними. У випадках б) та в) лінійний зв’язок практично відсутній. Однак між цими двома ситуаціями існує істотна різниця. На Рис. 1.2 б), очевидно, відсутній будь-який зв’язок між

ивості оцін

квадратів

О

Дисперсії та коваріація о

1) Оцінка параметра називається незміщеною, якщо . $θθEθθθ$=

14

DDanxSbSabxSxxxxxx=+⎛⎝⎜⎞⎠⎟==−⎛⎝⎜⎞⎠⎟σσσ22221cov(,) (1.18)

14

Наведені формули не можна використовувати для перевірки гіпотез та інтервального оцінювання, оскільки до них входить невідомий параметр – дисперсія збурень σ2 . Отже, нам потрібно вміти знаходити її оцінку. Має місце наступний результат: статистика $σ22=−RSSn

є незміщеною оцінкою σ2. Якщо збурення нормально розподілені, то a та b також нормально розподілені. Величина RSSneiinσσ22122=−=Σ()

має χ2 - розподіл з n - 2 ступенями свободи. Більше того, випадкова величина RSS не залежить від a та b.

Далі ми будемо припускати, що збурення нормально розподілені. Як відомо, якщо випадкові величини ξ1~N(0,1), ξ2~незалежніχp22) , то tp===−ξξχ12стандарний нормальний розподілнезалежний 2розподіл, що ділиться на свою кількість ступенів свободи

має розподіл Стьюдента з p ступенями свободи.

Оскільки bSxx~(,)Nβσ2, тоbSxx−βσ2 має стандартний нормальний розподіл. Крім того, RSSnσχ222~− і ці випадкові величини незалежні. Отже, частка bSRSSnbSxxxx−−=−βσσβσ2222()$

має розподіл Стьюдента з n - 2 ступенями свободи. Величина $

σ2Sxxє оцінкою дисперсії b, а $

σ2Sxx – оцінкою середньоквадратичного відхилення, або,

2) Знак «~» читається: (випадкова величина) «має розподіл».

15

коротко, стандартною похибкою оцінки b. Уведемо позначення SE(b) = $σ2Sxx (

від англійського standard error -

стандартна похибка). Маємо bbtn−−βSE()~2 (1.19)

1.6.Статистичні висновки в моделі простої лінійної регресії

1.6.1. Перевірка гіпотез про коефіцієнт нахилу регресії

Стандартною процедурою є перевірка гіпотези про те, що коефіцієнт нахилу регресійної прямої β дорівнює нулю. Прийняття цієї гіпотези означає, що незалежна змінна не має впливу на залежну в рамках лінійної моделі. Не виключено, що насправді між змінними існує залежність, але виражена іншою функціональною формою. Статистика для перевірки гіпотези має вигляд tbb=SE() (1.20)

Значення цієї t-статистики, як правило, автоматично підрахо-вуються в комп’ютерних програмах з регресійного аналізу. Для перевірки гіпотези H0: β = β0 використовують наступну статистику tbb=−β0SE() (1.21)

За вибраним рівнем значущості α в таблиці розподілу Стьюдента з n-2 ступенями свободи знаходимо критичне значення tкр. Якщо |t| < tкр, то гіпотеза H0 приймається. Якщо |t| ≥ tкр, то гіпотеза H0 відхиляється.

1.6.2. Інтервальне оцінювання

Інтервальна оцінка параметра β з рівнем довіри 1-α (не плутати з постійним доданком у регресії) знаходиться за наступною формулою:

(();()bbtbbt ) −⋅+⋅SESEкркр, (1.22)

де значення tкр знаходиться за вибраним α в таблиці розподілу Стьюдента з n-2 ступенями свободи.