7. Интервальное оценивание в задаче нормальной линейной регрессии.

В задаче нормальной линейной регрессии (9.1)-(9.4), (9.10) при условии теорема 9.8 позволяет строить: а) доверительные интервалы для компонентнеизвестного вектора параметров, б) доверительный интервал для остаточной дисперсии, в) доверительную область для вектора, г) критерий проверки гипотезы об отсутствии зависимости.

Согласно пункту 1 теоремы 9.8 векторная случайная величина имеет нормальное распределение, откуда каждая случайная величинаимеет нормальное распределение, тогда случайная величинаимеет стандартное нормальное распределение. Согласно пункту 3 теоремы 9.8 случайная величинаимеет распределениеи согласно пункту 4 случайные величиныинезависимы, тогда статистика:

по определению имеет распределение Стьюдента . Отсюда следует, что доверительным интервалом для неизвестного параметрас уровнем довериябудет интервал:

,

где – квантиль уровняраспределения Стьюдента.

Построение доверительного интервала для неизвестной остаточной дисперсии основывается на пункте 3 теоремы 9.8, согласно которому статистикаимеет распределение. Легко видеть, что доверительным интервалом дляс уровнем доверияявляется интервал:

,

где и– квантили уровнейираспределения.

Для построения доверительной области для вектора заметим, что по теореме 9.8 из пункта 3 случайная величинаимеет распределение, из пункта 2 случайная величинаимеет распределениеи согласно пункту 6 случайные величиныинезависимы, тогда статистика:

по определению имеет распределение Фишера . Посколькуявляется решением нормального уравнения, то как было показано при доказательстве утверждения (9.2) для любого вектора параметров:

,

тогда для вектора ,

,

отсюда,

.

Симметричная матрица всегда неотрицательно определена (утверждение 9.1), а если, тогда матрицаявляется положительно определенной (утверждение 9.1: изследует, что ранг матрицыпорядка,, равен, действительно, допустим противное – рангменьше, тогда столбцы матрицылинейно зависимы, тогда существуеттакой, что, тогда и, и тогда столбцы матрицытоже линейно зависимы, но тогда, что противоречит). Из положительной определенности матрицыследует, что геометрическое место точекудовлетворяющих уравнению, где, является эллипсоидом.

Внутренность эллипсоида образует доверительную область. Действительно, пусть есть некоторый уровень доверия,обозначает квантиль уровняраспределения Фишераи область:

,

тогда,

,

где – функция распределения для распределения Фишера. Отсюда следует, что областьявляется доверительной областью дляс уровнем доверия.

Если в (9.1) все величины равны нулю, то это означает отсутствие зависимости между случайной величинойи случайными величинами. Пусть рассматривается гипотезаоб отсутствии зависимости:

: , …,,

и требуется построить критерий проверки гипотезы . Из теоремы 9.8 следует, что статистика:

имеет распределение Фишера при всяком параметре. Отсюда, если гипотезаверна, тогда статистика:

,

(где ,)

имеет распределение Фишера .

Большие значения статистики свидетельствуют против гипотезы, действительно, если гипотезане верна, то есть, тогда вектор наблюдениеимеет ненулевое смещениеи с большой вероятностью попадает в окрестность ненулевого вектора. Оценка по методу наименьших квадратовминимизирует величину среднеквадратичного отклонения, поэтому вектор регрессионных значенийоказывается близким в наблюдениюи тоже с большой вероятностью оказывается в окрестности ненулевого вектора, отсюда величинане является малой, а величинаявляется малой, поэтому отношениене является величиной близкой к нулю и умножается на возрастающий прикоэффициент. Таким образом, если гипотезане верна, то статистикас большой вероятностью принимает значения не из окрестности нуля.

Отсюда следует, что в качестве критической области гипотезыследует выбирать область вида:

,

где квантиль распределенияуровняи– заданный уровень значимости. Действительно, вероятность отклонения гипотезыпри условии, чтоверна:

,

где – функция распределения для распределения Фишера.

152