5. Нарушения предположений о векторе и способы адаптации

Нарушение <5.1>. Формальным признаком нарушения <5.1> является применение неполного метода перебора. Однако, даже при полном однокритериальном переборе по ряду причин не удается получить структуру с МНК – оценками, обладающими требуемыми свойствами НЛО, особенно при нарушении условия <3.1>.

Тем не менее на первом этапе исследования необходимо получить структуру, оптимальную по наиболее важному для экспериментатора критерию. В этом случае (при невозможности применить метод полного перебора) рекомендуются методы псевдобулевой оптимизации, ветвей и границ, генетические алгоритмы и т.д. На первом этапе можно применить метод пошаговой регрессии.

Нарушение <5.1>. Соблюдения условия о независимости откликов в многооткликовой задаче можно проверить по коэффициентам парной корреляции .

При существенном нарушении <5.2> прибегают к специальным методам оценивания.

4. Адаптация к нарушениям предположений ра – мнк

1. Адаптация к нарушениям условий <4.4>, <4.5>

   1. Адаптация к гетероскедастичности

Пусть матрица ковариаций вектора ошибок -диагональна, но ее элементы на диагонали не равны друг другу, т.е. или, что одно и то же, ошибки некоррелированы, но имеют непостоянные дисперсии (т.н. гетероскедастичность).

Обобщенный МНК. Рассмотрим вначале более общий случай, когда для модели выполняются все условия за исключением двух (<4.4>, <4.5>): , причем - недиагональная матрица ковариаций.

Если применить обычный МНК, то останется несмещенной оценкой, однако оценка матрицы ковариаций вектора , т.е. , окажется смещенной, что приведет к неэффективности оценок .

Формально для получения наилучших линейных оценок необходимо воспользоваться обобщенным МНК (ОМНК), теоретическим основанием которого является теорема:

Теорема Айткена: В классе линейных несмещенных оценок вектора для обобщенной регрессионной модели оценка

(4)

имеет наименьшую матрицу ковариаций.

Последняя в этом случае запишется в виде

. (5)

Следует отметить, что при мера не может быть использована для оценки качества модели.

Для применения ОМНК необходимо знать матрицу , которая на практике обычно не известна. Так как в общем случае содержит неизвестных элементов, то по наблюдениям невозможно получить их наилучшие линейные оценки.

Приближением к ОМНК является так называемый «доступный» ОМНК, в котором на структуру вводят дополнительные условия.

Взвешенный МНК. Применим ОМНК для случая, когда матрица ковариаций вектора ошибок диагональна, иначе говоря, . Часто используют представление , где числа нормированы так, что . При =1 получаем обычный классический случай.

Алгоритм ОМНК здесь достаточно прост, так как он сводится к применению обычного МНК к избыточной системе уравнений

; , (6)

где при .

Применение ВМНК приводит к уменьшению стандартных ошибок оценок по сравнению с обычным МНК.

Частный случай применения доступного ОМНК. Как правило, ошибки неизвестны. Для их оценки используем частное условие: стандартное отклонение ошибки пропорционально независимой переменной.

Иногда априори можно считать, что прямо пропорционально одной из переменных , т.е. . Чтобы перейти к классическому случаю разделим каждое уравнение системы

;

на и введем новые регрессоры и отклики . При таком преобразовании МНК – оценки не изменятся. Следует только иметь в виду, что если , то МНК – оценки свободного члена и коэффициента при в новой модели будут оценками соответственно коэффициенты при и свободного члена в старой модели.