- •Научно исследовательский Иркутский Государственный технический университет
- •Методические указания к лабораторным и контрольным работам для студентов заочной формы обучения специальностей:
- •230101 “Вычислительные машины, комплексы, системы и сети ”.
- •Введение Цели и задачи дисциплины:
- •Место дисциплины в структурно-логической схеме
- •1.2. Основы регрессионного анализа
- •3.1. Генерация случайных чисел, имитирующих погрешность измерений
- •3.2. Моделирование "погрешностей" измерений при наличии "выбросов".
- •3.3. Помехоустойчивые оценки
- •3.4 Задание на лабораторную работу
- •4. Контрольная работа. Построение линейной регрессионной модели с одной независимой переменной.
- •Вопросы для самопроверки
- •Библиографический список
3.3. Помехоустойчивые оценки
МНК-оценки совпадают с оценками, полученными по методу максимального правдоподобия, и являются эффективными, если погрешности наблюдений подчиняются нормальному распределению и не содержат выбросов. Такая модель погрешностей не соответствует действительности. На практике ряды наблюдений содержат от 1 до 10 процентов "аномальных" измерений, т.е. выбросов. Поскольку выбросы существенно превосходят по абсолютному значению нормальные наблюдения, МНК-оценки параметров могут значительно отличаться от их "истинного" значения. Простейшим приемом для устранения влияния выбросов является визуальный просмотр данных, представленных в виде таблиц или графиков, и удаления очевидных "аномальных" данных. Такая операция называется "предварительным редактированием" данных и, как правило, дает хороший результат.
Редактирование не всегда возможно, например, при большом количестве числа наблюдений или в автоматических системах. Поэтому был разработан класс оценок, устойчивых по отношению к выбросам. Простейшей из таких оценок является медиана выборки, которая применяется при оценивании параметра сдвига, или математического ожидания случайной величины.
Медианой
называется
значение случайной величины х, при
котором функция распределения
.
Если выборку упорядочить по возрастанию,
то медиана будет равна значению
серединного элемента выборки. Медиана
совпадает с максимально правдоподобной
оценкой, если плотность вероятности
случайной величины подчиняется
распределению Лапласа

В этом случае логарифмическая функция правдоподобия имеет вид

(12)
Решение уравнения (12) дает медиану выборки. Так как при этом параметр минимизирует сумму модулей, то медиана является оценкой, полученной методом наименьших модулей. Помехоустойчивость медианы по отношению к выбросам очевидна, поскольку последние сосредоточены на краях выборки и не могут существенно повлиять на оценку математического ожидания. В то же время эффективность оценок наименьших модулей в отсутствии выбросов хуже, чем у МНК-оценок, так как в качестве оценки математического ожидания берется результат только одного измерения – медиана, и никакого усреднения погрешностей не происходит. Робастные оценки (от английского robust – крепкий, здоровый), являясь помехоустойчивыми, в то же время не слишком проигрывают в эффективности МНК-оценкам, если погрешности измерений подчиняются нормальному распределению и не содержат выбросов. К таким оценкам относятся: оценки математического ожидания (-усеченные оценки и -винзорированных средние) и S-оценка параметра масштаба.
-усеченное среднее Сt(, n) равно
,
где —доля отброшенных измерений;
n — объем выборки;
[n] — операция выделения целой части числа n.
-винзорированное среднее вычисляется по формуле
.
Таким образом, -усеченное среднее находится как среднее значение упорядоченной по возрастанию выборки, в которой отброшены 100%-α крайних точек "снизу" и столько же "сверху" выборки.
При нахождении винзорированных средних крайние точки не отбрасываются, а "проектируются" в ближайшие точки оставшейся выборки, то есть все 100% точек полагаются равными ближайшей неотброшенной точке.
S-оценка параметра масштаба равна
,
где medxi — оператор нахождения медианы.
Оценка (5) находится следующим образом:
1) находится медиана выборки medxi;
2) находятся модули отклонения членов выборки от медианы |xi-medxl;
3) находится медиана ряда, полученного в пункте 2);
результат делится на нормирующий множитель 0,6745.
Необходимость деления на нормирующий множитель вызвана тем, чтобы при нормальном распределении погрешностей S-оценка совпадала с оценкой среднего квадратичного отклонения (СКО).
