1. Несмещенность

Поскольку оценки являются случайными переменными, их значения лишь по случайному

совпадению могут в точности равняться характеристикам генеральной совокупности. Обыч-

но будет присутствовать определенная ошибка, которая может быть большой или малой, по-

ложительной или отрицательной, в зависимости от чисто случайных составляющих величин

х в выборке.

Желательно, чтобы математическое ожидание оценки равнялось бы соответствующей харак-

теристике генеральной совокупности. Если это так, то оценка называется несмещенной. Если

это не так, то оценка называется смещенной, и разница между ее математическим ожиданием

и соответствующей теоретической характеристикой генеральной совокупности называется

смещением.

Формальное определение:

Определение. Оценка qˆn параметра q называется несмещенной, если ее математическое

ожидание равно оцениваемому параметру при любом объеме выборки, т.е.

E(qˆn ) = q .

В противном случае оценка называется смещенной.

2. Эффективность

Несмещенность — желательное свойство оценок, но это не единственное такое свойство.

Еще одна важная их сторона— это надежность. Мы хотели бы, чтобы наша оценка с макси-

мально возможной вероятностью давала бы близкое значение к теоретической характеристи-

ке, что означает желание получить функцию плотности вероятности, как можно более «сжа-

тую» вокруг истинного значения. Другими словами, оценка должна иметь малую дисперсию. Предположим, что мы имеем две оценки теоретического среднего, рассчитанные на основе

одной и той же информации, что обе они являются несмещенными и что их функции плот-

ности вероятности показаны на рис. 1. Поскольку функция плотности вероятности для оцен-

ки В более «сжата», чем для оценки А, с ее помощью мы скорее получим более точное значе-

ние. Эта оценка более эффективна.

Важно заметить, что мы использовали здесь слово «скорее». Даже хотя оценка В более эф-

фективна, это не означает, что она всегда дает более точное значение. При определенном

стечении обстоятельств значение оценки А может быть ближе к истине. Однако вероятность

того, что оценка А окажется более точной, чем В, невелика.

Мы говорили о желании получить оценку как можно с меньшей дисперсией, и эффективная

оценка — это та, у которой дисперсия минимальна. Таким образом, можно дать следующее

определение:

Определение. Несмещенная оценка qˆn параметра q называется эффективной, если она

имеет наименьшую дисперсию среди всех возможных несмещенных оценок параметра q

при заданном объеме выборки n.

3. Состоятельность

Состоятельной называется такая оценка, которая дает точное значение для

большой выборки независимо от входящих в нее конкретных наблюдений.

В большинстве конкретных случаев несмещенная оценка является и состоятельной. Можно

построить контрпримеры, но они, как правило, будут носить искусственный характер.

43. Приведите пример (например, в форме картинки), иллюстрирующий утверждение о том, что иногда несмещенные оценки хуже смещенных. (фото в контакте)

44. Почему требование состоятельности оценки очень важно и разумно?

Согласно определению, оценка является состоятельной, если она сходится по вероятности к истинному значению параметра. Требование состоятельности важно, потому что лишь состоятельная оценка дает истинное значение при достаточно большом объеме выборки вне зависимости от значений входящих в нее конкретных наблюдений.

45. Что такое гомоскедастичности остатков? Дайте формальное определение понятию. Нарисуйте картинки, отражающие ситуацию гомоскедастичности и гетероскедастичности.

Гомоскедастичность остатков - остатков означает, что для каждого значения фактора xj остатки имеют одинаковую дисперсию. Если у нас есть гомоскедастичность, т. е. дисперсия остатков постоянна, то наша модель верно специфицирована.

Фомула: D(E\X)=const=б^2

1) график гомоскедастичности (не должно быть никакой зависимости между остатками и xj)

4. г рафик гетероскедастичности

46.О чем может свидетельствовать гетероскедастичность регрессионных остатков?

О том, что модель херовая, вот о чём! И что теперь надо по-новой всё переделывать

Гетероскедастичность возникает если:

5. пропущены какие-то переменные — мы построили модель, в которой что-то упустили;

6. неверная функциональная форму (не обзяательно у нас должна быть линейная функциональная форма)

7. мы используем данные, полученные по разным методикам

8. существуют наблюдения-выбросы (какое-то наблюдение сильно отличается, (например, везде показатель в пределах тысячи, а у этого миллиард) влияет на нашу модель)

Последствия гетероскедастичности для модели:

1. МНК-оценки не являются наиболее эффективными, но они по-прежнему состоятельные, т. е. не будет верным уравнение E-c крышкой по b-с крышкой=(s^2)*((X^T)*X)^(-1), где s^2=(сумма е^2)/(n-k)

2. Использование такой формулы стандартной ошибки (s^2) может привести либо к недо-, либо к переоцениванию стандартных ошибок.

Если мы недооценили стандартные ошибки, то мы считаем, чем он есть на самом деле b^с крышкой/standard error(b^с крышкой)=t(большой)=> будет попадать в критическую область, т. е. будем называть значимыми те регрессоры, которые не значимы.

Главная проблема гетероскедастичности — мы не можем проверять гипотезу, т. к. не знаем стандартные ошибки, если мы сохраняем верность МНК