Эконометрика / Лекции.Евстратчик / Модели бинарного выбора +ММП

Модели с дискретными зависимыми переменными

Вэкономических и чаще социальных исследованиях (поведение отдельных индивидов:

работников, женщин, мужчин, домохозяйств) часто приходится сталкиваться с разного рода ограничениями на значения зависимой переменной.

Вчастности, зависимая переменная может принимать только целочисленные значения: 0, 1, 2,... (До этого предполагалось, что Y - непрерывна)

МОДЕЛИ

1.с качественными зависимыми переменными

модели бинарного выбора

1 купить

Y0 не покупать

мультиноминальные модели (множественного выбора), неупорядоченные выбор марки автомобиля

модели с упорядоченными зависимыми переменными

оценки за экзамен, класс гостиницы

2.с ограничениями на количественные зависимые переменные

модели с усеченными выборками

модели с цензурированными выборками

модели времени жизни

3.Модели с порядковыми зависимыми переменными (близки по типу к моделям с упорядоченными откликами, но здесь зависимая переменная позволяет не только упорядочить признак, но и приписать ему некоторое число - ранг (доход семьи - низкий. средний, высокий; состояние больногохорошее, удовлетворительное, плохое): ordered models или ranking data)

1

Модели бинарного выбора

Зависимая переменная принимает 2 значения

В ЛИНЕЙНОЙ ВЕРОЯТНОСТНОЙ МОДЕЛИ БИНАРНОГО ВЫБОРА НАРУШАЮТСЯ ВСЕ ПРЕДПОСЫЛКИ МНК.

подходит для описания этой ситуации.

1.линейная модель предполагает, что зависимая переменная имеет непрерывное распределение, а здесь необходимо, чтобы она имела дискретное распределение;

2.могут принимать только 2 значения

т.е. ошибки не имеют нормального распределения

3. Ошибки линейной вероятностной модели имеют следующие характеристики:

E i xi 1 xi 1 xi xi 0

зависит от вектора x , т.е. оценки МНК будут не эффективными – нужно использовать ОМНК.

4. Yi - по смыслу прогнозные значения вероятности. Эти значения могут лежать вне

0;1 .

5. -оценки не поддаются разумной интерпретации

2

Хотелось бы найти модель, которая порождала бы дискретное распределение, зависящее от X, которое бы хорошо описывало данные.

Модели бинарного выбора обычно формулируются в терминах латентной переменной -

zi .

для моделирования подбирают функции, область значений которых определяется

отрезком [0, 1], а zi является аргументом

В качестве такой функции естественно выбрать какую-либо дифференцируемую

функцию распределения, определенную на всей прямой.

Предполагается, что существует некоторая количественная латентная (скрытая)

F(x) 1 F( x).

можно записать

P( i Xi ) 1 P( i Xi ) 1 F( Xi ) F(Xi ) или

P(Yi 1) F( X i )

Вероятность условного мат.ожидания

P y 1 xi F Хi

P y 0 xi 1 F Хi

здесь F Хi :

3

линейная функция от xi и

принимает значения в пределах 0,1

монотонно возрастает по вектору объясняющих переменных

д. выполняться условия

1)F z 1 при z

2)F z 0 при z

4

В КАЧЕСТВЕ ФУНКЦИИ F ВЫБИРАЮТ ЛИБО Ф-Ю СТАНДАРТНОГО НОРМАЛЬНОГО РАСПРЕДЕЛЕНИЯ, ЛИБО ЛОГИСТИЧЕСКОГО РАСПРЕДЕЛЕНИЯ

Для логит - 2 32 , для пробит - 2 1

(нельзя напрямую сравнивать коэффициенты этих моделей)

5

Вопрос о том, какое из распределений более подходит для практических исследований, остается открытым.

коэффициентами из модели probit, где 2 1

на участке [–1,2; 1,2] обе они ведут себя практически одинаково.

вне этого участка, т. е. на хвостах распределения, значения имеют некоторые отличия (логистическое распределение имеет более “тяжелый хвост”, чем

нормальное).

Практика показывает, что при отсутствии существенного преобладания одной альтернативы над другой, а также для выборок с небольшим разбросом переменных, выводы, полученные на основе probit- и logit-моделей, как правило, совпадают.

(Кривые, получаемые по пробит- и логит-моделям, отличаются очень мало как друг от друга, так и от теоретической кривой)

6

Функции не линейны по параметрам и оцениваются ММП.

Метод Максимального Правдоподобия (ММП)

Метод максимального правдоподобия в его современном виде был предложен английским статистиком Р. Фишером (1912), однако в частных формах метод использовался К.Гауссом (1777-1855), а еще раньше, в в 18 веке, к его идее были близки И.Ламберт (1728-1777) и Д.Бернулли (1700-1782).

для оценки нелинейных функций

при анализе временных рядов

основное предположение - распределение объясняемой переменной известно с точностью до конечного числа неизвестных параметров

оценки параметров, полученные по ММП обеспечивают максимальную правдоподобность исходного предположения о виде распределения У

для удобства вычисляют логарифм ФМП

в отличие от оценок МНК оценки ММП редко м.б. выражена в аналитической форме, чаще это результат численной процедуры

для оценки обычной регрессии так же м.б. использован ММП, в этом случае возможно аналитически найти оценки

в моделях дискретного выбора аналитического выражения для оценок, как правило нет

Оценки ММП состоятельные, асимптотически нормальны и эффективны

7

Согласно ММП в качестве оценок выбираются те значения параметров, при которых данные результаты наблюдений "наиболее вероятны" (т.е. максимизировать вероятность получить данную выборку при значениях параметров).

Чаще используют максимум логарифмической функции правдоподобия:

Для логит/пробит моделей ln L 0.

8

Последовательность решения:

1.Составляется функция правдоподобия.

2.Вычисляется логарифм функции правдоподобия.

3.Оценки параметров получаются в результате решения системы уравнений:

4.Проверяется условие максимума функции правдоподобия.

ММП не всегда приводит к приемлемым результатам, однако в достаточно широком круге практически важных случаев этот метод является наилучшим.

Оценки максимального правдоподобия при больших n , состятельны и

асимптотически нормальны и асимптотически эффективны.

Для определения параметров используют численные методы, например, метод Ньютона, реализованный в программном пакете Gretl.

9

Дополнительно

ММП для оценки параметров линейной регрессии

Для того чтобы найти наиболее правдоподобные значения параметров, необходимо найти такие их значения, при которых функция правдоподобия достигает своего максимума.

Так как функции L и lnL одноременно достигают своего максимума, достаточно искать максимум логарифма функции правдоподобия:

10