Эконометрика. Тихомиров

В том случае, когда в левой части нелинейной эконометрической модели стоят наблюдаемые непреобразованные значения уt, т. е. g(уt, )=уt, то очевидно, что первые группы уравнений в системах (11.9) и (11.10)

отсутствуют, а вторые – совпадают, с учетом того, что t =уt –ft( ,x).

Второй вывод свидетельствует о том, что выражение для оценки дисперсии нелинейной эконометрической модели при любой ее левой части совпадает с аналогичным выражением (2. ), полученным для линейного его варианта. Как непосредственно вытекает из последнего уравнения системы

(11.9), оценка дисперсии нелинейной модели определяется следующим выражением:

где еt – оценка ошибки t, полученная при оптимальных оценках параметров модели aj, bk, k=0,1,... j=0,1,...

Сопоставим методы максимального правдоподобия и МНК. Заметим, что в методе максимального правдоподобия важное значение имеет выбор обоснованного (правильного) закона распределения ошибки эконометрической модели. Несоответствие исходной гипотезы относительно типа ее закона распределения и реалий может значительно снизить качество оценок параметров нелинейной эконометрической модели, полученных с использованием ММП. В этой связи МНК использует менее строгие исходные предпосылки относительно распределения ошибки модели t, и

многие из желательных свойств оценок (состоятельность, эффективность и несмещенность), полученные с использованием этого метода, как правило,

сохраняются (хотя бы приблизительно) и для нелинейных моделей при любом законе распределения ошибки.

В некоторых исследованиях вместо выражения (11.12) предпочтительнее рассматривать взвешенную сумму квадратов ошибки, определяемую следующим образом:

где рt – весовой коэффициент, учитывающий значимость информации в момент t для оценки коэффициентов модели (см. выражения (3.44), (3.45)

раздел 3.2); qt=рt2 – весовой коэффициент, учитывающий значимость квадрата невзвешенной ошибки модели.

В некоторых случаях значения коэффициентов qt и рt могут отражать характер гетероскедастичности ошибки рассматриваемой модели (раздел

3.2).

В качестве оптимальных оценок параметров 0, 1,..., п модели (11.4) в

соответствии с критерием минимума суммы наименьших квадратов ошибки должны быть выбраны значения a0, a1,..., aп, обеспечивающие минимум выражения (11.12) (или (11.13)) по всему множеству наборов таких значений,

т. е.

В дальнейшем, без ограничения общности, рассмотрим особенности построения нелинейных эконометрических моделей с использованием выражения (11.12).

При решении задачи минимизации выражения (11.12) на практике необходимо учитывать ряд обстоятельств.

Во-первых, априорно (т. е. до проведения каких-либо расчетов) функция

S2(aj) не может быть представлена в аналитической форме записи (например,

как многочлен некоторой степени по своим аргументам).

Во-вторых, можно предположить, что эта функция является непрерывной по этим аргументам.

В-третьих, в некоторой области существования минимума она может рассматриваться как выпуклая функция от своих аргументов. В общем случае может допускаться несколько таких непересекающихся областей, на каждой из которых эта функция достигает локального минимума.

При таких, достаточно естественных, условиях задача оценивания параметров нелинейной эконометрической модели является задачей минимизации нелинейного функционала (11.12) в пространстве параметров aj

при известных значениях зависимой и независимых переменных уt и хit

соответственно, t=1, 2,..., Т; i=0,1,..., n. Для решения такой задачи в предположении о детерминированности исходных данных могут быть использованы хорошо известные методы, в основе которых лежат итеративные процедуры поиска минимума нелинейной функции. В общем случае их можно разделить на две большие группы: методы без производных и методы с производными. К первой группе относится, например, метод прямого поиска, ко второй – метод Гаусса-Зайделя, градиентные методы,

метод Макуардта.

В основе приведенной классификации методов лежит достаточно простой признак. Если для реализации метода не требуется рассчитывать значения производных каких-либо функций, то этот метод относится к группе методов без производных. В противном случае, т. е. когда при реализации метода расчет производных необходим, то он относится к группе методов с производными.

При этом заметим, что производные обычно используются при формировании итерационной процедуры поиска минимума функции суммы квадратов ошибки модели по своим аргументам a0, a1,..., aп, основанной на

линейной аппроксимации либо формы (функционала) эконометрической модели, либо самой целевой функции, т. е. суммы квадратов ошибки.

Вследствие этого методы с производными, в свою очередь, обычно разделяются на две подгруппы. Первую из них составляют методы,

предполагающие линеаризацию уравнения модели, а вторую – методы,

предполагающие линеаризацию целевой функции. К первой группе,

например, относится метод Гаусса-Зайделя, ко второй – градиентные методы,

метод Макуардта.

Рассмотрим особенности некоторых из перечисленных методов более подробно.

11.2. Метод прямого поиска

Использование метода прямого поиска при нелинейном оценивании имеет определенные как преимущества, так и недостатки по сравнению с другими методами. Его преимущества обусловлены достаточно несложной логической схемой расчетов и их относительной простотой. Его недостатком является небольшая скорость расчетов, что требует для получения результатов относительно много времени, особенно, когда количество оцениваемых параметров модели велико. Однако этот недостаток становится не слишком существенным при использовании компьютеров с высоким быстродействием.

Процесс получения оценок параметров эконометрической модели согласно методу прямого поиска реализуется на основе определенного алгоритма,

логика которого состоит в следующем.

1. На первом этапе выбираются начальные оценки параметров эконометрической модели ai(0), i=0,1,...,n; и их приращения ai. Для заданных значений параметров рассчитывается значение суммы квадратов ошибок

S02=S2(a(0)). Затем каждое исходное значение ai(0) заменяется на следующий его вариант

Для i=0,1,...,n; последовательно рассчитываются значения S02(ai(1)). Если при этом S02(ai(1))S02, то значение ai(1) принимается в качестве нового значения приближения к исходной оценке i-го параметра модели, в

противном случае, т. е. когда S02(ai(1))S02, то в качестве такого приближения выбирается значение ai(1)=ai(0)–ai. Если оказывается, что и в том, и в другом случае сумма квадратов ошибки увеличивается, то в качестве оценки параметра i эконометрической модели используется исходное значение ai(0).

Таким образом, на первом шаге метода прямого поиска определяется направление движения к вектору “оптимальных” оценок a параметров модели по каждой координате. Значения приближений ai(2) на втором шаге уже определяются по одной из двух формул ai(1)=ai(0)ai, и если S22(ai(2))S12,

то движение в выбранном направлении продолжается, в противном случае, т.

е. когда S22S12, в качестве оценки i-го параметра модели выбирается значение ai(1). Заметим, что S12 представляет в данном случае сумму квадратов ошибки модели, определенную согласно выражению (11.12) при векторе оценок ее параметров ai(1).

Процесс определения “оптимальных” оценок параметров эконометрической модели составляет определенное количество шагов до тех пор, пока изменения значений отдельных параметров в любом направлении

(уменьшения или увеличения) не будут приводить к росту полученного на предыдущем этапе значения суммы квадратов ошибки Sj2. Здесь j индекс характеризует номер предпоследнего этапа расчетов. Однако при этом следует иметь в виду, что найденное таким образом решение,

представляющее собой вектор оценок j-го шага расчетов еще нельзя рассматривать в качестве окончательного, т. е. оптимального варианта искомых оценок.

Данный вывод является следствием двух обстоятельств. Во-первых,

точность оценки, определяемой по положению точки оптимума, зависит от

длины шага расчетов ai. С одной стороны, если длину шага выбрать достаточно небольшой, то, очевидно, что искомые оценки будут определяться с большей точностью (однако и в этом случае исследователь не застрахован от ошибки приближения). С другой стороны, при небольшой длине шага значительно увеличивается время расчетов.

Выход из создавшегося положения на практике обычно видят в использовании в расчетах шагов разной длины. Сначала, применяя большие шаги, ищут приблизительную область существования оптимальных оценок параметров, центром которой выбирается решение полученное на j-м этапе aj. Затем длина шага существенно уменьшается и это решение с помощью той же процедуры уточняется.

На практике можно использовать процедуры расчетов с несколькими вариантами длин шагов, уменьшающимися в порядке их следования. При этом длину последнего шага теоретически можно выбирать бесконечно малой. На практике естественно ограничиваются некоторой конечной величиной шага и решение о прекращении дальнейших уточняющих положение оптимума шагов принимается, если значение суммы квадратов ошибки изменяется в пределах заданного интервала точности. Иными словами, если для j+1-го шага (уточняющего) выполняется условие |Sj2–

Sj+12| , где 0 – величина, определяющая точность расчетов, то процедура расчетов прекращается и в качестве решения выбирается полученный на j-м (или на j+1-м) шаге вектор оценок aj(aj+1).

Во-вторых, описанная выше процедура может привести к локальному минимуму S2. Иными словами, функция S2( , x) может иметь несколько минимумов по своим параметрам, каждый из которых находится в определенной области их значений. При этом априорно, вообще говоря,

количество локальных минимумов у суммы квадратов ошибки установить не представляется возможным.

Исследователя естественно интересует положение “глобального” минимума, в качестве которого может быть рассмотрен наименьший из

некоторого набора локальных. В такой ситуации необходимо попытаться определить все возможные локальные минимумы в некоторой допустимой достаточно широкой области существования оценок параметров эконометрической модели и выбрать среди них наименьший по величине.

Эта область может быть ограничена, исходя из некоторых содержательных предпосылок относительно их предельных (минимальных и максимальных)

допустимых значений параметров модели.

Данная задача решается с помощью того же метода прямого поиска путем задания различных вариантов начальных значений параметров a0,

находящихся на разных участках допустимой области их существования.

При этом может сложиться ситуация, когда при всех вариантах начальных значений получают одно и то же решение. Это является определенной гарантией существования одного минимума в рассматриваемой области. В

противном случае, когда разные начальные значения параметров a0 приводят к различным минимумам функции S2( , x), из них необходимо выбрать наименьший и в качестве решения задачи оценки параметров эконометрической модели – выбрать соответствующие ему значения параметров a0, a1,..., aп.

Несложно заметить, что допустимая область существования оценок параметров эконометрической модели может быть определена в виде системы неравенств следующего вида:

11.3. Методы оценки параметров, основанные на линейной

аппроксимации модели

В основе этой группы методов лежит идея представления нелинейного функционала эконометрической модели f( , x) в произвольной точке a(0) в

виде линейной аппроксимирующей функции, например, ряда Тейлора. Это даст возможность определить в некотором смысле оптимальные приросты оценок параметров ai(1), минимизирующие функцию суммы квадратов ошибки S2 (выражение (11.7)) в окрестности точки a(0). При этом, поскольку ряд Тейлора не является точной аппроксимацией функционала модели f( , x),

то новые значения оценок ее параметров, определяемые по очевидной формуле ai(1)=ai(0)+ ai(1), i=0,1,...,п, могут не совпасть с наилучшими оценками. В таком случае необходимо аппроксимировать модель в точке a (1)

и определить новые приросты параметров ai(2) и соответствующие им оценки ai(2) и т. д. Таким образом, формируется итеративная процедура последовательного приближения к искомым “оптимальным” оценкам ai,

которым соответствует локальный оптимум суммы квадратов ошибки в некоторой области существования значений параметров модели.

Нахождение оценок параметров модели, соответствующих глобальному минимуму, может быть осуществлено с использование такого же подхода,

как и в методе прямого поиска, т. е. путем перебора различающихся вариантов исходных оценок параметров ai(0), выбираемых из различных участков допустимой области их существования.

В практике оценивания параметров нелинейных эконометрических моделей наибольшее распространение получил метод, известный в научной литературе как метод Гаусса-Зайделя. Для него характерны следующие этапы расчетов.

1. Нелинейный функционал ft( , x) в момент времени t и в точке оценок параметров a0 в соответствии с аппроксимирующей функцией Тейлора представляется в следующем виде: