Нелинейная регрессия

Между экономическими явлениями существуют нелинейные соотношения, они выражаются с помощью нелинейных функций.

Различают два класса нелинейных регрессий: регрессии, нелинейные относительно включенных в анализ объясняющих переменных, но линейные по оцениваемым параметрам, и регрессии, нелинейные по оцениваемым параметрам.

Примерами нелинейной регрессии по включаемым в нее объясняющим переменным являются следующие функции:

• полиномы разных степеней: у = а + bx + сх² +е, y = а +bх+сх² +dx³+e

• равносторонняя гипербола у = а + b/х + е.

К нелинейным регрессиям по оцениваемым параметрам относятся функции:

• степенная у = аx^bе;

• показательная у = аb^хе;

• экспоненциальная у = е^{а + bх}е.

Во всех приведенных выше и далее регрессиях слагаемое и сомножитель е означает ошибку (погрешность) регрессии случайной величины х на случайную величину у.

Нелинейная регрессия по включенным переменным (первого класса) определяется, как и в линейной регрессии, методом наименьших квадратов (МНК), так как эти функции линейны по параметрам. Например, в параболе второй степени, которую запишем в виде

у =а₀ + а₁х + а₂х² + е,

заменяя переменные х = х_1, х² = х₂, получим двухфакторное уравнение линейной регрессии:

у =а₀ + а₁х + а₂х₂ + е,

для оценки параметров которого используется МНК.

Соответственно, для полинома третьего порядка

у =а₀ + а₁х + а₂х² + а₃х³ + е,

при замене х = х_1, х² = х₂, х³ = х₃ получим трехфакторную модель ли­нейной регрессии вида

у =а₀ + а₁х + а₂х₂ + а₂х₂ + е,

и т. д.

Таким образом, полином любого порядка сводится к линейной регрессии с ее методами оценивания параметров и проверки гипотез. В экономических исследованиях чаще всего используется парабола второй степени; в отдельных случаях — полином третьего порядка.

Применение МНК для оценки параметров параболы второй степени приводит к следующей системе нормальных уравнений:

n

{

a₀ + a₁ Σ x +a₂ Σ x² = Σ y,

a₀ Σ x + a₁ Σ x² + a₂ Σ x³ = Σ xy

a₀ Σ x² + a₁ Σ x³ + a₂ Σ x⁴ = Σ x²y

Система содержит 3 уравнения с 3 неизвестными коэффициентами а₀ , а₁, а₂ и ее решение может быть произведено по формулам Крамера.

Парабола второй степени при b > 0 и с < 0 симметрична относительно высшей точки, т. е. точки максимума, изменяющей направление связи, а именно, рост на падение. Такого рода функцию можно наблюдать в экономике труда при изучении зависимости заработной платы работников физического труда от возраста — с увеличением возраста повышается заработная плата ввиду одновременного увеличения опыта и повышения квалификации работника. Однако с определенного момента из-за старения организма и снижения производительности труда дальнейшее повышение возраста может приводить к снижению заработной платы работника.

При b < 0 и с > 0 парабола второго порядка симметрична относитель­но своей низшей точки, что позволяет определять минимум функции в точке, меняющей направление связи, т. е. снижение на рост.

Из-за симметричности кривой парабола второй степени далеко не всегда пригодна в конкретных исследованиях, чаще имеют дело лишь с отдельными сегментами параболы.

К классу нелинейных функций, параметры которых оцениваются МНК, следует отнести равностороннюю гиперболу:

у = а + b/х + е. (6.3)

Она может быть использована на микро- и макроуровне, например, для характеристики связи удельных расходов сырья, материалов, топлива с объемом выпускаемой продукции, зависимости времени обращения товаров от величины товарооборота. Классическим ее примером является кривая Филлипса, английского экономиста, характеризующая соотношение между нормой безработицы и процентом прироста заработной платы.

Для равносторонней гиперболы (6.3) обозначим z = 1/х, тогда полу­чим линейное уравнение регрессии

у = а + b z + е,

о

{

ценка параметров которого может быть определена МНК. Система нормальных уравнений составит:

Σ y = na + b Σ 1/x

Σ y/x = a Σ 1/x + b Σ 1/x²

При b > 0 имеем обратную зависимость, которая при х→∞ характеризуется нижней асимптотой.

При b < О имеем медленно возрастающую функцию с верхней асимптотой при х→∞.

Примером такой зависимости может служить взаимосвязь доли расходов на товары длительного пользования и общих сумм расходов (или доходов). Математическое описание подобного рода взаимосвя­зей получило название кривых Энгеля. В 1857 г. немецкий статистик Э. Энгель на основе исследования семейных расходов сформулировал закономерность — с ростом дохода доля доходов, расходуемых на продовольствие, уменьшается. Соответственно, с увеличением дохода доля доходов, расходуемых на непродовольственные товары, будет возрастать. Однако это увеличение не беспредельно, ибо сумма долей, расходуемых на все товары, не может быть больше единицы.

Рассмотрим регрессию, нелинейную по оцениваемым параметрам (второго класса). Данный класс нелинейных моделей подразделяется на два типа: нелинейные модели внутренне линейные и нелинейные модели внутренне нелинейные. Если нелинейная модель внутренне линейна, то она с помощью соответствующих преобразований может быть приведена к линейному виду. Если же нелинейная модель внутренне нелинейна, то она не может быть сведена к линейной функции. Например, в эконометрических исследованиях при изучении эластичности спроса от цен широко используется степенная функция:

y=а ∙ x^b∙e,

где у — объем спроса; х — цена; е — случайная ошибка.

Модель нелинейна относительно оцениваемых параметров, так как включает параметры а и b неаддитивно. Однако ее можно считать внутренне линейной, так как логарифмирование данного уравнения приводит его к линейному виду:

ln у= ln а + b ln х + ln е.

О

{

ценки параметров а и b уравнения (16.9) могут быть найдены МНК. Система нормальных уравнений имеет вид

Σ ln y = n ln a + b Σ ln x,

Σ ln y ln x = ln a Σ ln x + b Σ (ln x)².

Параметр b определяется из системы, а параметр а — потенцированием выражения ln а.

При этом предполагается, что случайная ошибка е функции (16.9) мультипликативно связана с объясняющей переменной x. Если же модель представить в виде

у = а х^b + е,

то она становится внутренне нелинейной, так как ее невозможно пре­вратить в линейный вид.

К внутренне нелинейным относятся модели вида

y = а + bх^c + е,

y = а[1-1/(1 - x^b)] + е.

Эти уравнения не могут быть преобразованы в уравнения линейные по коэффициентам.

Если модель внутренне нелинейна по параметрам, то для оценки параметров используются итеративные процедуры, успешность которых зависит от вида уравнений и особенностей применяемого итеративного подхода. Модели внутренне нелинейные по параметрам могут использоваться в эконометрических исследованиях. Однако гораздо большее распространение получили модели, приводимые к линейному виду. Решение такого типа моделей реализовано в стандартных пакетах прикладных программ.

Из нелинейных функций, которые могут быть приведены к линейному виду, в качестве нелинейной регрессии широко используется степенная функция у_х = аx^b. Это объясняется тем, что параметр b в ней является коэффициентом эластичности, показывающим, на сколько процентов изменится в среднем результат, если фактор изменится на 1 %. Коэффициент эластичности (Э) в качестве нелинейной регрес­сии вычисляется по формуле

Э= ƒ´(х) ∙х/y,

Где f’(х) — первая производная функции.

Коэффициент эластичности можно определять и при наличии других форм связи, но только для степенной функции он представляет собой постоянную величину, равную параметру b. В других функциях коэффициент эластичности зависит от значений фактора х. Например, для линейной регрессии у = а + b∙х имеем:

f’(х)=b, Э = b∙x/(a+b∙x).

В силу того, что коэффициент эластичности для линейной функции не является величиной постоянной, а зависит от соответствующего значения х, то обычно рассчитывается средний показатель эластичности

Э = b∙x/у .

Несмотря на широкое использование в экономике коэффициентов эластичности, возможны случаи, когда их расчет экономического смысла не имеет. Это происходит тогда, когда для рассматриваемых признаков бессмысленно определение изменения значений в процентах. Например, вряд ли кто будет определять, на сколько процентов изменится урожайность пшеницы, если качество почвы, измеряемое в баллах, изменится на 1 %. В такой ситуации степенная функция, даже если она оказывается наилучшей по формальным соображениям (исходя из наименьшего значения остаточной вариации), не может быть экономически интерпретирована.

В моделях нелинейных по оцениваемым параметрам, но приводимых к линейному виду МНК применяется к преобразованным уравнениям. Если в линейной модели и моделях нелинейных по переменным при оценке параметров исходят из критерия Σ(у - у_х)² → min, то в моделях нелинейных по оцениваемым параметрам требование МНК применяется не к исходным данным результативного признака, а к их преобразованным величинам ln y, 1/х. Это значит, что оценка пара­метров основывается на минимизации суммы квадратов отклонений в логарифмах. Вследствие этого оценка параметров для линеаризуемых функций МНК оказывается несколько смещенной.

Практическое применение некоторых нелинейных регрессий, например экспоненты, возможно, если результативный признак не имеет отрицательных значений. Поэтому если исследуется, например, финансовый результат деятельности предприятий, среди которых наряду с прибыльными есть и убыточные, то данная функция не может быть использована.

ВОПРОСЫ ДЛЯ САМОПРОВЕРКИ:

1. Какие классы нелинейных регрессий различают между экономическими явлениями?

2. Какие функции относятся к нелинейным регрессиям по оцениваемым параметрам?

3. Как определяется средний показатель эластичности?

4. Как осуществляется отбор наиболее значимых факторов при составлении математических моделей экономических процессов?