27. Нелинейные модели регрессии и их линеаризация. Примеры нелинейных моделей регрессии.

Довольно часто соотношения между социально-экономическими явлениями и процессами приходится описывать нелинейными функциями. Например, производственные функции (зависимости объема производства и основными факторами производства) или функции спроса (зависимость между спросом на товары или услуги и их ценами или доходом).

Следует различать модели, нелинейные по параметрам, и модели, нелинейные по переменным.

Примером нелинейной регрессии по объясняющим переменным выступают, например,

- полиномы разных степеней , N = 1,2,…;

- гипербола .

К нелинейным регрессиям по оцениваемым параметрам относятся следующие функции:

- степенная ;

- показательная ;

- экспоненциальная .

Нелинейная регрессия по объясняющим переменным не имеет никаких сложностей для оценки ее параметров. Они, как и в линейной регрессии, определяются методом наименьших квадратов, т.к. эти функции линейны по параметрам. Например, применение метода наименьших квадратов к параболе приводит к следующей системе уравнений:

которая может быть решена обычными для линейной алгебры методами (например, методом определителей).

Для оценки параметров нелинейных моделей существует два основных подхода:

1. Первый подход основан на линеаризации модели, преобразованием исходных переменных и введением новых, нелинейную модель можно свести к линейной, для оценки параметров которой используется метод наименьших квадратов.

2. Если подобрать соответствующее линеаризующее преобразование не удается, то применяются методы нелинейной оптимизации на основе исходных переменных.

Если модель нелинейна по переменным, то вводятся новые переменные, и модель сводится к линейной.

Более сложной проблемой является нелинейность по оцениваемым параметрам. В ряде случаев путем подходящих преобразований эти модели удается привести к линейному виду. Рассмотрим следующие нелинейные модели:

- экспонента – ,

Экспоненциальная модель может быть преобразована к линейной путем логарифмирования обеих частей уравнения:

lny = + ε.

Переходя к новой переменной y'=lny, получаем линейную регрессионную модель

y' = + ε.

- степенная (мультипликативная) – ,

Степенная модель линеаризуется аналогично:

lny = ln + lnε.

Замена переменных: y'=lny, b₀'=lnb₀, x₁'=lnx₁, …, x_m'=lnx_m, ε'=lnε. В новых переменных модель запишется следующим образом:

y' = + ε’.

- гипербола – .

Гиперболическая модель линеаризуется непосредственной заменой переменной y'=1/y:

y' = + ε.

Эти функции используются при построении кривых Энгеля, которые описывают зависимость спроса на определенный вид товаров или услуг от уровня доходов потребителей или от цены товара.

- Логарифмическая модель.

y = + ε.

При выборе формы уравнения регрессии важно помнить, что чем сложнее функция, тем менее интерпретируемы ее параметры.

В качестве примера использования линеаризующего преобразования регрессии рассмотрим производственную функцию Кобба-Дугласа.

В 1922 году экономист Пол Дуглас совместил графики зависимости от времени логарифмов показателей объема выпуска (Y), капитальных затрат (К) и затрат труда (L) и обнаружил, что расстояния от точек графика показателей выпуска до точек графиков показателей затрат труда и капитала будут составлять постоянную пропорцию. Он обратился к математику Чарльзу Коббу, и Кобб предложил следующую зависимость:

Y = AK^αL^1-α,

где Y – объем производства, К – затраты капитала, L – затраты труда.

Полученная формула является частным случаем более общей формулы:

Y = AK^αL^β.

Учитывая влияние случайных возмущений, свойственных любому экономическому процессу, функция Кобба-Дугласа запишется следующим образом:

Y = AK^αL^βε.

Путем логарифмирования обеих частей данную степенную модель можно свести к линейной:

lnY = lnA + α·lnK + β·lnL + lnε.

Переходя к новым переменным Y'=lnY, A'=lnA, K'=lnK, L'=lnL, ε'=lnε, получаем линейную регрессионную модель:

Y' = A' + α·K' + β·L' + ε'.

28. Линейная и степенная модели множественной регрессии: интерпретация параметров.

1) Вид множественной линейной модели регрессионного анализа:

Y = b₀ + b₁x_i1 + ... + b_jx_ij + ... + b_kx_ik + e_i

где e_i - случайные ошибки наблюдения, независимые между собой, имеют нулевую среднюю и дисперсию s.

Экономический смысл параметров множественной регрессии Коэффициент множественной регрессии b_j показывает, на какую величину в среднем изменится результативный признак Y, если переменную X_j увеличить на единицу измерения, т. е. является нормативным коэффициентом. Матричная запись множественной линейной модели регрессионного анализа: Y = Xb + e, где Y - случайный вектор - столбец размерности (n x 1) наблюдаемых значений результативного признака (y₁, y₂,..., y_n); X - матрица размерности [n x (k+1)] наблюдаемых значений аргументов; b - вектор - столбец размерности [(k+1) x 1] неизвестных, подлежащих оценке параметров (коэффициентов регрессии) модели; e - случайный вектор - столбец размерности (n x 1) ошибок наблюдений (остатков). На практике рекомендуется, чтобы n превышало k не менее, чем в три раза.

степенная (мультипликативная) – ,

Степенная модель линеаризуется аналогично:

lny = ln + lnε.

Замена переменных: y'=lny, b₀'=lnb₀, x₁'=lnx₁, …, x_m'=lnx_m, ε'=lnε. В новых переменных модель запишется следующим образом:

y' = + ε’.