применяются различные методы. Одним из самых распространенных является метод наименьших квадратов (МНК).

2.2. Метод наименьших квадратов (МНК) для линейной парной регрессии.

Через точки наблюдения на диаграмме рассеяния (рис.3)можно провести множество прямых, параметры которых будут различны. Мы хотим провести

такую прямую линию Y a b x , которая является наилучшей в определенном смысле среди всех прямых линий, т.е. "ближайшей" к точкам наблюдения по их совокупности.

Рис. 3. Иллюстрация метода наименьших квадратов

Для этого необходимо определить понятие близости прямой к некоторому множеству точек на плоскости. Меры такой близости могут быть различными. Однако любая мера должна быть, очевидно, связана с расстоянием

подстановкой в уравнение оценочной модели наблюдаемых значений факторных переменных, а значение ei называется остатком (невязкой) в

i ом наблюдении (оценкой стохастического возмущения i ).

Для реальных данных, как правило, остатки ei отличны от нуля и могут

быть как положительными, так и отрицательными в зависимости от того, с какой стороны от прямой лежит наблюдаемое значение Yi .

Поэтому, если в качестве меры близости рассмотреть сумму остатков, она может оказаться равной нулю. Если все отклонения возвести в квадрат и сложить, то результат окажется неотрицательным и его величина непосредственно будет зависеть от разброса точек около искомой прямой. Различные значения параметров a и b определяют различные линии и им

будут соответствовать различные суммы квадратов отклонений:

14

Принцип наименьших квадратов заключается в выборе таких параметров a и b , для которых функция U (a) становится минимальной. Получаемые при

этом оценки a и b параметров и называются оценками наименьших

квадратов.

Таким образом, МНК – это метод оценивания параметров линейной

модели на основе минимизации суммы квадратов отклонений наблюдаемых Yi и модельных Yi (расчетных) значений зависимой

переменной.

Поскольку функция U (a) непрерывна, выпукла и ограничена снизу

нулем, она имеет минимальное значение и дело сводится к известной математической задаче поиска точки минимума линейной функции.

Такая точка находится путем приравнивания нулю частных производных функции U (a) по переменным. Запишем необходимые условия экстремума:

Полученную систему называют системой нормальных уравнений для нахождения параметров линейной модели парной регрессии. Разделив каждое из уравнений (2.6) на n, получим:

2. Модельная прямая проходит через точку со средними значениями наблюдаемых величин: (X ,Y ) ,что следует из первого уравнения системы (2.7).

Предполагаем, что среди наблюдаемых значений X не все числа

15

решение можно найти уравнений по правилу Крамера:

2.3. Модель множественной регрессии

Как известно, экономические величины складываются под воздействием не одного, а целого ряда факторов, между которыми могут быть сложные взаимосвязи. Поэтому влияние этих факторов комплексное и его нельзя рассматривать как простую сумму изолированных влияний, иначе можно прийти к неверным выводам. Все это приводит к необходимости применения для исследования сложных экономических явлений многофакторных

корреляционных моделей:Y F(X , ) , где X (X1, X 2 ,.....X k ) - факторные (объясняющие ) переменные, ( 1, 2 ,... l ) - истинные параметры модели, -

стохастическое возмущение(случайный член), включение которого в уравнение обусловлено теми же причинами, что и в случае парной регрессии.

Выбор типа уравнения многофакторной модели затрудняется тем, что можно выбрать целый ряд уравнений, которые в определенной степени будут описывать связь между результативным показателем и факторными признаками. Поэтому обычно проводится исследование нескольких моделей. Распространенными в экономическом анализе функциями являются: линейная, степенная, показательная и ряд других.

В настоящее время одной из самых распространенных моделей множественной регрессии является линейная модель, широко применяемая в макроэкономических расчетах, при изучении производственных функций, проблем спроса и т. д.

Теоретическое уравнение линейной модели множественной регрессии (ЛММР) записывается следующим образом:

16

2.4. Метод наименьших квадратов для линейной модели множественной регрессии

Пусть имеется выборка, состоящая из n наблюдений зависимой переменной Y и объясняющих переменных

По данным выборки на основе метода наименьших квадратов оценим

ранг равен ( k 1).

Введем величину отклонения наблюдаемого значения Y от вычисленного

1 при транспонировании матрицы ее строки становятся столбцами, а столбцы – строками.

17

произведению транспонированных матриц, взятых в обратном порядке.

Поскольку величина Y X A – скаляр она не меняется при транспонировании (показать самостоятельно, используя правило размерностей матриц),

Метод наименьших квадратов состоит в нахождении параметров на основе минимизации функции U (A) . Запишем необходимое условие

экстремума:

Из (2.15) получаем систему нормальных уравнений для нахождения параметров уравнения множественной регрессии:

используя метод обратной матрицы, решение этой системы можно записать:

Метод наименьших квадратов для парной регрессии является частным случаем рассмотренного метода.

МНК применим только для линейных относительно параметров моделей или приводимых к линейным с помощью преобразования и замены переменных.

Пример. Найти модель, связывающую выпуск продукции Y с затратами труда –X1 и производственных фондов–X2. Исходные статистические данные по 5 предприятиям отрасли представлены в табл. 1.

Предположим, что зависимость между выпуском продукции Y и факторными переменными линейная: Y 0 1 X1 2 X 2 .

Тогда на основе выборочных данных, представленных в табл. 1, необходимо найти уравнение: Yˆ a0 a1 X1 a2 X 2 . Для нахождения параметров (a0 ,a1 ,a2 ) применим МНК.

Составим систему нормальных уравнений: (X X ) A X Y ,

18