3. Оценка параметров модели

(слайд 8) 3.1. Оценка параметров линейной парной регрессии

Классический подход к оценке параметров линейной регрессии – метод наименьших квадратов (МНК). При определенных предположениях относительно ошибки ε МНК дает наилучшие оценки параметров a и b.

Согласно МНК, выбираются такие значения параметров а и b, при которых сумма квадратов отклонений фактических значений результативного признака от теоретических значений при тех же значениях фактора минимальна, т. е. или

Чтобы найти минимум функции, нужно найти частные производные по каждому из параметров и приравнять их к 0:

Отсюда получаем систему уравнений:

Разделим оба уравнения на n:

Из первого уравнения находим значение параметра а:

Подставляем во второе уравнение и находим значение параметра b:

Рассмотрим интерпретацию параметров уравнения линейной регрессии.

Коэффициент b при факторной переменной x называется коэффициентом регрессии. Его величина показывает среднее изменение результата y при изменении фактора x на одну единицу.

Знак при коэффициенте регрессии показывает направление связи: при b > 0 связь прямая, при b < 0 связь обратная.

Например, допустим, что зависимость между затратами (тыс. руб.) и объемом выпуска продукции описывается соотношением

y = 35000+0,58·x.

В этом случае увеличение объема выпуска на 1 единицу потребует дополнительных затрат на 580 рублей.

Что касается свободного члена a, формально это значение у при х=0. Если фактор х не может иметь нулевого значения, то трактовка свободного члена не имеет смысла. Параметр a может не иметь экономической интерпретации.

Интерпретировать можно лишь знак при параметре а. Если а > 0, то относительное изменение результата происходит медленнее, чем изменение фактора, т.е. вариация результата меньше вариации фактора.

3.2. Оценка параметров нелинейных моделей

Нелинейные уравнения регрессии можно разделить на два класса:

– уравнения, которые с помощью замены переменных можно привести к линейному виду в новых переменных

– уравнения, для которых это невозможно. Назовем их внутренне нелинейными.

(слайд 9) В первом случае, уравнения регрессии приводятся к линейному виду с помощью введения новых (линеаризующих) переменных. При этом предварительно формируются массивы значений. В последующем, после определения параметров линейного уравнения регрессии с помощью обратного преобразования можно получить параметры исходного уравнения регрессии, представляющие интерес для исследователя.

Линеаризующие преобразования для некоторых нелинейных моделей приведены в таблице 2.2.

Таблица 2.2

Линеаризующие преобразования

Зависимость	Формула	Преобразование	Зависимость между параметрами
Гиперболическая		y1=y X=1/x	а1=а b1=b
Логарифмическая		y1=y X=ln x	а1=а b1=b
Экспоненциальная		Y=ln y х1=х	а1=а b1=b
Степенная		Y=ln y (Y=lg y) X=ln x (X=lg x)	ln a=C (lg a=C) b1=b
Показательная		Y=ln y (Y=lg y) х1=х	ln a=C (lg a=C) ln b=B (lg b=B)

(слайд 10) Для оценки параметров внутренне нелинейных зависимостей также можно применить МНК и определять оптимальные значения параметров а и b, исходя из условия .

В данном случае процедуру минимизации дисперсии в общем виде можно представить в виде следующих последовательных шагов.

1. Задаются некоторые «правдоподобные» начальные (исходные) значения параметров а и b.

2. Вычисляются теоретические значения ŷi = f(xi) с использованием этих значений параметров.

3. Вычисляются остатки еi = ŷi – yi и сумма квадратов остатков S.

4. Вносятся изменения в одну или более оценку параметров.

5. Вычисляются новые теоретические значения ŷi, остатки еi и S.

6. Если произошло уменьшение S, то новые значения оценок используются в качестве новой отправной точки.

7. Шаги 4, 5 и 6 повторяются до тех пор, пока не будет достигнута ситуация, когда величину S невозможно будет улучшить (в пределах заданной точности).

8. Полученные на последнем шаге значения параметров а и b являются оценками параметров нелинейного уравнения регрессии.