Оценка параметров уравнения множественной линейной регрессии

Уравнение линейной множественной регрессии имеет вид:

(5.3)

где у – теоретические значения результативного признака, полученные подстановкой соответствующих значений факторных признаков в уравнение ре­грессии;

x₁ ,x₂...,x_m – факторные признаки;

b₁, b₂, ..., b_m – параметры модели (коэффициенты регрессии).

Параметры уравнения могут быть определены методом наименьших квадратов, который минимизирует выражение:

(5.4)

(5.5)

Ее решение может быть осуществлено методом определителей:

где – определитель системы;

– частные определители.

При этом

,

получаются путем замены соответствующего столбца матрицы определителя системы данными левой части системы.

Параметры b₁, b₂, ..., b_m характеризуют среднее изменение результата у с изменением соот­ветствующего фактора на единицу при неизмененном значении других факторов, закрепленных на среднем уровне.

Возможен и иной подход к определению параметров множе­ственной регрессии, когда на основе матрицы парных коэффи­циентов корреляции строится уравнение регрессии в стандарти­зованном масштабе:

(5.6)

где - стандартизованные переменные;

β_j – стандартизованные параметры регрессии.

Применяя МНК к уравнению множественной регрессии в стандартизованном масштабе, после соответствующих преобра­зований получим .систему нормальных уравнений вида:

(5.7)

Решая ее методом определителей, найдем параметры - стан­дартизованные коэффициенты регрессии (β-коэффициенты).

Стандартизованные коэффициенты регрессии показывают на сколько сигм изменится в среднем результат, если соответствующий фактор х_i изменится на одну сигму при неизменном среднем уровне других факторов. В силу того, что все перемен­ные заданы как центрированные и нормированные, стандартизованные коэффициенты регрессии β_i сравнимы между coбой. Сравнивая их друг с другом, можно ранжировать факторы по силе их воздействия на результат. В этом основное достоинстве стандартизованных коэффициентов регрессии в отличие от коэффициентов «чистой» регрессии, которые несравнимы между собой.

Например, пусть функция издержек производства у (тыс. руб. характеризуется уравнением вида

где х₁ – основные производственные фонды (тыс.руб.);

х₂ – численность занятых в производстве (чел.).

Анализируя его, мы видим, что при той же занятости допол­нительный рост стоимости основных производственных фондов на 1 тыс. руб. влечет за собой увеличение затрат в среднем на 1,3 тыс. руб., а увеличение численности занятых на одного человека способствует при той же технической оснащенности предприя­тий росту затрат в среднем на 0,9 тыс. руб. Однако это не означа­ет, что фактор х₁ оказывает более сильное влияние на издержки производства по сравнению с фактором х₂. Такое сравнение воз­можно, если обратиться к уравнению регрессии в стандартизо­ванном масштабе. Предположим, оно выглядит так:

Это означает, что с ростом фактора х₁ на одну сигму при не­изменной численности занятых затраты на продукцию увеличи­ваются в среднем на 0,6 сигмы. Так как β₁ < β₂ (0,6 < 0,75), то мож­но заключить, что большее влияние оказывает на производство продукции фактор х₂, а не х₁ , как кажется из уравнения регрессии в натуральном масштабе.

В парной зависимости стандартизованный коэффициент рег­рессии есть не что иное, как линейный коэффициент корреляции r_yx. Подобно тому, как в парной зависимости коэффициенты рег­рессии и корреляции связаны между собой, так и во множествен­ной регрессии коэффициенты «чистой» регрессии b_j связаны со стандартизованными коэффициентами регрессии β_j , а именно:

(5.8)

где σ_у – среднее квадратическое отклонение у,

σ_х – среднее квадратическое отклонение х.

Параметр а определяется как

(5.9)

Рассмотренный смысл стандартизованных коэффициентов регрессии позволяет их использовать при отсеве факторов – из модели исключаются факторы с наименьшим значением β_j.