1.3 Множественная линейная регрессия

На любой экономический показатель чаще всего оказывает влияние не один, а несколько факторов. В этом случае вместо парной регрессии рассматривается множественная. В общем случае в регрессионный анализ вовлекаются несколько независимых переменных. Это, конечно же, наносит ущерб наглядности получаемых результатов, так как подобные множественные связи в конце концов становится невозможно представить графически. Переменные, объявленные независимыми, могут сами коррелировать между собой; этот факт необходимо обязательно учитывать при определении коэффициентов уравнения регрессии для того, чтобы избежать ложных корреляций. 

Заданием множественного регрессионного анализа является построение такого уравнения прямой k-мерном пространстве, отклонение результатов наблюдений   от которой были бы минимальными. Используя для этого метод наименьших квадратов, получается система нормальных уравнений, которую можно представить и в матричной форме.

Множественная линейная регрессия - причинная модель статистической связи линейной  между переменной зависимой  y и переменными независимыми  x₁,x₂,...,x_k, представленная уравнением

коэффициенты b₁,b₂,...,b_k называются нестандартизированными коэффициентами, а - свободным членом уравнения регрессии.

Уравнение регрессии существует также в стандартизированном виде, когда вместо исходных переменных используются их z-оценки: z_y = ∑ β_iz_i.

Здесь z_y - z-оценка переменной у;

z₁,z₂,...,z_k- z-оценки переменных x₁,x₂,...,x_k;

β₁,β₂,...,β_k - стандартизированные коэффициенты регрессии (свободный член отсутствует).

Для того чтобы найти стандартизированные коэффициенты, необходимо решить систему линейных уравнений:

₁ + r₁₂β₂ + r₁₃β₃ + ... + r_1kβ_k = r_1y,

r₂₁β₁ + β₂ + r₂₃β₃ + ... + r_2kβ_k = r_2y,

r₃₁β₁ + r₃₂β₂ + β₃ + ... + r_3kβ_k = r_3y,

...

r_k1β₁ + r_k2β₂ + r_k3β₃ + ... + β_k = r_ky,

в которой r_ij - коэффициенты линейной корреляции

Пирсона для переменных x_i и x_j; r_iy - коэффициент корреляции Пирсона для переменных x_i и y.

Нестандартизированные коэффициенты регрессии вычисляются по формуле b_i = β_i ∙ s_y / s_i, где s_y - стандартное отклонение переменной y; s_i - стандартное отклонение переменной х_i. Свободный член уравнения регрессии находится по формуле a = y - ∑ b_ix_i, где y - среднее арифметическое переменной y, x_i - средние арифметические для переменных x_i.

В настоящее время используются два подхода к интерпретации нестандартизированных коэффициентов линейной регрессии b_i. Согласно первому из них, b_i представляет собой величину, на которую изменится предсказанное по модели значение ŷ = ∑ b_ix_i при увеличении значения независимой переменной x_i на единицу измерения; согласно второму - величину, на которую в среднем изменяется значение переменной y при увеличении независимой переменной x_i на единицу. Значения коэффициентов b_i существенно зависят от масштаба шкал, по которым измеряются переменные y и x_i, поэтому по ним нельзя судить о степени влияния независимых переменных на зависимую. Свободный член уравнения регрессии a равен предсказанному значению зависимой переменной ŷ в случае, когда все независимые переменные x_i = 0.

Стандартизированные коэффициенты β_i являются показателями степени влияния независимых переменных x_i на зависимую переменную y. Они интерпретируются как "вклад" соответствующей независимой переменной в дисперсию (изменчивость) зависимой переменной.

Качество (объясняющая способность) уравнения множественной линейной регрессии измеряется коэффициентом множественной детерминации, который равен квадрату коэффициента корреляции множественной  R².

Предполагается, что все переменные  в уравнении множественной линейной регрессии являются количественными. При необходимости включить в модель номинальные переменные используется техника dummy-кодирования.

Задача №2