Тема 2. Линейная модель множественной регрессии (2 часа)

Цель: Формирование у студентов знаний о понятии множественной регрессии; уравнении линейной регрессии и его матричном виде; понятие мультиколленеарности, методах обнаружения и устранения мультиколлинеарности.

Задачи:

1. Дать представление о понятии множественной регрессии.

2. Дать характеристику уравнения линейной регрессии.

3. Изучить матричный вид уравнения линейной регрессии.

4. Дать понятие мультиколленеарности.

5. Охарактеризовать методы обнаружения мультиколлинеарности.

6. Охарактеризовать устранения обнаружения мультиколлинеарности.

Информационные источники:

а) основные: [1]

б) дополнительные: [16], [20]

Вопросы лекции:

1. Понятие множественной регрессии

2. Уравнение линейной регрессии

3. Матричный вид уравнения линейной регрессии

4. Понятие мультиколленеарности

5. Методы обнаружения мультиколлинеарности

6. Методы устранения мультиколлинеарности

Вопросы для самоконтроля:

1. Как выглядит линейная модель множественной регрессии?

2. Почему необходимо часто строить модель множественной регрессии; приведите примеры экономических процессов и явлений, в которых Вы бы применяли данную модель?

3. В чем вы идите специфику спецификации модели множественной регрессии?

4. Напишите и охарактеризуйте уравнение множественной регрессии.

5. Каким требованиям должны отвечать факторы модели множественной регрессии и почему?

6. Перечислите условия, учитываемые при построении нормальной линейной модели множественной регрессии.

7. Напишите и охарактеризуйте уравнение множественной регрессии в матричном виде.

8. Какая матрица называется ковариационной матрицей случайного вектора Х, а какая – корреляционной? В чем их отличие?

9. Каковы условия построения нормальной линейной модели множественной регрессии, записанные в матричной форме.

10. Охарактеризуйте условия, которым удовлетворяют факторные переменные нормальной линейной модели множественной регрессии.

11. В чем заключается проблема мультиколленеарности факторов?

12. Опишите способы устранения мультиколленеарности. В частности процедуру гребневой регрессии (ридж-регрессии).

13. Расскажите о методе главных компонент, эффективной процедуре борьбы с мультиколленеарностью.

1. Понятие множественной регрессии

Наиболее простой и самой употребляемой является модель множественной линейной регрессии:

y = a₀ + a₁x₁ + a₂x₂ + ... + a_mx_m + u, (1)

или для конкретных наблюдений i, i = ,

y_i = a₀ + a1x_i1 + a₂x_i2 + ... + a_mx_im + u_i,

где (x_i1, x_i2,...,x_im, y_i) – выборка объема n,

a₀, a₁,...a_m– неизвестные параметры модели, подлежащие оцениванию,

u – случайная ошибка (отклонение).

Таким образом, построение модели множественной регрессии является одним из методов характеристики аналитической формы связи между зависимой (результативной) переменной и несколькими независимыми (факторными) переменными.

Поскольку истинные значения параметров по выборке получить невозможно, то задача состоит в нахождении оценок (приближенных значений) b₀, b₁, ..., b_m неизвестных параметров модели a₀, a₁, ..., a_m по исходным данным

(x_i1, x_i2, ..., x_im, y_i), гдеi= .