4_семестр_Лекция_№25

Задача регрессионного анализа состоит в том, чтобы по результатам наблюдений:

1) установить форму зависимости. Как правило, эта форма становится известной по опытным данным (на рис. 6.11.1 показаны три разные формы зависимости), где точками отмечены значения выборок (измерений);

2) определить функции регрессии. Процесс нахождения функции регрессии называется выравниванием отдельных значений зависимой переменной;

3) построить статистические оценки неизвестных параметров, входящих в уравнение регрессии;

4) проверить статистические гипотезы о регрессии;

5) проверить адекватность модели результатам наблюдений.

Рассмотрим линейную регрессию, то есть будем искать функцию регрессии в самом простом – линейном виде

,

называемую регрессионной прямой или прямой регрессии.

Для определения этой функции, то есть коэффициентов , воспользуемся методом наименьших квадратов.

Пусть – наблюдаемые (выборочные) значения, а – значение , вычисленное из уравнения регрессии. Тогда величина есть отклонение значения от элемента выборки.

По методу наименьших квадратов неизвестные параметры и прямой регрессии определяют исходя из требования, состоящего в том, чтобы сумма квадратов отклонений была минимальной, то есть из условия минимизации функции:

.

Для нахождения минимума этой функции запишем частные производные

, .

Приравняв частные производные и нулю (необходимые условия минимума функции), получим систему линейных алгебраических уравнений для определения коэффициентов и :

Отсюда

; .

Значения и доставляют минимум функции . Прямая , для которой сумма квадратов достигает наименьшего значения, называется прямой выборочной регрессии.

Если требуется по экспериментальным данным получить линейное уравнение регрессии на , то в уравнении регрессии надо поменять местами переменные и . При этом получим уравнение , где и вычисляются по формулам:

; .

Замечание. Регрессионные прямые и различны. Первая прямая получается в результате решения задачи о минимизации суммы квадратов отклонений по вертикали, а вторая – при решении задачи о минимизации суммы квадратов отклонений по горизонтали.