3. Парная линейная регрессия

Рассмотрим простейшую корреляционную зависимость, при которой регрессия Y на Х – линейная функция: y = а + bx, параметр b называется коэффициентом регрессии и определяет тангенс угла наклона прямой линии регрессии относительно положительного направления оси х.

Д ля простоты предположим, что в выборке объемом n каждому значению х_i соответствует единственное значение, т.е. = y_i (i = ). Тогда в идеальном случае линейной регрессии прямая

y = а + bx должна пройти че-

рез все точки (х_i, y_i) диаграм-

мы рассеяния. Однако на

практике значения y_i выбор-

ки не совпадают с y(х_i) = a +

bx_i ни для каких a и b. Поэ-

тому возникает необходи-

мость найти такую прямую линию регрессии y(х) = , которая как можно близко расположится ко всем точкам выборки (х_i, y_i) одновременно, т.е. или, что равносильно, была бы минимальной, где y(х_i) – точки на прямой y(х) = , т.е. y(х_i) = , а y_i – выборочные данные для соответствующих значений х_i.

Нахождение оценок и соответствующих параметров уравнения регрессии y = а + bx путем минимизации функции F( , ) = = называется методом наименьших квадратов определения параметров эмпирической зависимости переменных.

Отметим, что этот метод не дает ответ, функция какого вида лучше отвечает исследуемой зависимости переменных (линейная, квадратичная, логарифмическая и т.д.), он позволяет лишь определить, какие параметры выбранной функции являются лучшими для полученных выборочных данных.

Выполним необходимые условия для точки экстремума F( , ) =  min (ясно, что сверху функция F не ограничена):

 

. Найдем , решая систему по формулам Крамера: , , следовательно, , а из второго уравнения системы: .

Аналогично находятся оценки параметров уравнения х(y) = для линейной регрессии Х на Y. Для этого в полученных выше формулах следует лишь заменить х на y, а y на х: , .

Если в уравнение регрессии Y на Х y(х) = подставить полученное выражение для = – , то это уравнение примет вид: y(х) = – . Аналогично уравнение регрессии Х на Y можно записать в виде: х(у) = – .

Если учесть, что , ,

, ,

то , .

Чтобы проверить значимость уравнения парной регрессии в целом (т.е. установить, соответствует ли линейная модель с установленными параметрами экспериментальным данным для описания зависимой переменной) используется F-критерий Фишера-Снедекора. Наблюдаемое значение критерия K_н = (n – 2)·Q_R/Q_ост, где Q_R – вариация зависимой переменной, учтенная регрессией ( = = ), Q_ост – остаточная вариация, характеризующая влияние неучтенных факторов ( ) = ). Если K_н  F_(k₁, k₂), где степени свободы k₁ = 1, k₂ = n – 2, то на уровне  полученное уравнение регрессии значимо. Отметим, что K_кр = F_(1, n – 2) = t_²(, n – 1), где доверительная вероятность  = 1 – , t_²(, n – 1) – квадрат соответствующего коэффициента Стьюдента.

4. Корреляционный анализ как один из приемов прогнозирования

Поскольку уравнение регрессии Y на Х задает зависимость статистического среднего (условного мат. ожидания) случайной переменной величины Y для каждого значения Х: = (х), то на основании уравнения регрессии с полученными оценками параметров можно получить оценку среднего для любых значений х как в пределах интервала вариант (х_min, x_max) – интерполяция, так и вне этого интервала – экстраполяция. При интерполяции значение определяется с той же погрешностью, что и само уравнение регрессии. При экстраполяции оценка может оказаться неверной, так как за пределами выборочных данных, которые были использованы при построении корреляционной модели, могут действовать иные закономерности, т.е. изменяется форма уравнения линии регрессии.

Однако это не означает, что экстраполяция вообще недопустима. Напротив, корреляционная модель, в общем случае, нацелена на обоснование прогнозируемых величин в предположении сохранения закономерностей, определяющих зависимость переменных случайных величин.

Рассмотрим приложение корреляционного анализа к прогнозированию в случае линейной зависимости случайных переменных величин, при которой существующая корреляционная зависимость y = а + bx моделируется уравнением y(х) = .

Пример: Составить прогноз товарооборота в млн. руб. на 2025 г. для фирмы по имеющимся выборочным данным (Х – годы, Y – объем товарооборота):

Х	1989	1992	2000	2004	2006	2 . 009
Y	40	43	44	45	48	50

Имеем объем выборки n = 6. Проведем расчет для независимой переменной Х, уменьшив ее значения на 1900 единиц:

= (89 + 92 + 100 + 104 + 106 + 109)/6 = 100;

= (40 + 43 + 44 + 45 + 48 +50)/6 = 45.

Найдем параметры линейного уравнения регрессии y(х) = . Для этого составим вспомогательную расчетную таблицу:

i	1	2	3	4	5	6
x –	– 11	– 8	0	4	6	9
y –	– 5	– 2	– 1	0	3	5
(x – )2	121	64	0	16	36	81	 (х – )2= 318
(x – )(y – )	55	16	0	0	18	45	(х – )∙(y – ) = 134

1) = 318 = 53 2) = 134 = 67/3

3) = = 0,4214 4) = 45 – 0,4214100 = 2,86



х	100	110
y	45	49,2

уравнение регрессии: y = 2,86 + 0,4214x.

Строим график по двум точкам:

Делаем прогноз на 2025 год (х* = 125): y* = = 2,86 + 0,4214125 = 55,5 млн. руб.

Рассчитаем доверительный интервал с надежностью  = 0,95: y* –  < _факт < y* + , где  = t_(, n–1)(y*). Средняя стандартная ошибка прогнозного значения (y*) =  , где – остаточная дисперсия случайной величины Y. Нам известны значения n = 6, х* = 125, = 100, =318. Для расчета составляем таблицу, при заполнении которой учитываем, что y(х_i) = 2,86 + 0,4214x_i:

xi	89	92	100	104	106	109
yi	40	43	44	45	48	50
y(хi)	40,36	41,63	45	46,69	47,53	48,79
(y(хi)– yi)2	0,1296	1,8769	1	2,8561	0,2209	1,4641	 = 7,5476

 (y*) =  = 2,712. Поскольку t_( = 0,95, n – 1= 5) = 2,776, то  = 2,7762,712  7,5 . Следовательно, 55,5 – 7,5 < _факт (2025) < 55,5 + 7,5. Т.о., фактическое значение в прогнозируемый 2025 год окажется с вероятностью  = 0,95 в интервале (48; 63) млн. руб. #