Парная регрессия и корреляция

Ковариация двух величин х и у – средняя величина произведения отклонений этих величин от своих средних, т.е.

cov(x, y) = 1 ∑n (xi − x)( yi − y) n i=1

Линейный коэффициент корреляции rxy (-1< rxy < 1):

В качестве критерия проверки гипотезы Н0: rxy = 0 принимается случайная величина

t = rxy n −2 ,

1−rxy2

которая при справедливости Н0 имеет распределение Стьюдента с числом степеней свободы k = n − 2 .

Если зависимость между двумя переменными такова, что каждому значению одной переменной соответствует определенное условное математическое ожидание (среднее значение) другой, то такая статистическая зависимость называется корреляционной.

Когда при каждом фиксированном значении независимой переменной соответствующие значения зависимой переменной подвержены случайному разбросу за счет действия ряда неконтролируемых факторов возникает регрессионная зависимость. Уравнение регрессии – это формула статистической связи между переменными.

Для отражения того факта, что каждое индивидуальное значение уi отклоняется от соответствующего условного математического ожидания, необходимо ввести в соотношение M(Y|X = xi) = β0 + β1xi. случайное слагаемое εi

yi = M(Y|X = xi)+ εi = β0 + β1xi+ εi.

Полученное выражение называют теоретической линейной регрессионной моделью, β0 и β1 – теоретическими параметрами регрессии; εi – случайным отклонением.

По выборке ограниченного объема можно построить так называемое эмпирическое уравнение регрессии

ŷi = b0+b1xi

где ŷi – оценка условного математического ожидания M(Y|X = хi);

b0 и b1 – оценки неизвестных параметров β0 и β1 называемые эмпирическими коэффициентами регрессии. Следовательно, в конкретном случае

Параметр b1 называют коэффициентом регрессии. Его величина показывает среднее изменение результата с изменением фактора на одну единицу.

Знак коэффициента регрессии b1 в модели указывает направление связи (если b1>0 – прямая, b1 <0 – обратная).

Формальное значение параметра b0 в модели – среднее значение у при х = 0. Если фактор не имеет и не может иметь нулевого значения, то вышеуказанная трактовка параметра не имеет смысла.

Для оценки линейных параметров регрессий используют метод наименьших квадратов (МНК), который позволяет получить такие оценки параметров, при которых сумма квадратов отклонений фактических значений результативного признака у от теоретических ŷ

минимальна, т.е. ∑n ei2 → min .

i=1

Для уравнений, приводимых к линейному виду, решается следующая система линейных уравнений:

Эта система называется нормальной системой метода наименьших квадратов. Из нее находим b0 и b1 и затем подставляем их в эмпирическую формулу ŷ = b0+ b1 x.

Можно воспользоваться готовыми формулами, которые вытекают из этой системы:

Средняя квадратическая ошибка уравнения регрессии представляет собой среднее квадратическое отклонение наблюдаемых значений результативного признака от теоретических значений, рассчитанных по модели, то есть:

∑n ( yi − y)i )2

Величину средней квадратической ошибки можно сравнивать со средним квадратическим отклонением результативного признака σу. Если se окажется меньше σу, то использование модели регрессии является целесообразным.

Оценку качества построенной моделидает также средняя ошибка аппроксимации:

Чем меньше рассеяние эмпирических точек вокруг теоретической линии регрессии, тем меньше средняя ошибка аппроксимации. Допустимый предел значений средней ошибки аппроксимации – не более 8-10%.

Для анализа общего качества оцененной линейной регрессии используют обычно коэффициент детерминации R2. Для случая парной регрессии это квадрат коэффициента корреляции переменных х и y. Коэффициент детерминации рассчитывается по формуле

i

Коэффициент детерминации характеризует долю вариации (разброса) зависимой переменной, объясненной с помощью данного уравнения.

В качестве критерия проверки гипотезы Н0: R2 = 0 принимается случайная величина

F = R2 (n −2) , 1− R2

которая при справедливости Н0 имеет распределение Фишера с числами степеней свободы 1 и n −2 .

Прогнозируемое значение признака-результата с доверительной вероятностью, равной (1 – α), принадлежит интервалу:

[yp – tμp; yp + tμp],

где yp – точечный прогноз;

t – коэффициент доверия, определяемый по таблицам распределения Стьюдента в зависимости от уровня значимости α и числа степеней свободы (n – 2);

μp – средняя ошибка прогноза.

Точечный прогноз рассчитывается по линейному уравнению регрессии:

y р = a + bx p ,

где хр – заданное значение факторного признака

Средняя ошибка прогноза определяется по формуле:

где se – средняя квадратическая ошибка регрессии.

Тесты

1.Коэффициент линейной парной корреляции между признаками х и у равен 0,977. Связь между признаками х и у может быть охарактеризована как

□слабая линейная зависимость;

□тесная линейная зависимость;

□полная корреляция;

□отсутствие линейной зависимости.

2.Суть метода наименьших квадратов состоит в минимизации суммы квадратов

□коэффициентов регрессии;

□значений зависимой переменной;

□отклонений точек эмпирического уравнения регрессии от точек теоретического уравнения регрессии;

□коэффициентов корреляции и детерминации.

3.Пользуясь методом наименьших квадратов в исследовании и оценке наблюдений за 20 лет, исследователь предложил следующее уравнение регрессии, связывающее агрегированное

потребление и располагаемый доход (после вычета налогов): C=50+0,93Y, R2 = 0,95, где C – потребление, Y – чистый доход. Значение коэффициента детерминации показывает, что

□средний объем потребления составляет 95 % от располагаемого дохода;

□95 % вариации потребления объясняется уравнением линейной регрессии;

□возрастание дохода на $ 1 ведет к росту потребления на $0,95;

□располагаемый доход составляет 5 % от среднего объема потребления

4.При построении выборочного уравнения парной регрессии вычислены выборочный

коэффициент корреляции rB = 0,54 и выборочные средние квадратические отклонения.

6.Выборочное уравнение прямой линии регрессии X на Y имеет вид

. Тогда выборочное среднее признака Y равно …

7. Выборочное уравнение прямой линии регрессии Y на X имеет вид . Тогда выборочный коэффициент регрессии равен …

8. При построении выборочного уравнения прямой линии регрессии Y на X вычислены выборочный коэффициент регрессии , и выборочные средние и

. Тогда уравнение регрессии примет вид …

9. При построении выборочного уравнения парной регрессии вычислены выборочный коэффициент корреляции rB = −0,66 и выборочные средние квадратические отклонения

σ X = 2,4, σY =1,2 . Тогда выборочный коэффициент регрессии X на Y равен …

а) –1,32; б) 1,32; в) 0,33; г) –0,33.

10. Выборочное уравнение прямой линии регрессии Y на X имеет вид . Тогда выборочный коэффициент корреляции может быть равен …

11. Выборочное уравнение прямой линии регрессии Y на X имеет вид . Тогда выборочный коэффициент корреляции может быть равен …

a)Вычислите выборочные средние и стандартные отклонения для обоих показателей.

b)Постройте 95%-й доверительный интервал для средней стоимости домов.

6. По территориям региона приводятся данные по среднедушевому прожиточному минимуму в день одного трудоспособного (X, руб.) и среднедневной заработной платы (Y, руб.)

a)Постройте линейное уравнение парной регрессии Y от X.

b)Рассчитайте линейный коэффициент парной корреляции и среднюю ошибку аппроксимации.

c)Оцените статистическую значимость параметров регрессии и корреляции.

d)Выполните прогноз заработной платы при прогнозном значении среднедушевого прожиточного минимума, составляющем 107 % от среднего уровня.

Оцените точность прогноза, рассчитав ошибку прогноза и его доверительный интервал.

7. Имеются данные о расходах на питание у и душевом доходе х для девяти групп семей (усл.

ед.):

Постройте линейную регрессию у по х, оцените ее параметры и их значимость. Проанализируйте зависимость расходов на питание от величины душевого дохода.

8. По данным о зависимости объема продаж у фирмы от затрат на рекламу х оцените объем продаж при затратах на рекламу, равных 5,5 усл. ед. Найдите стандартную ошибку прогноза и 99%-ный доверительный интервал для полученной оценки. Исходные данные (усл. ед.):