- •[Править] Цели регрессионного анализа
- •[Править] Математическое определение регрессии
- •[Править] Метод наименьших квадратов (расчёт коэффициентов)
- •[Править] Интерпретация параметров регрессии
- •Показатели корреляции [править] Параметрические показатели корреляции [править] Ковариация
- •[Править] Линейный коэффициент корреляции
- •[Править] Непараметрические показатели корреляции [править] Коэффициент ранговой корреляции Кендалла
- •[Править] Корреляционный анализ
- •] Область применения
- •[Править] Ограничения корреляционного анализа
- •[Править] Применение в технике
- •[Править] Другие применения
- •Взаимнокорреляционная функция
- •[Править] Свойства
Показатели корреляции [править] Параметрические показатели корреляции [править] Ковариация
Основные статьи: Ковариация, Неравенство Коши — Буняковского
Важной характеристикой совместного распределения двух случайных величин является ковариация (или корреляционный момент). Ковариация являетcя совместным центральным моментом второго порядка.[6] Ковариация определяется как математическое ожидание произведения отклонений случайных величин[7]:
,
где
—
математическое
ожидание.
Свойства ковариации:
Ковариация двух независимых случайных величин
и
равна
нулю[8].
Доказательство [показать]
Так как
и
—
независимые случайные величины, то и
их отклонения
и
также
независимы. Пользуясь тем, что
математическое ожидание произведения
независимых случайных величин равно
произведению математических ожиданий
сомножителей, а математическое ожидание
отклонения равно нулю, имеем
Абсолютная величина ковариации двух случайных величин и не превышает среднего геометрического их дисперсий:
[9].
Доказательство [показать]
Введём в
рассмотрение случайную величину
(где
—
среднеквадратическое
отклонение)
и найдём её дисперсию
.
Выполнив выкладки получим:
Любая дисперсия неотрицательна, поэтому
Отсюда
Введя
случайную величину
,
аналогично
Объединив полученные неравенства имеем
Или
Итак,
Ковариация имеет размерность, равную произведению размерности случайных величин, то есть величина ковариации зависит от единиц измерения независимых величин. Данная особенность ковариации затрудняет её использование в целях корреляционного анализа[8].
[Править] Линейный коэффициент корреляции
Для устранения недостатка ковариации был введён линейный коэффициент корреляции (или коэффициент корреляции Пирсона), который разработали Карл Пирсон, Фрэнсис Эджуорт и Рафаэль Уэлдон (англ.)русск. в 90-х годах XIX века. Коэффициент корреляции рассчитывается по формуле[10][8]:
Коэффициент корреляции изменяется в пределах от минус единицы до плюс единицы[11].
Доказательство [показать]
Разделив
обе части двойного неравенства
на
получим
Линейный коэффициент корреляции связан
с коэффициентом
регрессии в виде следующей
зависимости:
где
—
коэффициент регрессии,
—
среднеквадратическое отклонение
соответствующего факторного признака[12].
Для графического представления подобной связи можно использовать прямоугольную систему координат с осями, которые соответствуют обеим переменным. Каждая пара значений маркируется при помощи определенного символа. Такой график называется «диаграммой рассеяния».
Метод вычисления коэффициента корреляции
зависит от вида шкалы,
к которой относятся переменные. Так,
для измерения переменных с интервальной
и количественной шкалами необходимо
использовать коэффициент корреляции
Пирсона (корреляция моментов
произведений). Если по меньшей мере одна
из двух переменных имеет порядковую
шкалу, либо не является нормально
распределённой, необходимо использовать
ранговую корреляцию Спирмена или
(тау)
Кендалла. В случае, когда одна из двух
переменных является дихотомической,
используется точечная двухрядная
корреляция, а если обе переменные
являются дихотомическими: четырёхполевая
корреляция. Расчёт коэффициента
корреляции между двумя недихотомическими
переменными не лишён смысла только
тогда, когда связь между ними линейна
(однонаправлена).
