15. Зависимые св. Ковариация и коэффициент корреляции. Корреляционная матрица случайного вектора. Независимые случайные величины

Определение . Пусть дано семейство случайных величин , так что . Тогда эти случайные величины попарно независимы, если попарно независимы порождённые ими сигма-алгебры . Случайные величины независимы в совокупности, если таковы порождённые ими сигма-алгебры.

Определение, данное выше, эквивалентно любому другому из нижеперечисленных. Две случайные величины независимы тогда и только тогда, когда:

• Для любых :

• Для любых борелевских функций случайные величины независимы.

• Для любых ограниченных борелевских функций :

Свойства независимых случайных величин

• Пусть  — распределение случайного вектора ,  — распределение и  — распределение . Тогда независимы тогда и только тогда, когда

где обозначает (прямое) произведение мер.

• Пусть  — кумулятивные функции распределения соответственно. Тогда независимы тогда и только тогда, когда

• Пусть случайные величины дискретны. Тогда они независимы тогда и только тогда, когда

• Пусть случайные величины совместно абсолютно непрерывны, то есть их совместное распределение имеет плотность . Тогда они независимы тогда и только тогда, когда

,

где  — плотности случайных величин и соответственно.

Ковариация

Важной характеристикой совместного распределения двух случайных величин является ковариация (или корреляционный момент). Ковариация являетcя совместным центральным моментом второго порядка. Ковариация определяется как математическое ожидание произведения отклонений случайных величин:

,

где  — математическое ожидание.

Свойства ковариации:

• Ковариация двух независимых случайных величин и равна нулю.

Доказательство:

Так как и — независимые случайные величины, то и их отклонения и также независимы. Пользуясь тем, что математическое ожидание произведения независимых случайных величин равно произведению математических ожиданий сомножителей, а математическое ожидание отклонения равно нулю, имеем

• Абсолютная величина ковариации двух случайных величин и не превышает среднего геометрического их дисперсий: .

Доказательство:

Введём в рассмотрение случайную величину (где — среднеквадратическое отклонение) и найдём её дисперсию . Выполнив выкладки получим:

Любая дисперсия неотрицательна, поэтому

Отсюда

Введя случайную величину , аналогично

Объединив полученные неравенства имеем

Или

Итак,

• Ковариация имеет размерность, равную произведению размерности случайных величин, то есть величина ковариации зависит от единиц измерения независимых величин. Данная особенность ковариации затрудняет её использование в целях корреляционного анализа.

Линейный коэффициент корреляции

Для устранения недостатка ковариации был введён линейный коэффициент корреляции Коэффициент корреляции рассчитывается по формуле:

Коэффициент корреляции изменяется в пределах от минус единицы до плюс единицы.

Доказательство:

Разделив обе части двойного неравенства на получим

Линейный коэффициент корреляции связан с коэффициентом регрессии в виде следующей зависимости: где — коэффициент регрессии, — среднеквадратическое отклонение соответствующего факторного признака.

Для графического представления подобной связи можно использовать прямоугольную систему координат с осями, которые соответствуют обеим переменным. Каждая пара значений маркируется при помощи определенного символа. Такой график называется «диаграммой рассеяния».

Метод вычисления коэффициента корреляции зависит от вида шкалы, к которой относятся переменные. Так, для измерения переменных с интервальной и количественной шкалами необходимо использовать коэффициент корреляции Пирсона (корреляция моментов произведений). Если по меньшей мере одна из двух переменных имеет порядковую шкалу, либо не является нормально распределённой, необходимо использовать ранговую корреляцию Спирмена или (тау) Кендалла. В случае, когда одна из двух переменных является дихотомической, используется точечная двухрядная корреляция, а если обе переменные являются дихотомическими: четырёхполевая корреляция. Расчёт коэффициента корреляции между двумя недихотомическими переменными не лишён смысла только тогда, когда связь между ними линейна (однонаправлена).

Корреляционная матрица случайного вектора (нашел 2 варианта, какой точней не знаю)

1 вариант

Корреляционная матрица — матрица коэффициентов корреляции нескольких случайных величин с ненулевыми дисперсиями

в которой элементы есть коэффициенты корреляции соответствующих случайных величин. Диагональные элементы матрицы равны единице. Справедливо соотношение , где  — диагональная матрица с элементами .

2 вариант

- корреляционная матрица вектора Х.

На главной диагонали К_Х - характеристики точности, квадраты средних квадратических ошибок случайных величин (оценки дисперсий). Недиагональные элементы - характеристики связи случайных величин X_i, X_j - корреляционные моменты

Вводят - вектор математических ожиданий.

Тогда корреляционную матрицу К_Х можно представить в виде:

где Х и М_Х - вектора.