§ 5. Ковариация и коэффициент корреляции
Определение. Пусть
,
– случайные величины,
– их произведение,
,
,
– математические ожидания этих величин,
,
– средние квадратические отклонения
величин
и
.
Число , определяемое формулой
, (1)
называется коэффициентом ковариации
величин
и
,
а число
,
определяемое формулой
, (2)
коэффициентом корреляции.
С помощью коэффициентов
и
можно измерять степень зависимости
случайных величин. Из известного свойства
математического ожидания вытекает, что
для независимых случайных величин
.
Естественно считать, что чем больше
и
по абсолютной величине, тем больше
степень зависимости
и
.
Для теории вероятностей и ее приложений большее значение имеет коэффициент корреляции (основная причина этого – его безразмерность).
Свойства коэффициента корреляции
1. 
для независимых случайных величин
и
.
2. 
для любых случайных величин
и
.
3. Если
,
то случайные величины связаны соотношением
, (3)
где
и
– некоторые числа.
Обратно, если
и
связаны соотношением (3), то
(причем
при
и
для
).
Замечание. Следует иметь ввиду, что существуют зависимые величины и , коэффициент корреляции которых равен нулю, их называют некоррелированными. Коэффициент корреляции измеряет степень линейной зависимости между случайными величинами и .
§ 6. Закон больших чисел. Теорема Чебышева
Из повседневного опыта известно, что
массовые случайные явления обладают
свойствами устойчивости средних. Это
означает, что при независимых испытаниях
случайной величины
среднее арифметическое полученных
значений
при больших
стабилизируется. Случайные колебания
значений каждого испытания компенсируется
и случайная величина
,
где
есть
-ое
испытание величины
при больших
теряет свой случайный характер. Теоремы,
описывающие подобные ситуации, называют
законами больших чисел. Их несколько.
Рассмотрим наиболее часто используемую
из них.
Теорема Чебышева. Если
,
,
…,
– попарно независимые случайные
величины, причем дисперсии их равномерно
ограничены (не превышают постоянного
числа
),
то, как бы мало ни было положительное
число
.
На практике чаще используется следующая формулировка этой теоремы.
Теорема. Пусть
(
)
– попарно независимые случайные
величины, имеющие одинаковые распределения
и
,
.
Тогда имеет место соотношение:
,
для любого сколь угодно малого положительного числа .
Комментарий. Можно считать, что дана одна случайная величина , которая независимо испытывается раз, случайное значение -го испытания определяет величину . Теорема Чебышева утверждает, что малое (меньшее, чем ) отклонение среднего арифметического от математического ожидания весьма вероятно. Иными словами, почти всегда будет наблюдаться малое отклонение (при больших ).
§ 7. Центральная предельная теорема Ляпунова
Кроме законов больших чисел, описывающих устойчивость средних значений, в теории вероятностей имеет место еще одно замечательное явление. Это явление заключается в том, что при большом количестве случайных слагаемых, каждое из которых вносит лишь небольшой вклад в общую сумму, распределение каждого из слагаемых не влияет на суммарный результат. Более строгое утверждение сформулировано в следующей теореме.
Теорема Ляпунова (центральная предельная).
Если случайная величина представляет собой сумму очень большого числа взаимно независимых случайных величин, влияние каждой из которых на всю сумму ничтожно мало, то имеет распределение, близкое к нормальному.