1. Элементы теории вероятностей и математической статистики

Согласно классическому определению вероятность события А равна отношению числа случаев т, благоприятствующих ему, к общему числу случаев n, т.е. Р(А)=т/п.

Одним из важнейших понятий теории вероятностей является понятие случайной величины.

Под случайной величиной понимается переменная, которая в результате испытания в зависимости от случая принимает одно из возможного множества своих значений (какое именно — заранее не известно).

Для дискретной случайной величины множество возможных значений случайной величины, т.е. функции f(x), конечно или счетно, для непрерывной — бесконечно и несчетно.

Примеры случайных величин:

X— число родившихся детей в течение суток в г. Москве;

У— число произведенных выстрелов до первого попадания;

Z— дальность полета артиллерийского снаряда.

Здесь X, У — дискретные случайные величины, a Z — непрерывная случайная величина.

Наиболее полным, исчерпывающим описанием случайной величины является ее закон распределения.

Законом распределения случайной величины называется всякое соотношение, устанавливающее связь между возможными значениями случайной величины и соответствующими им вероятностями.

Для дискретной случайной величины закон распределения может быть задан в виде таблицы, аналитически (в виде формулы) и графически.

Например,

X	x1	x2	…	xi	…	xn
	p1	p2	…	pi	…	pn

Такая таблица называется рядом распределения дискретной случайной величины.

Для любой дискретной случайной величины

Если по оси абсцисс откладывать значения случайной величины, по оси ординат — соответствующие их вероятности, то получаемая (соединением точек) ломаная называется многоугольником или полигоном распределения вероятностей.

Две случайные величины называются независимыми, если закон распределения одной из них не меняется от того, какие возможные значения приняла другая величина.

Закон (ряд) распределения дискретной случайной величины дает исчерпывающую информацию о ней, так как позволяет вычислить вероятности любых событий, связанных со случайной величиной. Однако такой закон (ряд) распределения бывает трудно обозримым и не всегда удобным для анализа

Поэтому для описания случайных величин часто используются их числовые характеристики — числа, в сжатой форме выражающие наиболее существенные черты распределения случайной величины. Наиболее важными из них являются математическое ожидание, дисперсия, среднее квадратичное отклонение и др. Числовые характеристики случайных величин являются числами неслучайными, определенными.

Математическим ожиданием, или средним значением, М(Х) дискретной случайной величины X называется сумма произведений всех ее значений на соответствующие им вероятности:

Свойства математического ожидания:

1. М(С) = С где С - постоянная величина;

2. М(кХ) = кМ(Х);

3. М(Х± У) = М(Х)± М(У)

4. М(ХУ) = М(Х) • М(У), где X, Y— независимые случайные величины;

5. М(Х± С) = М(Х)± С;

Дисперсией D(X) случайной величины X называется математическое ожидание квадрата ее отклонения от математического ожидания:

D(X) = M[X-M(X)]²

или D{X) = M(X-a)², где а = М(Х).

Дисперсия характеризует отклонение (разброс, рассеяние, вариацию) значений случайной величины относительно среднего значения. Если случайная величина X— дискретная с конечным числом значений, то:

Дисперсия D(X) имеет размерность квадрата случайной величины, что не всегда удобно. Поэтому в качестве показателя рассеяния используют также величину

,

которая называется средним квадратичным отклонением (стандартным отклонением или стандартом) случайной величины X.

Функцией распределения случайной величины X называется функция F(x), выражающая для каждого х вероятность того, что случайная величина X примет значение, меньшее х:

F(x) = P(X<x).

Свойства функции распределения:

1. Функция распределения случайной величины есть неотрицательная функция, заключенная между нулем и единицей: 0 < F(x) < 1.

2. Функция распределения случайной величины есть неубывающая функция на всей числовой оси, т.е. при х₂ > х₁ F(x₂) > F(x₁).

3. На минус бесконечности функция распределения равна нулю, на плюс бесконечности — равна единице, т.е.

4. Вероятность попадания случайной величины X в интервал [х_1,х₂) (включая x₁) равна приращению ее функции распределения на этом интервале, т.е.

P(x₁<x<x₂) = F(x₂)-F{x_l)

Случайная величина X называется непрерывной, если ее функция распределения непрерывна в любой точке и дифференцируема всюду, кроме, быть может, отдельных точек.

Для непрерывной случайной величины X вероятность любого отдельно взятого значения равна нулю, т.е. P(x=x₁)=0, а вероятность попадания X в интервал (х₁, х₂) не зависит от того, является ли этот интервал открытым или закрытым, т.е., например,

Плотностью вероятности (плотностью распределения) непрерывной случайной величины X называется производная ее функции распределения

Плотность вероятности , как и функция распределения F(x), является одной из форм закона распределения, но в отличие от функции распределения она существует только для непрерывных случайных величин.

График плотности вероятности называется кривой распределения.

Свойства плотности вероятности непрерывной случайной величины:

1. Плотность вероятности — неотрицательная функция, т.е. .

2. Вероятность попадания непрерывной случайной величины в интервал [а,b] равна определенному интегралу от ее плотности вероятности в пределах от а до b (рис. 1.1),

Рис. 1.1. Вероятность попадания случайной величины в интервал [а,b].

т.е.

Рис. 1.2. Функция распределения случайной величины

3. Функция распределения непрерывной случайной величины (рис. 1.2) может быть выражена через плотность вероятности по формуле:

4. Несобственный интеграл в бесконечных пределах от плотности вероятности непрерывной случайной величины равен единице:

Геометрически свойства 1 - 4 плотности вероятности означают, что ее график — кривая распределения — лежит не ниже оси абсцисс, и полная площадь фигуры, ограниченной кривой распределения и осью абсцисс, равна единице.

Для непрерывной случайной величины X математическое ожидание М(Х) и дисперсия D(X) определяются по формулам:

, если интеграл абсолютно сходится;

Наряду с отмеченными выше числовыми характеристиками для описания случайной величины используется понятие квантилей и процентных точек.

Квантилем уровня q (или q-квантилем) называется такое значение x_q случайной величины, при котором функция ее распределения принимает значение, равное q, т. е.

F(x_q)=P(X<x_q)=q

(100q)%-ой точкой называется квантиль X_1-q.

Упорядоченный набор Х=(Х₁, Х₂,..., Х_n) случайных величин называется многомерной (n-мерной) случайной величиной (или системой случайных величин, n-мерным вектором).

Функцией распределения n-мерной случайной величины (Х₁, Х₂,..., Х_n) называется функция F(х₁,х₂,...,х_п), выражающая вероятность совместного выполнения n неравенств Х₁ <x₁, X₂ <x₂,...,X_n <x_n т.е.

F(x₁,x₂,...,x_n)=P(Х₁ <x₁, X₂ <x₂,...,X_n <x_n)

В двумерном случае для случайной величины (X, Y) функция распределения F(x, у) определится равенством: F(x,y)=P(X<x, Y<y).

Все свойства и понятия, приводимые далее для двумерной случайной величины могут быть перенесены на случай n >2. Свойства функции распределения F(x,y) аналогичны свойствам одномерной случайной величины.

Плотностью вероятности (плотностью распределения или совместной плотностью) непрерывной двумерной случайной величины (X, Y) называется вторая смешанная частная производная ее функции распределения, т.е.

Свойства плотности вероятности двумерной случайной величины аналогичны свойствам плотности вероятности одномерной случайной величины:

Условным законом распределения одной из одномерных составляющих двумерной случайной величины (X, Y) называется ее закон распределения, вычисленный при условии, что другая составляющая приняла определенное значение (или попала в какой-то интервал).

Числовые характеристики условных распределений: условные математические ожидания M_x(Y) и М_y(Х) и условные дисперсии D_x(Y) и D_y(X). Эти характеристики находятся по обычным формулам математического ожидания и дисперсии, в которых вместо вероятностей событий или плотностей вероятности используются условные вероятности или условные плотности вероятности.

Условное математическое ожидание случайной величины Y при Х=х, т. е. M_x(Y), есть функция от х, называемая функцией регрессии или просто регрессией Y по X; аналогично М_y(Х) называется функцией регрессии или просто регрессией X по У. Графики этих функций называются соответственно линиями регрессии (или кривыми регрессии) Y по X и X по У.

Зависимость между двумя случайными величинами называется вероятностной (стохастической или статистической), если каждому значению одной из них соответствует определенное (условное) распределение другой.

Ковариацией (или корреляционным моментом) Соv(Х,У) случайных величин X и У называется математическое ожидание произведения отклонений этих величин от своих математических ожиданий, т.е. Соv(Х,У)=M[(X-a_x)(Y-a_y)], где а_х = M(X), a_y = M(Y).

Ковариация двух случайных величин характеризует как степень зависимости случайных величин, так и их рассеяние вокруг точки (а_х, а_у). Ковариация — величина размерная, что затрудняет ее использование для оценки степени зависимости случайных величин. Этих недостатков лишен коэффициент корреляции.

Коэффициентом корреляции двух случайных величин называется отношение их ковариации к произведению средних квадратичных отклонений этих величин:

.

Из определения следует, что коэффициент корреляции — величина безразмерная, характеризующая тесноту линейной зависимости между случайными величинами.