1. Элементарная теория вероятностей

Обозначим в эксперименте элементарные события (исходы) , где – конечно. – их объединение – пространство элементарных событий.

Пример. Пусть монета брошена 1 раз, тогда .

Пусть монета брошена раз, тогда .

  – обозначим число элементарных событий в .

  ;

  .

Комбинаторные эксперименты: выборы с возвращением и без, упорядоченные и неупорядоченные.

Пусть из элементов выбирается

Формула Стирлинга.

т.е.

где

Определение. Подмножества называются событиями и предполагается, что известны утверждения "исход " или "исход ".

Операции с событиями: объединение (или ), пересечение (или ), разность , отрицание . Пустое множество обозначено ; достоверное событие – ; ; .

Определение. Алгебра – это такая система подмножеств , что

 1)

 2) если и , то , , .

Примеры: , , .

Определение. Разбиение – система множеств называется разбиением множества , если

 1) ,

 2) ,

 3)

События называются атомами разбиения.

Если взять элементы , и всевозможные объединения атомов, то получим алгебру , порожденную разбиением .

Разбиение мельче ( ), если .

Каждому элементарному событию , "припишем" меру (вес) называемую вероятностью исхода , если выполнены условия

1) (неотрицательность)

2) (нормированность).

Тогда для любого события определим вероятность по формуле

Определение. Тройка , где пространство элементарных событий , – некоторая алгебра подмножеств , вероятностная мера определяет конечное вероятностное пространство (вероятностную модель).

Свойства вероятности:

1)

2)

3)

4) ,

 если , то

5)

Пример 1. Биномиальное распределение. n-кратное подбрасывание монеты с результирующим набором или , .

Припишем

где . Корректность следует из того, что если , то и

т.е.

Если , то .

Набор называется биномиальным распределением.

Пример 2. Случайное блуждание. .

Определение. Условной вероятностью события при условии с называется

В классическом случае

Свойства условной вероятности:

1) 2) 3) 4) при 5) при , следовательно, .

Пусть – разбиение и пусть и, следовательно, , Следовательно, верна формула полной вероятности:

Если и , то . Отсюда получаем формулу Байеса:

Если – разбиение с , то очевидна теорема Байеса:

Определение. События и называются независимыми, если

Определение. Алгебры и называются независимыми, если попарно независимы любые два множества и .

Определение. Множества – называются независимыми в совокупности (или просто независимыми), если для любого

Алгебры множеств называются независимыми в совокупности, если независимы любые множества , .

Из попарной независимости не следует независимость в совокупности.

Пример. , , , , , но , , .

Пусть – вероятностное пространство с конечным числом исходов, – алгебра всех возможных подмножеств .

Определение. Всякая числовая функция , определенная на конечном пространстве элементарных событий , называется (простой) случайной величиной.

Пример.

	OO	OP	PO	PP
	2	1	1	0
	2	0	0	-2
	1	1	1	0
	1	0	0	0
	0	0	0	0
…	…	…	…	…

Пусть – все возможные значения , (очевидно, ), и пусть – совокупность подмножеств .

На вероятность индуцирована – по формуле , , и определяется по формуле , .

Определение. Набор - называется распределением вероятностей случайной величины .

Пример. Биномиальная случайная величина с n+1 значениями с вероятностями , .

Определение. Пусть . Функция называется функцией распределения случайной величины , если

Наряду со случайными величинами рассматриваются случайные вектора (пусть здесь – вектора-столбцы) , – распределения вероятностей случайного вектора .

– функция распределения случайного вектора .

Определение. Случайные величины – независимы (т.е. независимы в совокупности), если для любого

или, что то же самое

для любых .

Если и – независимые случайные величины, то для имеет место формула свёртки

Пусть – конечное вероятностное пространство, – некоторая случайная величина со значениями в . Пусть , . Тогда

где – индикаторная функция, – разбиение.

Справедливо следующее

Определение. Математическим ожиданием (или средним) случайной величины называют число

или

или

Заметим, что в элементарном (конечном) случае (из равенства интегралов Лебега-Стильтьеса и Римана-Стильтьеса в данном случае)