- •Введение.
- •1.1 Случайные величины и методы их описания
- •1.1.1 Определение случайной величины и ее описание
- •1.1.2 Статистические характеристики случайных величин
- •1.1.3 Гауссовские случайные величины и их характеристики
- •1.1.4 Различные типы случайных величин
- •1.1.5. Задачи к разделу 1.1
- •1.1.6 Вопросы к разделу 1.1
- •1.2 Случайные векторы и методы их описания
- •1.2.1 Определение случайного вектора и его описание
- •1.2.2 Статистические характеристики случайных векторов
- •Определение
- •1.2.3 Гауссовские случайные векторы и их характеристики
- •1.2.4 Среднеквадратический эллипс ошибок, круговая вероятная ошибка.
- •1.2.5. Задачи к разделу 1.2
- •1.2.6 Вопросы к разделу 1.2
- •1.3 Преобразование случайных величин и векторов
- •1.3.1 Функции случайных величин
- •1.3.2 Функции случайных векторов
- •1.3.3 Линейные преобразования случайных векторов.
- •1.3.4 Определение статистических свойств длины проекции случайного двумерного вектора на заданное направление
- •1.3.5 Ортогонализация случайных величин. Связь матрицы ковариаций и среднеквадратического эллипса
- •1.3.6. Задачи к разделу 1.3
- •1.3.7 Вопросы к разделу 1.3
- •1.4 Условная плотность распределения вероятностей
- •1.4.1. Формулы Байеса. Условные математическое ожидание и матрица ковариаций
- •1.4.2 Правила нахождения параметров условной гауссовской плотности
- •1.4.3 Примеры нахождения параметров условной гауссовской плотности
- •1.4.4 Задача регрессии.
- •1.4.5 Задачи к разделу 1.4
- •1.4.6 Вопросы к разделу 1.4
- •1.5 Моделирование случайных величин и векторов и вычисление их выборочных характеристик.
- •1.5.1. Псевдослучайные последовательности, датчики случайных чисел
- •1.5.2 Метод Монте-Карло.
- •1.5.3 Выборочные статистические характеристики
- •1.5.4 Гистограмма
- •1.5.5 Моделирование случайных величин в Matlab
- •1.5.7 Вопросы к разделу 1.5
- •1.6 Задание для моделирования с использованием Matlab.
- •1.7 Заключение.
23
1.1Случайные величины и методы их описания
Внастоящем разделе вводятся и поясняются такие понятия как вероятность, случайная величина, функция распределения вероятностей и функция плотности распределения вероятности, анализируются свойства этих функций. Даются определения числовых статистических характеристик случайных величин таких как: математическое ожидание, дисперсия, среднеквадратическое отклонение, стандартное отклонение, моменты случайных величин, квантиль, медиана и мода распределения. Вводится неравенство Чебышева. Подробно обсуждаются числовые характеристики гауссовских случайных величин и векторов. Вводится стандартизованная гауссовская случайная величина, функция ошибок, предельное значение, предельная ошибка, правило трех сигм, среднее абсолютное отклонение, вероятное отклонение, вероятная ошибка. Приводятся примеры, поясняющие введенные понятия и описываются m- функции Matlab, с помощью которых могут быть построены различные виды ф.п.р. и ф.п.р.в.
1.1.1 Определение случайной величины и ее описание
Случайной называется такая величина, значение которой заранее неизвестно, и можно лишь указать некую числовую меру (вероятность) того, что она будет принадлежать той или иной заранее определенной области значений.
Для того, чтобы ввести более менее строгое определение случайной величины необходимо пояснить смысл таких понятий, как вероятность, выборочное пространство и событие [1.1].
Для целей предлагаемого материала достаточно считать, что выборочным пространством является множество точек n - мерного пространства. Далее пояснения проведем для простейшего случая, когда в качестве выборочного пространства выступает множество Ω = {x}
всех действительных чисел на числовой оси. Будем называть их элементарными событиями.
На множестве Ω = {x} введем класс подмножеств |
U = {A}, включающий все открытые |
{x : a < x < b}, закрытые {x : a ≤ x ≤ b} и полуоткрытые |
{x : a ≤ x < b}, {x : a < x ≤ b} интервалы, |
где a,b - заданные действительные числа, принимающие произвольные известные значения, в
том числе и ± ∞. Кроме того, считаем, что классу подмножеств U = {A} принадлежат отдельные точки, все счетные объединения и пересечения интервалов и точек. Этот класс подмножеств U = {A} будем называть возможными событиями. Важно подчеркнуть, что при выполнении над элементами этого класса операций объединения, пересечения и дополнения, вновь получается элемент, принадлежащий этому подмножеству, т.е. при выполнении перечисленных операций над событиями вновь получается событие.
24
Для событий A введем действительную скалярную функцию (вероятностную меру) Pr(A) ,
обладающую следующими свойствами:
• Pr(A) ≥ 0 для всех А;
• Pr(Ω) =1 ;
• для любой последовательности из m попарно непересекающихся событий, т.е.
m |
|
m |
Ai I A j = , где –пустое множество, справедливо равенство Pr UAi |
= ∑Pr(Ai ). |
|
i=1 |
|
i=1 |
Эту функцию будем называть вероятностью события A или просто вероятностью. Случайную величину (с.в.) будем считать заданной, если определена функция,
позволяющая вычислять вероятность появления любого возможного события, т.е. вычислять вероятность того, что случайная величина: примет какое-либо фиксированное значение, будет принадлежать тому или иному интервалу или их набору и т.д.
В качестве такой функции, в полном объеме определяющей свойства случайной величины,
используется функция распределения вероятностей (ф.р.в.), или интегральная функции распределения, представляющая собой скалярную функцию Fx (x) действительного аргумента x и определяющая вероятность того, что случайная величина x принадлежит открытому интервалу (−∞, x) , т.е. вероятность того, что x < x . Таким образом,
Fx (x) = Pr(x : x < x) . |
(1.1.1) |
Иногда вместо функции распределения вероятностей используют термин - распределение вероятностей или просто распределение, если из контекста ясно, о чем идет речь.
При введении понятия случайной величины в качестве Ω не обязательно должно выступать все множество действительных чисел. Это может быть некоторая область на числовой оси, конечный или счетный набор чисел.
Итак, статистические свойства случайной величины в полном объеме задаются с помощью функции распределения вероятностей. В силу перечисленных выше свойств вероятностной меры нетрудно понять, что функция (1.1.1) является неотрицательной неубывающей,
непрерывной слева функцией, удовлетворяющей условиям |
|
Fx (−∞) = Pr(x : x < −∞) = 0 , |
(1.1.2) |
Fx (∞) = Pr(x : x < ∞) =1 . |
(1.1.3) |
Помимо функции распределения вероятности для описания свойств случайных величин используют также функцию плотности распределения вероятности (ф.п.р.в.), определяемую как
fx (x) = |
dFx (x) |
. |
(1.1.4) |
|
|||
|
dx |
|
|
25
Далее в зависимости от контекста также будем использовать термины – плотность распределения вероятностей, плотность распределения или просто плотность. Индекс снизу у функций указывает на ту случайную величину, которой он соответствует и в дальнейшем может опускаться, если это не вызывает недоразумений.
В англоязычной литературе для ф.р.в. используется термин cumulative density function (c.d.f) – интегральная функция распределения вероятностей, а для ф.п.р.в. - probability density function-(pdf).
Осуществляя интегрирование обеих частей (1.1.4) в пределах от − ∞ до x с учетом (1.1.2), получим
x |
|
Fx (x) = ∫ fx (u)du . |
(1.1.5) |
−∞ |
|
Функция плотности распределения вероятностей является неотрицательной ( fx (x) ≥ 0 )
функцией, удовлетворяющей условию нормировки
∞ |
|
|
|
|
|
|
|
|
∫ fx (u)du =1 . |
|
|
|
|
|
(1.1.6) |
||
−∞ |
|
|
|
|
|
|
|
|
Для вероятности такого события, при |
котором x1 ≤ x < x2 , |
|
справедливо |
следующие |
||||
очевидные равенства |
|
|
|
|
|
|
|
|
Pr(x1 ≤ x < x2 ) = Pr(x : x < x2 ) − Pr(x : x < x1) = Fx (x2 ) − Fx (x1) (1.1.7) |
||||||||
или |
|
|
|
|
|
|
|
|
|
|
|
|
x2 |
|
|
|
|
Pr(x1 ≤ x < x2 ) = Fx (x2 ) − Fx (x1) = ∫ fx (u)du . |
|
(1.1.8) |
||||||
|
|
|
|
x1 |
|
|
|
|
Принимая во внимание (1.1.4), можно записать |
|
|
|
|
|
|
||
fx (x) = lim |
Fx |
(x + dx) − Fx (x) |
= |
lim |
Pr(x ≤ x < x + dx) |
, |
||
|
dx |
|
dx |
|
||||
dx→0 |
|
|
dx→0 |
|
|
|
||
из этого соотношения следует, что при малых dx |
|
|
|
|
|
|
||
Pr(x ≤ x < x + dx) = Fx (x + dx) − Fx (x) ≈ f x (x)dx . |
|
(1.1.9) |
||||||
Пример 1.1.1 Одной из часто используемых является равномерно распределенная на интервале [a, b] случайная величина, для которой ф.р.в. и ф.п.р.в. задаются в виде
0, |
|
при |
x < a, |
|||
|
− a |
|
|
|
||
x |
, при |
|
a ≤ x ≤ b, |
|||
Fx (x) = |
|
|
|
|||
|
− a |
|
||||
b |
при |
x > b, |
||||
1, |
|
|||||
|
|
|
|
|
||
0, |
|
при |
x [a, b], |
|||
|
1 |
|
|
|
||
fx (x) = |
, при |
x [a, b]. |
||||
|
|
|
||||
|
− a |
|||||
b |
|
|
|
|||
(1.1.10)
(1.1.11)
26
В этом случае говорят, что с.в. имеет равномерное распределение (равномерную ф.р.в.) или равномерную плотность распределения (равномерную ф.п.р.в). Графики этих функций представлены на Рис.1.1.1.
0, |
x <a |
|
|
|
|
|||
|
−a |
|
|
|
|
|
Pr (x ≤x<x +dx)=F(x +dx)−F(x ) |
|
x |
, |
|
a ≤ x ≤b |
|
||||
Fx (x) = |
−a |
|
|
x |
x |
|||
b |
|
|
|
|
|
|
|
|
1, |
x >b |
|
1 |
|
|
|||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
dx |
|
|
|
|
|
|
|
|
a |
b |
x |
|
|
|
|
|
|
|
x |
|
|
|
|
0 x [a,b] |
|
|
|
||
fx(x) = |
|
1 |
|
|
|
|
||
|
x [a,b] |
Pr (x≤x<x+dx)≈ fx(x)dx |
|
|||||
|
|
|
|
|
|
|||
|
|
|
b−a |
|
|
|
|
|
1
b−a
a |
b |
|
x |
Рис.1.1.1 Графики ф.р.в. и ф.п.р.в. для с.в., равномерно распределенной в интервале [a, b] .
В данном случае в качестве Ω выступает множество всех действительных чисел на интервале [a, b]. Используя (1.1.10), (1.1.11) можем записать
|
|
|
|
|
x2 − x1 |
, |
при |
x , x |
2 |
[a, b], |
||||
|
|
|
|
|
|
|||||||||
|
|
|
|
|
b − a |
|
|
|
1 |
|
|
|
||
|
|
|
|
|
|
|
|
|
|
|
|
|
||
|
|
|
|
x2 |
− a |
, |
при |
x1 < a, x2 [a, b], |
||||||
|
|
|
|
|
|
|
||||||||
|
|
|
|
b |
− a |
|||||||||
|
|
|
|
|
|
|
|
|
|
|
|
|||
Pr(x |
≤ x < x |
|
) = |
|
b − x1 |
|
|
|
|
|
|
|
|
|
2 |
|
|
|
|
|
|
|
|
|
|||||
1 |
|
|
|
|
, |
|
при |
x1 [a, b], x2 > b, |
||||||
|
|
|
|
b |
− a |
|
||||||||
|
|
|
|
|
|
|
|
|
при |
x1 , x2 < a или; x1 , x2 > |
||||
|
|
|
|
0, |
|
|
|
|||||||
|
|
|
|
1, |
|
|
|
при |
x < a, x |
2 |
> b. |
|||
|
|
|
|
|
|
|
|
|
|
1 |
|
|
|
|
(1.1.12)
b,
Очевидно также, что вероятность попасть в любой принадлежащий [a, b] подынтервал шириной dx одинакова при любом его расположении внутри [a, b]. Этим собственно и
