Теория случайных процессов. Основные понятия и определения теории случайных процессов. Модели и характеристики случайных сигналов. Ч.1. Учебное пособи

Свойство 3. Если события А и В несовместны, то вероятность со- бытия А + В равна сумме статистических вероятностей событий А и В:

P(A + В) = P(A) + P(В).

Свойства 1, 2 и 3 распространяются и на условную вероятность P(A / B). Условная вероятность события A при наличии события B равна частному от деления вероятности появления события A совме- стно с событием B на вероятность события B, т.е.

P(A/ B) = P(AB) .

P(B)

Зависимые и независимые события. Событие А не зависит от событии В, если

P(A / B) = P(A) при условии, что P(A) ≠ 0, P(В) ≠ 0.

Для зависимых событий справедливо выражение

P(AВ) = P(A) P(В).

Рассмотренные выше способы непосредственного определения вероятностей не всегда удобны и часто не применимы для расче- тов. Во многих практических задачах требуется определять веро- ятности таких событий, которые трудно или бессмысленно прово- дить экспериментальным путем: опыт может оказаться громозд- ким, дорогостоящим, а то и вообще неосуществимым (например, оценка функционирования не существующего, а проектируемого оборудования).

В большинстве случаев для определения вероятности применяют- ся косвенные методы. Они позволяют по известным вероятностям одних событий определять вероятности связанных с ними других событий. Применяя косвенные методы, пользуются основными свой- ствами или теоремами теории вероятностей.

Важным следствием теорем сложения и умножения вероятностей является формула полной вероятности. Эта формула позволяет оп- ределить вероятность некоторого события А, которое происходит вместе с одним из событий H1, H2, …, Hn, образующих полную груп- пу несовместных событий:

n

P(A) = ∑P(Hi )P(A/ Hi ),

i=1

11

где события H1, H2, …, Hn – образуют полную группу событий; их обычно называют гипотезами, при них возможно наступление собы- тия А.

Очень часто на практике приходится определять вероятность ги- потез после того, как опыт произведен. При этом пользуются теоре- мой гипотез или формулой Байеса, которая представляет собой след- ствие теоремы умножения и формулы полной вероятности. Пусть априорно известны вероятности гипотез полной группы несовмест- ных событий H1, H2, …, Hn. В результате испытания произошло не- которое событие А. Требуется определить апостериорные вероятно- сти гипотез H1, H2, …, Hn, определить условную вероятность P(Hi/A) с учетом того, что событие А свершилось.

Эта вероятность определяется выражением

Случайные величины. Реальные опыты или испытания, в том числе и наблюдения, характеризуются обычно различными перемен-

ными величинами. Их называют параметрами, характеристиками,

координатами и т.д. Если в результате испытания эти переменные величины могут принимать те или иные значения, причем заранее не известно, какие именно, то такие переменные называют случайными величинами. Понятие случайной величины является одним из основ- ных в теории вероятностей. Величина, которая в каждом отдельном случае в зависимости от результата опыта может принять то или иное числовое значение, является случайной величиной. Конкретное значение, которое может принять случайная величина, называется ее возможным значением. Поскольку результаты исследований и изме- рений обычно оцениваются числами, случайные величины могут принимать различные числовые значения. Если случайные величины принимают отдельные, изолированные друг от друга значения, кото- рые можно перечислить, то эти случайные величины называются дис- кретными. Случайные величины, которые непрерывно переходят в функции некоторого параметра, причем значения их нельзя заранее перечислить, называются непрерывными.

Случайная величина зависит от элементарного события ω, что можно обозначить как X = X(ω). В общем случае дискретная случай- ная величина X может принимать одно из значений x1, x2, …, xn. Так

12

как каждое из этих возможных значений не является достоверным, то говорят о вероятности, с которой случайная величина X принимает то или иное значение xi (i = 1, 2, …, n). В результате опыта, например измерения параметра, величина X примет одно из значений xi, про- изойдет одно из полной группы несовместных событий:

P(X = x1) = P1; P(X = x2) = P2; …; P(X = xn) = Pn.

Сумма этих вероятностей составляет

n

∑ Pi = 1.

i=1

С вероятностной точки зрения случайную величину X можно пол- ностью описать, если точно указано, какой вероятностью характери- зуется каждое возможное значение xi.

Законом распределения случайной величины называют соотноше-

ние, связывающее возможные значения случайной величины с их вероятностями. Простейшей формой задания закона распределения дискретной случайной величины является ряд распределения. Это таблица, в которой перечислены все возможные значения случайной величины и соответствующие вероятности:

Функция распределения. Ряд распределения представляет собой исчерпывающую вероятностную характеристику дискретной случай- ной величины. Непрерывную случайную характеристику, очевидно, нельзя описать таким образом, поскольку непрерывная случайная ве- личина может принимать бесчисленное множество значений, и соста- вить таблицу всех предполагаемых значений невозможно.

Для количественной характеристики распределения непрерывной случайной величины вводится функция распределения

13

F(x) = P(X < x).

Это вероятность события, которое заключается в том, что случайная величина X примет значение, меньшее некоторой текущей переменной x. Иногда эту характеристику называют интегральной функцией рас- пределения, или интегральным законом распределения (рис. 1.2).

Рис. 1.2

Важнейшими свойствами функции распределения вероятности непрерывной случайной величины являются:

1)F(x) – неубывающая функция;

2)F(– ∞) = 0;

3)F(+ ∞) = 1.

Функция распределения является универсальной вероятностной характеристикой. Она существует как для непрерывных, так и для дискретных случайных величин.

Для непрерывных случайных величин можно представить закон распределения в другой форме.

Функция плотности распределения. Для дифференцируемой и непрерывной функции распределения F(x) вероятность события x ≤ X < x + x определяется как приращение F(x) на участке с грани- цами x и (x + x):

P(x ≤ X < x + x) = F(x + x) – F(x).

Можно определить среднюю вероятность этого события на участ-

14

Функцию F′(x) = f(x) называют плотностью распределения, или плотностью вероятности случайной величины x.

В отличие от функции распределения – интегрального закона – плотность распределения называют дифференциальным законом распределения. Графически плотность вероятности изображается кривой распределения.

Вероятность попадания случайной величины X на элементарный участок dx равна f(x)dx и называется элементом вероятности.

Вероятность попадания случайной величины на некоторый уча- сток (а, b) можно выразить через плотность вероятности:

b

P(a < X < b) = ∫ f (x)dx.

a

Функция распределения может быть выражена через плотность вероятности:

x

F(x) = ∫ f (x)dx.

−∞

Функция плотности f(x) обладает следующими свойствами:

1) f (x) ≥ 0;

∞

2) ∫ f (x)dx = 1.

−∞

(Если все значения случайной величины X заключены в проме- жутке (a, b), то последнее равенство можно записать в следующем

b

виде: ∫ f (x)dx = 1. Геометрически это означает, что кривая распреде-

a

ления лежит не ниже оси абсцисс и площадь, ограниченная кривой распределения и осью абсцисс, равна единице.)

Рассмотренные законы распределения являются исчерпывающи- ми вероятностными характеристиками случайной величины. Однако при решении многих практических задач полное определение этих законов не является необходимым. Иногда достаточно ограничиться знанием некоторых основных, типичных показателей закона распре- деления. К ним относятся числовые характеристики случайных вели- чин.

На практике обычно применяют числовые характеристики двух типов: 1 – характеристики положения; 2 – моменты.

15

Характеристики положения определяют средние, типичные зна- чения случайной величины. К этим характеристикам относятся: ма- тематическое ожидание, мода и медиана.

Числовые характеристики случайных величин. Средние зна- чения и моменты случайных величин. Одной из важных задач,

связанных со статистическими методами, является способ получения средних значений или их функций. Известный метод получения средних значений путем интегрирования на интервале измерения функции широко используется для вычисления постоянной состав- ляющей сигналов, для определения среднего квадратического откло- нения или средней мощности функций, являющихся математическим описанием действующих сигналов, и называется усреднением по времени.

Средние по времени значения важны при рассмотрении случай- ных функций времени, но, разумеется, этот метод невозможно ис- пользовать для определения среднего значения случайной величины, поскольку это одиночное значение случайной величины определяет- ся как мгновенное значение. Для определения среднего значения случайной величины необходимо интегрирование по времени заме- нить интегрированием по диапазону возможных значений, которые может принимать случайная величина. Такой способ определения средних значений называется усреднением по ансамблю.

Обычно пользуются моментами двух видов: начальными и цен- тральными.

Начальные моменты порядка s определяются так:

−∞

Выражение (1.1) определяет начальные моменты для дискретной случайной величины, а (1.2) – для непрерывной. При s = 1 выраже- ния определяют математическое ожидание случайной величины X. При использовании знака математического ожидания выражения (1.1) и (1.2) примут следующий вид:

16

Формула (1.3) справедлива как для непрерывных, так и для дис- кретных случайных величин.

Моменты центрированной случайной величины называют цен- тральными. Для вычисления центральных моментов порядка s дис- кретной и непрерывной случайных величин соответственно приме- няются формулы:

n

μs = ∑(xi − mx )s Pi ; i=1

∞

μs = ∫ (xi − mx )s f (x)dx.

−∞

Для любой случайной величины центральный момент первого по- рядка (s = 1) равен нулю:

μ1 = M (X − mx ) = 0.

В общем случае можно рассматривать моменты относительно произвольной точки а:

γ s = M[(X − a)s ].

На практике из всех моментов в качестве характеристик случай- ной величины для анализа систем управления чаще всего применяют первый начальный (математическое ожидание) и второй централь- ный моменты.

Для дискретной случайной величины математическое ожидание определяется как сумма произведений всех возможных значений случайной величины на вероятности этих значений:

n

mx = M[X ] = ∑ xi Pi .

i=1

Математическое ожидание иногда называют средним значением. Между математическим ожиданием и средним арифметическим су- ществует соответствие, аналогичное соответствию между частотой и вероятностью. При увеличении числа опытов среднее арифметиче- ское полученных при наблюдении значений случайной величины приближается к ее математическому ожиданию.

Для непрерывной случайной величины математическое ожидание определяется так:

17

∞

mx = M[X ] = ∫ xf (x)dx.

−∞

Часто вместо самой случайной величины X рассматривают вели-

0

чину X = X – mx, которая называется центрированной случайной ве-

личиной. Определяется она как разность действительной случайной величины и ее математического ожидания. Операция центрирования, по сути, представляет собой перенесение начала координат в точку, соответствующую математическому ожиданию.

Второй центральный момент характеризует рассеивание значения случайной величины X относительно ее среднего значения mx. Эта характеристика называется дисперсией случайной величины. Для вы- числения дисперсии используют формулы:

n

μ2 = D[X ] = ∑(xi − mx )2 Pi ;

i=1

∞

μ2 = D[X ] = ∫ (x − mx )2 f (x)dx.

−∞

Эти характеристики могут быть определены и для дискретных случайных величин.

Часто рассеивание характеризуют средним квадратическим от- клонением («стандартом») случайной величины X:

σ[X ] = D[X ],

или

σx = Dx .

Характеристика σx более наглядна, так как имеет размерность

самой случайной величины.

Применяются несколько способов определения средних значений, чаще других используется способ, описываемый выражением

+∞

X = M[X ] = ∫ x f (x)dx.

−∞

Величина M[X] называется математическим ожиданием случай-

ной величины X. С помощью этого выражения можно определить ма- тематическое ожидание любой функции от x:

18

+∞

X = M[g(x)] = ∫ g(x) f (x)dx.

−∞

Широко используемыми числовыми характеристиками являются центральные моменты, представляющие собой моменты разности

случайной величины X и ее математического ожидания X . Так, цен- тральный момент n-го порядка описывается выражением следующе- го вида:

(X − X )n = M[(X − X )n ] = +∞∫ (x − X )n f (x)dx.

−∞

Первый центральный момент (для n = 1) равен нулю, а второй центральный момент определяется с помощью выражения

+∞

σ2X = (X − X )2 = M[(X − X )2 ] = ∫ (x − X )2 f (x)dx

−∞

и называется дисперсией. Дисперсию можно определить и другим способом, если воспользоваться правилом нахождения математиче- ского ожидания суммы случайных величин:

M[X1 + X2 + … + Xn] = M[X1] + M[X2] + … + M[X1], поэтому

σ2X = (X − X )2 = M[(X − X )2 ] = M[X 2 − 2XX + (X )2 ] =

= M[X 2 ] − 2M[X ]X + (X )2 ] = X 2 − 2XX + (X )2 = X 2 − (X )2 .

Таким образом, дисперсия – это разность между средним квадра- том случайной величины и квадратом ее математического ожидания. Величина σX – значение корня квадратного из дисперсии – называет-

ся стандартным, или средним квадратическим отклонением.

При исследовании технических систем часто встречаются ситуа- ции, когда одна случайная величина является функцией другой с из- вестной плотностью распределения вероятностей, причем необходи- мо определить плотность вероятности первой случайной величины.

Пусть необходимо определить плотность распределения вероят- ностей случайного значения напряжения или тока после выполнения с ним какого-либо нелинейного преобразования. В этом случае слу- чайная величина Y – однозначная действительная функция другой случайной величины X, т.е. Y = g(X). При этом плотность распреде- ления вероятностей fX(x) считается известной, и нужно определить плотность вероятностей fY(y) случайной величины Y. Если случайная

19

величина X принимает значения в интервале от x до (x + dx), то слу- чайная величина Y – от y до (y + dy). Поскольку вероятности этих со- бытий есть соответственно fX(x)dx и fY(y)dy, можно сразу записать соотношение fY(y)dy = fX(x)dx, из которого можно получить выраже- ние для искомой плотности вероятностей:

fY ( y) = fX (x) dx . dy

Аргумент правой части этого выражения должен быть выражен через обратную функцию от y.

Для монотонно убывающей функции Y = g(X) результат оказыва- ется аналогичным и различие будет только в знаке производной. В общем случае справедливо соотношение

fY ( y) = fX (x) dx . dy

Часто бывает необходимо произвести некоторые линейные пре- образования случайных величин, например определить выходной сигнал на выходе линейного преобразователя, если входной сигнал является случайной величиной с заданной плотностью вероятности. Для простейшего случая, если в качестве преобразователя использу- ется неискажающий линейный усилитель, искомая плотность рас- пределения вероятностей выходного сигнала определяется выраже- нием

Таким образом, в этом случае определение плотности вероятно- стей любой случайной величины сводится к получению «масштаби- рованной копии» другой случайной величины с известной плотно- стью распределения вероятностей.

Часто в практических задачах возникает необходимость опреде- ления плотности распределения вероятностей для сигналов, подвер- гающихся нелинейным преобразованиям. Например, случайная ве- личина Y связана с X соотношением Y = X2, причем известно, что плотность распределения вероятностей случайной величины X имеет

вид fX (x) = e− xu(x) , где u – единичная функция, определяемая сле- дующим образом:

20