1.6.6.2. Равномерная плотность распределения

В ид плотности распределения представлен на рис. 14. Аналитическая запись плотности распределения:

Видно, что условие нормировки соблюдены, поскольку площадь под плотностью распределения равна 1.

Плотность распределения симметрична относительно математического ожидания,

Дифференциальная энтропия .

Случайная величина с равномерной плотностью распределения экстремальна по энтропии в следующем смысле.

Пусть о случайной величине известно лишь то, что значения, которые она может принимать, ограничены по модулю некоторым числом A, то есть Тогда среди всех таких случайных величин максимальной относительной энтропией обладает случайная величина с равномерной плотностью распределения.

1.6.6.3. Плотность распределения Arcsin

Г рафик плотности распределения приведен на рис. 15. Плотность распределения симметрична относительно математического ожидания. Кривая плотности распределения описывается функцией

.

Математическое ожидание и медиана совпадают:

.

Дисперсия, четвертый центральный момент, асимметрия и эксцесс:

, , As = 0,

.

Случайная величина с такой плотностью распределения возникает при аналого-цифровом преобразовании, например, синусоидального напряжения, действующего на входе аналого-цифрового преобразователя (АЦП). При запуске АЦП в случайные моменты времени или в моменты времени, не синхронизированные с частотой напряжения помехи (см. рис. 16), из-за плоских максимумов и минимумов синусоиды плотность значений выходного сигнала АЦП возрастает к краям интервала и минимальна в середине этого интервала. Интегральная функция распределения описывается функцией, обратной функции y = sin x, то есть функцией

1.6.6.4. Нормальная плотность распределения (Гаусса)

Кривая нормальной плотности распределения описывается функцией

,

которая называется гауссианой по имени германского математика К. Ф. Гаусса. Позднее были открыты многие замечательные свойства случайных величин, распределенных по нормальному закону. Мы познакомимся с большинством этих свойств.

Форма кривой нормальной плотности представлена на рис. 17. Это симметричная одномодальная плотность распределения, поэтому математическое ожидание, мода и медиана совпадают:

.

Дисперсия, четвертый центральный момент, асимметрия и эксцесс:

, , As = 0, .

В некоторых источниках эксцесс плотности распределения определяют по отношению к эксцессу нормальной плотности распределения. Тогда эксцесс любого распределения уменьшается на 3, а эксцесс нормального распределения равен 0:

.

Дифференциальная энтропия нормально распределенной случайной величины

.

Случайная величина с нормальной плотностью распределения экстремальна по энтропии в смысле следующей задачи. Пусть о случайной величине известно, что , где b – любое положительное конечное число. Найти плотность распределения, при которой дифференциальная энтропия этой случайной величины достигает максимального значения на множестве всех плотностей распределения.

Задача решается методами вариационного исчисления. Единственное решение задачи – нормальная плотность распределения. Иными словами, среди случайных величин, о которых известно лишь то, что дисперсия каждой из них ограничена одним числом, максимальной энтропией обладает случайная величина, распределенная нормально.

Принадлежность случайной величины к нормальной генеральной совокупности с математическим ожиданием c и дисперсией будем обозначать следующим образом

.

Характеристическую функцию нормальной случайной величины приведем здесь без вывода:

.

Обратим внимание на то, что при отсутствии сдвига плотности распределения относительно начала координат, то есть при c = 0, множитель пропадает.

Интегральная функция нормального распределения выражается интегралом от плотности распределения:

.

Этот интеграл не может быть записан в конечной форме, поэтому его значения табулируются. В связи с тем, что этот интеграл зависит от параметров с и , которые могут принимать бесчисленное множество значений, в целях удобства табулирования эти параметры исключаются путем замены переменной интегрирования:

.

Тогда, пользуясь тем, что нормальная плотность распределения симметрична и F(c)=0,5, получим для :

= ,

где функция

называется функцией Лапласа.

Таблицы этой функции приводятся во всех без исключения справочниках, учебниках и учебных пособиях по теории вероятностей и математической статистике. Если , . Оба эти выражения распространяются на всю ось путем объединения с использованием знаковой функции sign[] :

.

Вероятностная мера полуоткрытого интервала (a, b] вычисляется, как

.

Если интервал симметричен относительно математического ожидания, то есть границы интервала (c - a, c + a], то

.

На практике часто используются интервалы, ширина которых исчисляется целыми значениями среднеквадратического отклонения . Наиболее популярными среди них являются : a = , a = 2, a = 3. Для этих значений . Соответственно вероятностные меры интервалов

, ,

.

Приведем два из многих исключительных свойств нормального распределения вероятностей: интегральную теорему Муавра – Лапласа и центральную предельную теорему (ЦПТ).

Интегральная теорема Муавра-Лапласа основывается на локальной теореме Муавра-Лапласа, которая сообщена выше в разд. 1.3.7.

Напомним, что если в схеме Бернулли (см. разд. 1.2.4) количество испытаний возрастает, то есть n  , а вероятность p появления одного из двух противоположных событий не изменяется, то в соответствии с локальной теоремой Муавра – Лапласа .

Интегральная теорема Муавра – Лапласа посвящена задаче упрощенной оценке вероятности без необходимости трудоемких вычислений числа сочетаний.

На основании локальной теоремы

.

Последнее равенство является точным в условиях действия локальной теоремы Муавра – Лапласа в связи с тем, что из-за дискретности случайной величины m = 1. В то же время последняя сумма есть не что иное, как формула прямоугольников приближенного вычисления интеграла:

.

В конечном итоге при n   и p = const интегральная теорема Муавра – Лапласа утверждает следующую асимптотику:

.

Центральная предельная теорема (ЦПТ). Приведем упрощенную формулировку теоремы.

Плотность распределения суммы независимых произвольно распределенных случайных величин, дисперсии которых различаются не слишком сильно, при увеличении числа слагаемых стремится к нормальной плотности распределения.

Более точная формулировка приводится, например, в книге [6] на стр. 268.