Теория информации. Методическое пособие по проведению практических занятий (направление подготовки 10.03.01 - Информационная безопасность)
.pdf
МИНИСТЕРСТВО ЦИФРОВОГО РАЗВИТИЯ, СВЯЗИ И МАССОВЫХ КОММУНИКАЦИЙ РОССИЙСКОЙ ФЕДЕРАЦИИ
Северо-Кавказский филиал ордена Трудового Красного Знамени федерального государственного
бюджетного образовательного учреждения высшего образования «Московский технический университет связи и информатики»
КАФЕДРА ОБЩЕНАУЧНОЙ ПОДГОТОВКИ
Бородин А.В.
ТЕОРИЯ ИНФОРМАЦИИ
Методическое пособие
по проведению практических занятий
направление подготовки 10.03.01 Информационная безопасность
Ростов-на-Дону
2023 г.
УДК 621.391
ББК 22.19 Б 83
Бородин А.В. «Теория информации». Методическое пособие по проведению практических занятий (направление подготовки 10.03.01 -
Информационная безопасность). - Ростов-на-Дону: Северо-Кавказский филиал МТУСИ,
2023. – 35 С.
Составитель: доцент кафедры ОНП Бородин А.В.
Рецензент: Доцент кафедры информационной безопасности СКФ МТУСИ, к.ф.-м.н. Костецкая Г.С.
Издание рассмотрено и утверждено на заседании кафедры ОНП
20.11.2023 года (протокол № 4)
©Бородин А.В., 2023 ©СКФ МТУСИ, 2023
И з д а т е л ь с т в о С К Ф М Т У С И
Сдано в набор 20.11.23. Изд. № 379. Подписано в печать 21.12.23. Зак. 393. Печ. листов 2,19. Учетно-изд. л. 1,75. Печать оперативная. Тир. 5 экз.
Отпечатано в Полиграфическом центре СКФ МТУСИ, Серафимовича, 62.
2
профессиональных компетенций будущего специалиста в сфере информационной безопасности.
ПРАКТИЧЕСКОЕ ЗАНЯТИЕ №1
Числовые характеристики случайных процессов.
Для непрерывных процессов X(t) распределение вероятностей в заданном сечении t1 характеризуется одномерной плотностью вероятностей (ПВ)
W (x) lim |
P |
x X x x |
0 |
|
|
||||||
|
|
|
|
x |
|
|
|||||
|
|
|
x 0 |
|
|
|
|
|
|
|
|
выражающий |
|
отношение вероятности |
того, что случайная величина X(t) |
||||||||
примет значения в интервале |
x X x x |
, к величине интервала x. |
|||||||||
|
|
||||||||||
|
|
|
Вероятность того, что случайная величина X примет значение в |
||||||||
интервале (x1; x2) определяется выражением |
|
||||||||||
|
|
|
|
|
|
|
x |
|
|
|
|
|
|
1 |
|
2 |
|
|
2 |
|
|
|
|
|
|
|
|
|
|
|
|
||||
P |
|
x |
X x |
|
|
W (x)dx. |
|
|
|
||
|
|
|
|
|
|
|
x |
|
|
|
|
|
|
|
|
|
|
|
1 |
|
|
|
|
Интервал в бесконечных пределах от функции W(x) равен единице (условие нормировки для достоверного события)
x2 P X W (x)dx 1.
Другой важной характеристикой случайных величин X является интегральная функция распределения (ИФР) F(x), определяемая как вероятность того, что случайная величина X не превзойдет некоторого
значения x:
x
F (x) P X x W (x)dx.
ИФР имеет следующие свойства:
1)F( ) 0;
2)F( ) 1;
4
3) |
F |
|
(x)
- неубывающая функция, т.е.
F(x ) F(x ) |
|
2 |
1 |
при
x |
x ; |
2 |
1 |
4)
P x |
X x |
F (x |
) F (x ). |
1 |
2 |
2 |
1 |
В прикладных задачах предполагают, что ИФР являются
дифференцируемыми функциями и определяют W(x) как производную от ИФР.
W (x) |
dF (x) |
. |
|
dx |
|||
|
|
Числовой характеристикой случайной величины (процесса) может служить момент k-го порядка. В частности, момент первого порядка,
называемый математическим ожиданием (МО) СВ определяет среднее значение случайной величины
1 |
|
|
|
x W (x, t)dx, |
|
m (t) X (t) M ( X (t)) |
|
|
|
|
|
где черта сверху означает усреднение по множеству реализаций. Аналогично вводится момент второго порядка
m2 (t) X 2 (t) M ( X 2 (t)) x2 W (x, t)dx.
Разность между случайной величиной X и её МО
o
X X (t) X
представляет собой отклонение СВ от среднего значения. Она называется центрированным значением СВ. МО квадрата этого отклонения называется дисперсией или центральным моментом второго порядка
D( X (t))
Величину
|
|
|
o |
|
2 |
(t) M ( X |
|
|
|||
|
|
D( X ) |
|
2 |
|
|
1 |
|
|
|
|
|
|||
(t)) |
|
|
x m (t) |
2 |
W (x, t)dx. |
|
|
|
|||
|
|
|
|
|
|
называют стандартным или среднеквадратическим
отклонением.
2 (t) D( X (t)) m2 (t) m12 (t) X 2 (t) X 2 (t)
5
Дисперсия характеризует разброс случайной величины относительно её среднего значения.
Задача 1.1
Случайный процесс характеризуется ФПВ (функцией плотности вероятности) вида:
W(x) = Ax при 0 < x < B.
Найти взаимосвязь между числами А и В, рассчитать первый и второй начальные моменты распределения, определить дисперсию процесса.
Решение
Запишем условия нормировки ФПВ:
W
В Ax
0
(x)dx
dx
1 |
; |
|
|
|
|
|
|
|
|
|
|
Ax |
2 |
B |
|
AB |
2 |
|
|
||||
|
|
|
|
||
2 |
|
|
2 |
|
|
|
0 |
|
|
||
|
|
|
|
|
|
1
.
Это соотношение связывает А и В.
Начальные моменты распределения случайного процесса равны:
mn |
xnW (x)dx xn Axdx ABn 2 |
||
|
B |
B |
|
|
0 |
0 |
n 2 |
|
|
||
Отсюда получаем, что момент первого порядка, т.е. среднее значение равняется m1 = 2B/3, момент второго порядка m2 = B2/2.
Дисперсия случайного процесса равна:
σ2 = m2 - m12 = B2/2 - 4B2/9 = B2/18.
Задача 1.2
Случайный процесс характеризуется ФПВ вида:
W(x) = h при 0 < x < 2.
Определить h, рассчитать первый и второй начальные моменты распределения, определить дисперсию процесса.
ОТВЕТ: h = 0,5; m1 = 1; m2 = 4/3; σ2 = 1/3.
6
Задача 1.3
Случайный процесс характеризуется ФПВ вида:
W(x) = (nx + m + 1) при 0 < x < B.
Определить В, рассчитать первый и второй начальные моменты распределения, определить дисперсию процесса, рассчитать ФРВ процесса. (m – предпоследняя цифра, n – последняя цифра номера студенческого билета).
Задача 1.4
Непрерывная случайная величина задана функцией распределения:
0, |
|
x 0 |
||
|
2 |
|
|
|
F (x) x |
, |
0 x 1 |
||
|
||||
|
|
|
x 1. |
|
1, |
|
|||
|
|
|
|
|
Требуется определить:
а) Плотность вероятности - W(x);
б) Среднее значение и дисперсию;
в) Вероятность попадания данной случайной величины в интервал
[0,25;0,75].
Решение
Находим функцию плотности вероятности:
|
|
0, |
x 0 |
|
|
dF (x) |
|
|
|
W (x) |
|
2x, 0 x 1 |
||
dx |
||||
|
|
x 1. |
||
|
|
0, |
||
Строим графики найденных функций F(x) и W(x).
7
Рис.1.1. Графики функции распределения вероятности и функции плотности вероятности случайной величины x.
Для найденной функции W(x) проверяем условие нормировки:
|
1 |
x |
2 |
1 |
|
|
|||||
W (x)dx 2xdx 2 |
|
1 |
|||
2 |
|||||
|
0 |
0 |
|||
|
|
||||
Находим среднее значение (математическое ожидание):
|
|
|
|
1 |
|
x |
3 |
1 |
|
2 |
|
|
|
|
|
|
|
|
|||||
1 |
|
|
xW (x)dx |
|
x 2xdx 2 |
|
|
|
; |
||
|
|
|
|
||||||||
m |
|
|
3 |
|
3 |
|
|||||
|
|
|
|
0 |
|
0 |
|
|
|||
|
|
|
|
|
|
|
|
|
|||
Далее находим момент второго порядка:
2 |
|
|
|
1 |
|
|
|
|
|
2 |
|
|
2 |
2xdx 2 |
|
m |
|
x W (x)dx |
|
x |
|
||
|
|
|
|
0 |
|
|
|
По найденным значениям m1
|
2 |
2 |
|
1 |
|
2 |
2 |
|
1 |
|
|
|
|
m2 m1 |
|
|
|
|
|
|
|
|
; |
|
2 |
3 |
18 |
||||||||
|
|
|
|
|
|
|
|
||||
x |
4 |
1 |
|
1 |
|
|
|
|
|||
|
|
|
; |
||
4 |
|
2 |
|||
|
|
||||
0 |
|
|
|||
|
|
|
|
|
|
и m2 находим дисперсию:
Определяем вероятность попадания случайной величины в заданный интервал:
|
1 |
|
3 |
|
3 |
|
1 |
|
3 2 |
|
1 2 |
|
1 |
|
|||||
p |
|
x |
|
|
F |
|
|
F |
|
|
|
|
|
|
|
|
|
|
. |
4 |
|
|
|
|
|
2 |
|||||||||||||
|
|
4 |
|
4 |
|
4 |
|
4 |
|
4 |
|
|
|||||||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
8 |
|
|
|
|
Задача 1.5
Непрерывная случайная величина задана функцией распределения:
|
|
|
|
|
|
|
0, |
x 1 |
|
||||
|
|
|
3 |
|
|
1 |
3 |
x |
|
-1 x |
|||
F (x) |
4 |
4 |
, |
3 |
||
|
|
|
|
|||
|
|
x |
1 |
. |
|
|
1, |
|
|
||||
|
|
|
|
3 |
|
|
|
|
|
|
|
|
|
Требуется определить:
а) Плотность вероятности - W(x);
б) Среднее значение и дисперсию;
в) Вероятность попадания данной случайной величины в интервал
Задача 1.6
Непрерывная случайная величина задана функцией распределения:
|
0, |
1 |
|
|
|
3 |
|
||
|
||||
|
|
|
.
0, |
x 2 |
|
|
|
||||
|
1 |
|
|
|
|
|
|
|
|
x, |
|
2 x 4 |
|
|
|
||
F (x) |
4 |
|
|
|
|
|||
|
|
x 4. |
|
|
|
|||
1, |
|
|
|
|
||||
|
|
|
|
|
|
|
|
|
Требуется определить: |
|
|
|
|||||
а) Плотность вероятности - W(x); |
|
|
|
|||||
б) Среднее значение и дисперсию; |
|
|
|
|||||
в) Вероятность попадания данной случайной величины в интервал |
|
3, 4 |
|
|||||
|
|
|
|
|
|
|
|
|
Задача 1.7 |
|
|
|
|
|
|||
Непрерывная случайная величина задана функцией распределения: |
|
|
|
|||||
0, |
|
x 1 |
|
|
|
|||
|
1 |
|
|
|
|
|
|
|
|
|
x |
2 |
x , 1 x 2 |
|
|
|
|
F (x) |
|
|
|
|
|
|
||
2 |
|
|
|
|
|
|||
|
|
|
x 2. |
|
|
|
||
1, |
|
|
|
|
||||
|
|
|
|
|
|
|
|
|
Требуется определить:
.
9
а) Плотность вероятности - W(x); б) Среднее значение и дисперсию;
в) Вероятность попадания данной случайной величины в интервал
3 |
, 2 |
|
|
|
|
||
|
|||
2 |
|
|
.
Задача 1.8
Непрерывная случайная величина задана функцией распределения:
|
|
|
|
|
|
|
0, |
x 0 |
|
|
|
|
|
|
|
|
1 |
F (x) |
|
2x, |
0 x |
||
3x2 |
|
||||
|
|
|
|
|
3 |
|
|
|
|
|
|
|
|
x |
1 |
. |
|
|
1, |
|
|
||
|
|
|
3 |
|
|
|
|
|
|
|
|
Требуется определить:
а) Плотность вероятности - W(x); б) Среднее значение и дисперсию;
в) Вероятность попадания данной случайной величины в интервал
ПРАКТИЧЕСКОЕ ЗАНЯТИЕ №2
1 |
, |
1 |
|
|
|
3 |
|
||
|
||||
6 |
|
|
.
Функция корреляции и энергетический спектр случайного процесса.
Теорема Винера-Хинчина.
Задача 2.1
Реализации случайного процесса имеют вид: u(t) = Umcos( 0t + ),
где - случайная фаза, равномерно распределенная на интервале от - до .
Определить функцию корреляции и энергетический спектр данного процесса.
10