Практическая работа 9

МИНОБРНАУКИ РОССИИ

Санкт-Петербургский государственный

электротехнический университет

«ЛЭТИ» им. В.И. Ульянова (Ленина)

Кафедра информационных систем

отчет

по практической работе №9

по дисциплине «Теория информации, данные, знания»

Тема: Расчет изменения энтропии Марковской системы.

Уравнение А. Н. Колмогорова.

Студент гр. 9371
Преподаватель

Санкт-Петербург

2020

Цель работы

Письменно ответить на вопросы.

1. Дайте определение Марковского случайного процесса.

2. Что понимается под предельными вероятностями марковского случайного процесса с непрерывным временем (непрерывная цепь Маркова).

3. Как вычислить предельные вероятности состояний с использованием системы уравнений Колмогорова.

Решить задачи:

2.2.1. Дан граф переходов системы из одного состояния в другое. Граф задан в виде таблицы соответственно варианту. В табл. 1 обозначено: «Исх.» - начало дуги графа, «Вх.» - конец дуги. Под весом дуги понимается интенсивность перехода системы из одного состояния в другое.

Требуется:

1) Построить по исходным данным граф состояний;

2) Рассчитать энтропию системы в исходном состоянии, приняв все состояния равновероятными;

3) Составить систему алгебраических уравнений для расчета предельных вероятностей состояний в установившемся режиме;

4) Решить систему уравнений (с помощью MatLab, Excel или др.);

2.2.2. Для предыдущего примера: определить энтропию системы в установившемся режиме и изменение энтропии.

Первоначально все состояния системы равновероятны.

Выполнение работы

Вопросы:

№ 1

Случайный процесс, протекающий в какой-либо физической системе S, называется Марковским (или процессом без последействия), если он обладает следующим свойством: для любого момента времени вероятность любого состояния системы в будущем (при ) зависит, только от ее состояния в настоящем (при ) и не зависит от того, когда и каким образом система S пришла в это состояние.

№ 2

Марковский случайный процесс с дискретными состояниями и непрерывным временем называется непрерывной цепью Маркова при условии, что переход системы из состояния в состояние происходит не в фиксированные, а в случайные моменты времени.

№ 3

Пусть система S имеет конечное число состояний . Случайный процесс, протекающий в этой системе, описывается вероятностями состояний где - вероятность того, что система S в момент t находится в состоянии . Для любого t

Вероятности состояний находят путем решения системы дифференциальных уравнений (уравнений Колмогорова), имеющих вид

где

Величина называется потоком вероятности перехода из состояния в , причем интенсивность потоков может зависеть от времени или быть постоянной.

Уравнения составляют по размеченному графу состояний системы, пользуясь следующим мнемоническим правилом:

1. производная вероятности каждого состояния равна сумме всех потоков вероятности, идущих из других состояний в данное состояние, минус сумма всех потоков вероятности, идущих из данного состояния в другие.

Чтобы решить систему дифференциальных уравнений, нужно задать начальное распределение вероятностей Для решения применяют численные методы.

Задачи:

№ 1

1. 

№ 2

Для предыдущего примера: определить энтропию системы в установившемся режиме и изменение энтропии. Первоначально все состояния системы равновероятны.

СПИСОК ИСПОЛЬЗОВАННЫХ ИСТОЧНИКОВ

1. Вентцель Е.С., Овчаров Л.А. Прикладные задачи теории вероятностей. М.: Радио и связь, 1983. — 416 с.

2. Вентцель Е. С. Исследование операций. М., «Советское радио», 1972, 552 с.

3. Бережная Е.В., Бережной В.И. Математические методы моделирования экономических систем. М.: Финансы и статистика, 2006. 432 с.