Энтропия

Энтропия измеряется в тех же единицах, что и количество информации.

энтропия всегда не отрицательна,

Энтропия достигает максимума, если все события равновероятны.

Н=0, если вероятность одного из i-ых событий равна 1.

Т. о,, энтропия является мерой неопределенности в поведении источника сообщений и характеризует способность этого источника выдавать информацию.

При увеличении числа возможных состояний системы энтропия увеличивается.

В общем случае, можно считать, что количество информации характеризует уменьшение энтропии в результате процесса познания.

Если неопределенность снимается полностью, то количество энтропии равно количеству информации, выданной источником.

В случае неполного разрешения ситуации, количество информации определяется разностью между начальным и конечным значением энтропии:

Вопросы для самопроверки

1. Дать естественно - научное определение информации.

2. Перечислить основные свойства информации.

3. Дать понятие «знак» и «знаковая система».

4. Какова роль сигналов в передаче информации?

5. Какие способы организации сообщений вы знаете?

6. Дать определение «кодирования» и «декодирования».

7. На чем основаны способы измерения количества информации в ИВС?

8. В каких случаях применима формула Хартли?

9. Как рассматривается информация при статистическом (вероятностном) подходе?

10. В чем состоит смысл «энтропии» в теории информации?

Лекция 2.

Цель лекции – изучение видов и основных характеристик информационных сетей.

Задачи лекции:

- изучить структуру и характеристики информационных сетей,

- изучить основные виды информационных сетей.

Вопросы, рассматриваемые на лекции:

1. Назначение, состав, структура, характеристики информационных сетей.

2. Классификация информационных сетей

Назначение информационных сетей:

1) обеспечение неограниченного доступа к источнику информации пользователей независимо от их территориального местонахождения;

2) возможность оперативного перемещения больших объемов информации, что позволяет своевременно получать заинтересованным лицам необходимые сведения для принятия тех или иных стратегических решений.

Сети передачи данных (вычислительные или компьютерные сети) являются результатом эволюции двух важнейших научных отраслей современной цивилизации, а именно компьютерных и телекоммуникационных технологий, т.е. могут рассматриваться как:

1) Распределенные вычислительные системы, в которых группа ПК согласованно выполняет набор взаимосвязанных задач, обмениваясь данными в автоматическом режиме.

2) как средство передачи информации на большие расстояния для чего в них применяются методы кодирования и мультиплексирования данных.

Компьютерная сеть – это набор компьютеров разных типов (небольшие ПК, рабочие станции, мини-ПК, ПК или суперкомпьютеры), передачу сообщений между любой парой которых обеспечивает коммуникационная система (кабели, повторители, коммутаторы, маршрутизаторы), позволяющий пользователю работая со своим компьютером в автономном режиме, иметь возможность доступа к информационным и аппаратным ресурсам других компьютеров сети.