Понятие информации, информация и данные, формы адекватности информации. Меры информации. Теория информации.
Создателем общей теории информации и основоположником цифровой связи считается Клод Шеннон (Claude Shannon). Всемирную известность ему принес фундаментальный труд 1948 года — «Математическая теория связи» (A Mathematical Theory of Communication), в котором впервые обосновывается возможность применения двоичного кода для передачи информации.
С точки зрения самого Шеннона, информация может корректно рассматриваться только как раздел математической теории связи. Поэтому круг задач теории информации мы поясним с помощью представленной на рис. 1 структурной схемы типичной системы передачи или хранения информации.
Рис. 1. Типичная система передачи (хранения) информации
В этой схеме под источником понимается любое устройство или объект живой природы, порождающие сообщения, которые должны быть перемещены в пространстве или во времени. Это может быть клавиатура компьютера, человек, аналоговый выход видеокамеры и т. п. Поскольку, независимо от изначальной физической природы, все подлежащие передаче сообщения обычно преобразуется в форму электрических сигналов, именно такие сигналы мы и будем рассматривать как выход источника.
Цель кодера источника - представление информации в наиболее компактной форме. Это нужно для того, чтобы эффективно использовать ресурсы канала связи либо запоминающего устройства.
Далее следует кодер канала, задачей которого является обработка информации с целью защиты сообщений от помех при передаче по каналу связи либо возможных искажений при их хранении. Модулятор служит для преобразования сообщений, формируемых кодером канала, в сигналы, согласованные с физической природой канала связи или средой накопителя информации.
Остальные блоки, расположенные на приемной стороне, выполняют обратные операции и предоставляют получателю информацию в удобном для использования виде.
Итак, в теории информации можно выделить следующие разделы:
1. Кодирование дискретных источников. Иногда эту часть теории информации называют кодированием без потерь, кодированием для канала без шума, сжатием информации.
2. Кодирование информации для передачи по каналу с шумом. Речь идет о защите информации от помех в каналах связи.
3. Кодирование с заданным критерием качества. В некоторых системах связи искажения информации допустимы. Более того, информация аналоговых источников вообще не может быть представлена в цифровой форме без искажений. В данном разделе речь идет о методах кодирования, обеспечивающих наилучший компромисс между качеством (оцениваемым некоторой объективной мерой искажения) и затратами на передачу информации. Сегодня задачи такого типа стали особенно актуальны, поскольку они находят широкое применение для цифровой передачи речи, видео- и аудиоинформации.
4. Кодирование информации для систем со многими пользователями. Здесь обсуждается оптимальное взаимодействие абонентов, использующих какой-либо общий ресурс, например, канал связи Примеры систем с множественным доступом - системы мобильной связи, локальные сети ЭВМ.
5. Секретная связь, системы защиты информации от несанкционированного доступа. Здесь также можно указать широкий круг актуальных задач, лежащих на стыке теории информации, теории вычислительной сложности алгоритмов, исследования операций, теории чисел.