1 Вопрос

Информация  — значимые сведения о чём-либо, когда форма их представления также является информацией, то есть имеет форматирующую функцию в соответствии с собственной природой.

В современной науке рассматриваются два вида информации:

Объективная (первичная) информация — свойство материальных объектов и явлений (процессов) порождать многообразие состояний, которые посредством взаимодействий передаются другим объектам и запечатлеваются в их структуре.

Субъективная (семантическая,смысловая, вторичная) информация – смысловое содержание объективной информации об объектах и процессах материального мира, сформированное сознанием человека с помощью смысловых образов (слов, образов и ощущений) и зафиксированное на каком-либо материальном носителе.

В 1928 г Хартли попытался насчитать кол-во инфор-ии передаваемое сообщением. Он дал сообщению такие критерии, как: дискретно; конечно; символы равновероятны и равномерны, независимы.

Кол-во инфор-ии абозначается через I и определяется по формуле:

– эта формула Хартли для подсчота кол-ва инфор-ии в сообщении.

– формула Шенона, где - появление того или иного символа

Формула Хартли это частный случай формулы Шенона

Следует делать различие между понятиями “количество информации” и “объем информации”. Количество информации вычисляется относительно первичного алфавита, а объем информации  относительно вторичного алфавита. Количество информации зависти от вероятностных характеристик первичного алфавита, а объем  зависит от длины сообщения во вторичном алфавите и равен     , где l длина сообщений, а k  количество передаваемых букв алфавита.

2 Вопрос

 Кодированием информации называется операция преобразования сообщений в определенную последовательность сигналов, а обратная операция, восстанавливающая сообщение по принятым сигналам называется декодированием.

3 Вопрос

Сжатие информации возможно при наличии избыточности в сообщении. Различают следующие виды избыточности.

1) Естественная: -семантическая

- статистическая

2) Искусственная

Естественная избыточность связана с  первичным алфавитом, а искусственная с вторичным алфавитом.  Мысль, выраженная более кратко без потери информации, обуславливает семантическую избыточность. Статистическая избыточность обуславливается не равновероятностным распределением качественных признаков первичного алфавита и их взаимозависимостью. 

Классификация сжатия по виду информации:

1 Побуквенное сжатее

2 Сжатие слов и словосочетаний

3 Сжатие и свертывание текста

4 Сжатие массивов чисел

5 Сжатие графической информации

LZW-сжатие заменяет строки символов некоторыми кодами. Это делается без какого-либо анализа входного текста. Вместо этого при добавлении каждой новой строки символов просматривается таблица строк. Сжатие происходит, когда код заменяет строку символов. Коды, генерируемые LZW-алгоритмом, могут быть любой длины, но они должны содержать больше бит, чем единичный символ. Первые 256 кодов по умолчанию соответствуют стандартному набору символов. Остальные коды соответствуют обрабатываемым алгоритмом строкам.