12.5. Пропускная способность дискретного канала передачи данных без помех

3. Как осуществить процедуру кодирования

Первая теорема Шеннона устанавливает лишь, что оптимальное кодирование существует, но не указывает как его получить!

Три главных вопроса:

Первая теорема Шеннона дает ответ на этот вопрос.

Пусть источник сообщений имеет энтропию H (двоичная единица / буква).

Канал обладает пропускной способностью C (двоичная единица в секунду).

C/H – средняя скорость передачи, с большей скоростью передавать нельзя.

Резюме. Можно закодировать сообщение на выходе источника таким образом, чтобы передавать буквы по каналу со средней скоростью (C/H)- ( – бесконечно малая величина) букв в секунду. Передавать со скоростью большей C/H невозможно! Передача C/H букв в секунду возможна лишь при наилучшем, оптимальном кодировании.

Вопросы

1.Характеристика основных аспектов информации.

2.Что такое сообщение?

3.Понятие сигнала. Спектральная форма представления информационных сигналов.

4.4 основных типа сигналов.

5.Основные части системы связи.

6.Основные характеристики и аппаратура физического канала передачи данных.

7.Элементарная операция выбора. Мера количества информации.

8.Понятие энтропии.

9.Формулы Хартли и Шеннона.

10.Определение пропускной способности дискретного канала передачи данных без помех.