2 Лекция 2. Дискретный канал без помех

Цель лекции: ознакомление с дискретным каналом передачи информации без помех.

Содержание:

а) понятие информации;

б) дискретный канал передачи информации без помех;

в) пропускная способность канала;

г) теоремы для пропускной способности канала без помех;

д) математическая модель дискретного канала без помех;

2.1. Понятие информации

Термином “информация” с древнейших времен обозначали процесс разъяснения, изложения, истолкования. Позднее так называли и сами сведения и их передачу в любом виде.

Информация – не только сведения о свойствах объектов и процессов, но и обмен этими сведениями между людьми, человеком и автоматом, автоматом и автоматом, обмен сигналами в животном и растительном мире, передача признаков от клетки к клетке, от организма к организму. Под информацией нужно понимать не сами объекты и процессы, или их свойства, а представляющие характеристики предметов и процессов, их отражение или отображение в виде чисел, формул, описаний, чертежей, символов, образов и других абстрактных характеристик.

Под информацией понимают сведения о каком-либо явлении, событии, объекте. Информация, выраженная по определенной форме, представляет собой сообщение, иначе говоря, сообщение это то, что подлежит передаче, а сигнал является материальным носителем сообщения. В широком смысле информации – это новые сведения об окружающем нас мире, который мы получаем в результате взаимодействия с ним. Информация - одна из важнейших категорий естествознания.

Можно выделить 3 основных вида информации в обществе: личную, специальную и массовую. Личная информация касается тех или иных событий в личной жизни человека. К специальной информации относятся научно-техническая, деловая, производственная, экономическая и др. Массовая информация предназначена для большой группы людей и распространяется через средства массовой информации: газеты, журналы, радио, телевидение.

Информация в любой форме является объектом хранения, передачи и преобразования. В теории и технике связи в первую очередь интересуются свойствами информации при её передачи и под информацией понимают совокупность сведений о явлениях, событиях, фактах, заранее не известных получателю.

2.2 Дискретный канал передачи информации без помех

Отличительной особенностью рассмотренных каналов без помех является то, что при выполнении условия теоремы Шеннона количество принятой информации на выходе канала всегда равно количеству информации, переданной от источника сообщений. При этом, если на вход канала поступил сигнал u_i, то на выходе возникает сигнал _I, вполне однозначно определяющий переданный сигнал u_i. Количество информации, прошедшее по каналу без помех в случае передачи u_i и приема _I, равно количеству информации, содержащейся в сигнале u_i:

J(u_i , _i)=log 1/P(u_i) . (2.1)

Здесь величина вероятности P(u_i) характеризует ту неопределенность в отношении сигнала u_i которая существовала до его передачи. После приема _I в силу однозначного соответствия между u_i и _I неопределенность полностью устраняется.