Лекции / ОТИ, лекция 1

ОСНОВЫ ТЕОРИИ ИНФОРМАЦИИ (ОТИ)

Лекция 1

Задачи ОТИ. Оcновнные термины и определения. Блок – схема линии связи.

Теория информации – научная дисциплина, изучающая способы передачи информации наиболее экономичным и надёжным образом. Важнейшая задача теории информации- разработка принципов построения оптимальных систем передачи информации.

Информация наряду с материей и энергией является первичным понятием нашего мира и поэтому в строгом смысле не может быть определена.

Информация - Это совокупность сведений, сообщений, новостей о каком-нибудь событии, процессе, состоянии и т.д., являющихся объектом передачи, хранения и отображения. Например, в ТВ информацией является распределение яркости и цветности передаваемых объектов(изображений).

Информация, заключённая в характере (порядке и взаимосвязи) следования cимволов в сообщении, называется синтаксической.

Алфавит- выбранное множество всех символов (букв и цифр), из которых строятся сообщения. Число различных символов - объём алфавита.

Сообщением называется отображение существенных для получателя черт ситуации, существующей в месте передачи. Сообщение - совокупногсть сведений в виде последовательности отдельных символов, или непрерывная функция времени, подлежащие передаче. Например, передача текста; сообщение – набор букв, расположенных в определённом порядке. В чёрно-белом ТВ исходным сообщением является распределение яркости (интенсивности света в точке (х,у)) передаваемых объектов (изображений).

Сигналом называется изменяющаяся физическая величина (состояние некото -

рой физической системы). Обычно имеют дело с электрическими cигналами -

изменяющимся электромагниным полем, параметры которого изменяются по

закону, отображающему сообщение.

Основная задача связи состоит в точном или приближенном воспроизведении в

месте приёма сообщения, выбранного для передачи в другом месте.

Cемантические аспекты связи не имеют отношения к технической стороне дела

(вопроса). Существенно лишь то, что посылаемое сообщение является сооб –

щением, выбранным из некоторого'множества возможных сообщений.

Система связи должна быть спроектирована так, чтобы ее можно было

использовать для передачи любого возможного сообщения, а не только того,

которое будет в действительности выбрано, так как результат этого выбора

еще неизвестен. Под системой связи мы будем понимать систему типа,

указанного на рис. . Она состоит по существу из 5 частей:

Канал связи

Рассмотрим источник информации (источник сообщений).

Как следует математически описывать источник сообщений и какое количество

информации, измеряемое числом битов в секунду, создаётся данным источником?

Главная сторона этого вопроса заключается в использовании статистических

сведений об источнике для уменьшения пропускной способности канала путем

применения надлежащего метода кодирования информации.

Источник информации- Множество сообщений данного типа вместе с вероятностями выбора каждого сообщения называется источником сообщений (устройство, явление, порождающие сообщения). Например, дискретный источник с независимыми элементами обладает конечным алфавитом из М символов х1,х2,хi ,…,хM, каждый из которых характеризуется вероятностью появления p(х1), p(х2), p(хi),…, p(хМ). В большинстве реальных случаев появление в последовательности элемента хi зависит от того, какой элемент хj был предшествующим; (p(хi/хj) - источник с памятью.

Кодирование - процесс однозначного сопоставления одних символов, или сообщений другим. Процесс, обратный выбранному кодированию, называется декодированием. Цель процессов кодирования/декодирования заключается в обеспечении наиболее эффективной передачи сообщений от источника к получателю.

3. Канал — это физическая среда, используемая для передачи сигнала от

передатчика к приемнику. Каналом может быть пара проводов, коаксиальный

кабель, полоса радиочастот, луч света и т. д.')

4. Приемник обычно выполняет операцию,.обратную по отношению к операции,

производимой передатчиком, восстанавливая сообщение по сигналам (преобра -

зует принятый сигнал, воспроизводя сообщение). Приёмник точно знает,

какие сообщения могут быть переданы, но не знает, какое сообщение выбирается

на передающей стороне в данный момент.

5.Получатель (aдресат) — это лицо (или аппарат), для которого предназначено

сообщение. Он характеризуется критерием верности. Верность – мера

соответствия воспроизведённого сообщения исходному. Критерий верности

определяется свойствами получателя сообщений и назначением сообщения.

Например, при передаче речи критерием верности может служить разборчивость,

в телемеханике – cреднеквадратическая погрешность телеизмерения.

_____________________________________________________________________

_') В процессе передачи сигнал может быть искажен шумом. Это схематически

показано на рис. 1 с помощью источника шума, действующего на передаваемый

сигнал, в результате чего получается принимаемый сигнал. Источник помех:

аддитивный, c нормальной (гауссовской) плотностью распределения, No –

спектральная плотность мощности шума, равномерная в рабочей полосе частот.

³