Добавил:
Опубликованный материал нарушает ваши авторские права? Сообщите нам.
Вуз: Предмет: Файл:

Специальные главы информатики и вычислительной техники. Учебник

.pdf
Скачиваний:
0
Добавлен:
15.08.2026
Размер:
1 Мб
Скачать

11

1.  ОСНОВНЫЕ ПОНЯТИЯ ТЕОРИИ ИНФОРМАЦИИ

 

 

но используемой оценки. Соответствующей характеристикой должна описываться и информационная система. Например, динамические характеристики будут рассматриваться как характеристики по отношению к амплитудно-временной оценке. По отношению к энтропийной оценке характеристиками являются пропускные способности системы.

Возникновение новой информации может быть обусловлено появлением у процесса новых свойств, которые ранее не были замечены, и введением новых оценок, например за счет появления новых гармоник в исследуемом процессе.

Приведенные свойства показывают, что информация существует лишь для получателей с некоторой оценки. Информационное рассмотрение физического процесса не исключает его одновременного рассмотрения и с других позиций, например с энергетической. В любом случае существуют простые оценки процесса, являющиеся физическими или математическими оценками. Комбинируя их, получаем алгоритмы, которые и назовем оценками.

1.3.  Дискретная и непрерывная информация

Информационные процессы могут иметь дискретную и непрерывную физическую и математическую модели. Разговор человека – это одновременно как дискретная, так и непрерывная информация. Дискретность и непрерывность – некоторая идеализация и математически удобное представление информации.

Для передачи информации, заданной в непрерывной форме, необходимо представить ее в дискретной форме. Для этого проводят дискретизацию по аргументу и по амплитуде. Дискретизация по аргументу сводится к представлению непрерывной функции в виде импульсов во времени, ширину которых Dt можно варьировать (рис.  1.1, а), т.е. к формированию разрывной функции.

Часто применяется дискретизация при Dt → 0. Дискретизация по амплитуде, или квантование, означает создание ступенчатости функции по оси ординат.

СПЕЦИАЛЬНЫЕ ГЛАВЫ ИНФОРМАТИКИ И ВЫЧИСЛИТЕЛЬНОЙ ТЕХНИКИ

12

 

 

Рис.  1.1. Преобразование непрерывной информации в дискретную при интервале дискретизации по аргументу Dt и шаге квантования Df

Рассмотрим представление непрерывной функции f(t) в дискретной форме. Для этого по оси t выбираем интервал дискретизации Dt и ширину импульса Dt (рис.  1.1, б), затем по выбранной величине кванта Df проводим квантование функции f(t) (рис.  1.1, г). Совмещая дискретизацию по аргументу и по амплитуде, получим дискретную функцию, приведенную на рис.  1.1, д. Если ширина импульса Dt → 0 (0 < Dt < Dt), имеем процесс дискретизации, показанный на рис.  1.1, е.

13

1.  ОСНОВНЫЕ ПОНЯТИЯ ТЕОРИИ ИНФОРМАЦИИ

 

 

Дискретизация функции по оси времени проводится на основании теоремы Котельникова. В этом случае Dt = 1/2wс, где wс – наивысшая частота в спектре рассматриваемой функции.

Интервал квантования по уровню выбирается из условия

Df =2Emax,

гдеEmax – величина максимально возможной ошибки, возникающей при передаче сигнала f(t).

Для преобразования дискретной информации в непрерывную используются различные методы аппроксимации.

1.4.  Теорема Котельникова

Теорема Котельникова позволяет установить взаимосвязь между непрерывным и дискретным представлением функций. Она находит широкое применение при представлении непрерывной функции ее дискретными значениями, а также при определении необходимого количества точек при экспериментальных исследованиях, в задачах сглаживания информации и других задачах. Существо теоремы Котельникова состоит в том, что непрерывная функция f(x), имеющая конечный спектр, представляется в виде ряда, в котором используются функции отсчета в виде sinx/x. График этой функции отсчета приведен на рис.  1.2.

Рис.  1.2. Функция отсчетов

СПЕЦИАЛЬНЫЕ ГЛАВЫ ИНФОРМАТИКИ И ВЫЧИСЛИТЕЛЬНОЙ ТЕХНИКИ

14

 

 

Рассмотрим основные свойства функции.

1.  Значение функции отсчета в нулевой точке, как известно из теории пределов, равно единице, т.е.

lim sin(x) =1.

x→0 x

2.  Значения функции в точках x = pn, где n = ±1, ±2, …, равны нулю в силу того, что в этих точках sinx = sinpn = 0.

3.  Амплитуда функции отсчета быстрозатухающая в силу быстрого возрастания знаменателя и ограниченного изменения

числителя.

 

 

 

 

sin

(wсt)

 

 

4.  Для функции отсчета вида

преобразование Фурье

 

pt

 

 

 

 

 

 

 

 

 

 

sin(wсt)

sin(wсt)

 

Jwt

 

 

(w)

F

 

 

=

 

 

e

 

dt = Pwc

pt

pt

 

 

 

 

 

−∞

 

 

 

 

 

 

 

представляет собой прямоугольный импульс, высота которого равна единице на интервале (–wc,wc).

5.  Площадь, ограничиваемая функцией отсчета, равна единице:

sin(wct)

(0)=1;

−∞

 

 

dt = Pwc

pt

 

 

 

 

 

sin(wсt)

eJwtdt = Pwc

(0)=1.

pt

−∞

 

 

 

 

Доказательство теоремы Котельникова приведено в работе [4]. Математическим выражением этой теоремы является соотношение

sinwс (t nDt)

 

f (t)= f (nDt)

,

wс (t nDt)

h=−∞

 

где f(t) – произвольная непрерывная функция;

Dt =

p

=

1

– интервал дискретизации.

w

2w

 

 

 

 

с

 

с

 

15

1.  ОСНОВНЫЕ ПОНЯТИЯ ТЕОРИИ ИНФОРМАЦИИ

 

 

Теорема Котельникова формулируется следующим образом: если функция не содержит гармоник, превышающих wc, Гц, то она может быть представлена ее значениями в точках отсчета, находящихся друг от друга на расстоянии

Dt = 21wc .

Теорема Котельникова интерпретируется как сумма функций отсчета, построенных в точках отсчета с интервалом Dt = 21wс .

Амплитуда этих функций равна значениям функции f(t) в точках отсчета, т.е. f(0), f(Dt), f(2Dt), …, f(nDt). Теорема легко обобщается на несимметричный относительно wc = 0 спектр.

Временной интервал при этом определяется как Dt = w1 1−w2 .

В инженерной практике часто используются функции, ограниченные во времени. Спектр для таких функций оказывается неограниченным. Таким образом, применение этой теоремы для функций, ограниченных во времени, сопряжено с ошибкой аппроксимации.

Чтобы уменьшить ошибку, интервал Dt берут малым, а это означает, что должна возрастать wc. Данные ограничения, свойственные теореме Котельникова, являются примером проявления соотношения неопределенности, имеющего место в информационных процессах.

1.5.  Понятие о кодировании

Понятие кодирования обычно связано с понятием дискретной информации, хотя оно может быть развито для непрерывной информации. В его основе лежит проблема «языка» как одна из основных проблем теории информации, поскольку наличие «языка» обязательно для передачи информации от объекта к объекту.

Дискретные языки назовем кодом. Бывает и непрерывный язык, например, модуляцию рассматривают как непрерывный язык. Под кодированием будем понимать отображение одного

СПЕЦИАЛЬНЫЕ ГЛАВЫ ИНФОРМАТИКИ И ВЫЧИСЛИТЕЛЬНОЙ ТЕХНИКИ

16

 

 

дискретного явления на другое дискретное. Действительно, дискретная информация всегда представлена в виде набора определенных символов, например цифр, которые ее характеризуют. Конечное множество различных символов называют кодовым алфавитом, а отдельный символ – элементом или буквой. С позиций «языка» различные его элементы являются элементами алфавита или кода.

Часто используется алфавит, состоящий из небольшого числа различных букв (например, в двоичном коде имеются две различные буквы (0,1)). Для того чтобы, используя двоичный код, выразить различные буквы русского алфавита, создают кодовые слова, которые имеют одинаковое или различное число букв. В первом случае код называется равномерным. Его примером является двоичный пятизначный код Бодо. Примером неравномерного кода служит код Морзе, в котором алфавит состоит из двух букв: точки и тире, а кодовые слова имеют различную длину. Таким образом, в понятие кода могут включаться определенные комбинации из букв алфавита в виде кодовых слов.

Число букв алфавита b называется основанием кода. Каждой букве алфавита сопоставляется элементарный сигнал. Например, в двоичном коде «буквам алфавита» 0 и 1 соответствует пауза и посылка тока определенной длительности, т.е. ступенчатое представление кода. Число букв в кодовом слове называется его длиной n, значностью или разрядностью. Например, код Бодо, имеющий пять букв в кодовом слове, является двоичным пятизначным кодом. Максимальное число различных сочетаний букв в двоичном коде Бодо равно N = bn = 25 = 32, а в двоичном десятизначном коде N = bn = 210 = 1024.

Рассмотренные примеры показывают, что простейшее кодирование есть отображение элементов одного конечного множества с помощью элементов другого конечного множества. От выбранного кода зависит количество преобразуемой и передаваемой информации, ее достоверность.

Информация, представленная в непрерывной форме, также всегда закодирована. Например, функция C(t), описывающая изменение концентрации метана в исходящей вентиляционной струе во времени, обычно имеет линейно-амплитудное кодирование в реальном времени. Эту функцию можно преоб-

17

1.  ОСНОВНЫЕ ПОНЯТИЯ ТЕОРИИ ИНФОРМАЦИИ

 

 

разовать, например, преобразовать аргумент путем изменения масштаба или введением неравномерного масштаба, т.е. перекодированием непрерывной информации.

В соответствии с принятыми физическими представлениями об информации можно определиться с понятием «сигнал», под которым будем понимать всякий пространственно-времен- ной информационный процесс с любым кодом. Если к сигналу применяются какие-либо преобразования, то будем их понимать как преобразования амплитудно-временных свойств процесса вне зависимости от букв кода.

Информация, содержащаяся в исследуемом процессе, часто представлена в амплитудно-временном коде. В случае дискретной информации говорят, что информация имеет амплитудноимпульсный код, в случае непрерывного сигнала – непрерывный амплитудно-временной код.

При использовании амплитудно-временного кода, как и других кодов, для исследуемой информации применимы разные оценки. Например, оценивается максимальная величина амплитуды или определяется величина отклонения данного процесса от какого-то другого (при сравнении входного и выходного сигналов). В других случаях нас интересует величина квадрата амплитуды, например при определении мощности сигнала, или оценивается скорость изменения амплитуды и т.д. В частности, при рассмотрении основных задач детерминированного сигнала для информационной системы исследуются амплитудно-вре- менные зависимости между сигналами и характеристики системы, определяющие данные зависимости. При этом полагается, что возможно применение разных оценок по отношению к ам- плитудно-временным соотношениям.

Сообщение, непрерывное во времени и по состояниям, характеризуется тем, что не имеет дискретных элементов. Подход к его анализу следующий: разбить ось времени на отрезки Dt и провести отсчеты в соответствующие моменты времени. Тогда непрерывная функция заменяется совокупностью дискретных отсчетов. Какой должна быть величина Dt? При малых значениях Dt число отсчетов велико, но точность воспроизведения непрерывного сообщения высока, для больших Dt – наоборот. Теорема Котельникова определяет величину Dt, необходимую

СПЕЦИАЛЬНЫЕ ГЛАВЫ ИНФОРМАТИКИ И ВЫЧИСЛИТЕЛЬНОЙ ТЕХНИКИ

18

 

 

для восстановления непрерывного сигнала без искажений. Она увязывает величину интервала Dt с параметром спектра непрерывного сигнала или процесса. Функция f(t) на интервале времени может быть представлена с помощью n отсчетов. Вид функций f(t) и f(jw) показан на рис.  1.3.

f(jω)

а

0ωc ω

 

 

f(t)

 

 

 

f(3/2ωc)

 

 

 

 

 

 

 

 

 

 

 

 

 

f(2/2ωc)

 

 

 

f(4/2ωc)

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

f(5/2ωc)

 

б

f(1/2ωc)

 

 

 

 

 

 

 

 

 

 

 

 

 

 

1/2ωc

 

 

 

 

 

f(6/2ωc)

 

 

 

 

 

 

 

 

 

 

 

 

 

 

f(–1/2ωc)

 

 

 

 

 

 

 

 

 

 

 

 

 

 

t

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

–1/2ωc

0 1/2ωc 2/2ωc 3/2ωc 4/2ωc 5/2ωc

6/2ωc

 

Рис.  1.3. Иллюстрация теоремы Котельникова через интервал Dt (а) и частоту спектра функции f(jw) (б)

Для передачи по каналу связи непрерывной функции f(t) с ограниченным спектром wc надо выполнить следующие операции:

–произвести отчеты мгновенных значений передаваемого сообщения в моменты времени, отстоящие друг от друга на время

Dt =

1

w =t

 

 

 

1

 

 

,

n = 1, 2, 3, 4, 5, …, т.е. найти величины

f

 

,

 

 

 

2 c

n

 

 

 

2wc

 

 

2

 

 

 

3

 

 

 

4

 

 

 

5

 

 

f

 

 

,

f

 

 

,

f

 

 

,

f

 

 

и т.д.;

 

 

 

 

 

2wc

 

 

2wc

 

 

2wc

 

 

2wc

 

–передать по каналу связи эти отсчетные величины любым методом;

–восстановить переданные отчеты и сформировать импульсы, амплитуды которых были бы равны переданным отсчетам, а длительности импульсов были бы достаточно малы в сравне-

нии с интервалами отсчетов, т.е. tи < Dt = 21wc ;

19

1.  ОСНОВНЫЕ ПОНЯТИЯ ТЕОРИИ ИНФОРМАЦИИ

 

 

–сформировать функции отсчетов, амплитуды которых были равны переданным отсчетам, т.е. сформировать f1(t), f2(t), f3(t), …. Это достигается за счет подачи импульсов с длительностью tи и амплитудами f(nDt) на вход фильтра с полосой пропускания wс и постоянным коэффициентом передачи;

–просуммировать функции f1(t), f2(t), f3(t), …, получим функцию времени, равную, но правильнее сказать пропорциональную переданной f(t).

Используя приведенные операции, можно достаточно точно восстановить функции, заданные на ограниченном промежутке времени t2 t1, t1 = 0. На рис.  1.4 показана графическая иллюстрация построения функций отсчетов f1(t) – f6(t), n = 6.

f(t)

 

 

f(4/2ωc)

f(5/2ωc)

 

 

f(3/2ωc)

 

 

 

 

 

 

 

f(2/2ωc)

 

 

 

f(6/2ωc)

t1 = 0

f(1/2ωc)

 

 

 

 

t

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

1/2ωc 2/2ωc 3/2ωc

4/2ωc 5/2ωc t2

 

 

f1(t)

 

f(1/2ωc)

 

 

n = 1 t

 

 

 

0

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

f2(t) f(2/2ωc)

 

 

n = 2

t

0

 

 

 

f3(t)

f(3/2ωc)

 

 

 

 

n = 3

t

0

 

 

 

f4(t)

f(4/2ωc)

 

 

 

 

 

 

 

n = 4

t

0

 

 

 

f5(t)

f(5/2ωc)

 

 

 

 

 

 

 

n = 5

t

0

 

 

 

f6(t)

f(6/2ωc)

 

 

 

n = 6

t

0

 

 

 

Рис.  1.4. Графическая иллюстрация формирования отсчетных значений функции f(t) в дискретные моменты времени 2nwc

СПЕЦИАЛЬНЫЕ ГЛАВЫ ИНФОРМАТИКИ И ВЫЧИСЛИТЕЛЬНОЙ ТЕХНИКИ

20

 

 

Часто функцию отсчетов

sinwc (t nDt)

обозначают как

 

wc (t nDt)

 

 

 

sincw (t nDt). Обозначим через

t=t

n

, т.е. сместим на-

 

c

 

 

 

 

2wc

 

 

 

 

 

 

 

чало координат в точку отсчета

n

 

, при этом функция отсче-

2w

 

 

 

 

 

 

 

 

 

c

 

 

 

 

тов примет вид sincwct. Графически эта функция приведена на рис.  1.5.

–1/2ωc

1

 

schcωct

1/2ωc

1/ωc

t

 

 

 

 

0

 

 

 

 

 

 

–1/ωc

 

1/ωc

 

 

 

 

 

 

 

 

 

 

 

 

Рис.  1.5. Графическая иллюстрация функции sincwct

Пусть n = 0, ±1, ±2, …. При n = 0 функция отсчета без сдвига, при n = 1 имеем сдвиг функции отсчета на величину отсчета, т.е. функция f(t) представляется в виде суммы функций отсчета, амплитуды который равны самой функции в точках отсчета (рис.  1.6).

 

f(t)

f(–2∆t) f(–∆t) f(t)

 

sincωct

f(∆t) f(2∆t)

 

 

 

 

 

 

 

 

 

 

f(a)

 

 

 

 

f(t)

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

f(3∆t)

f(–3∆t)

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

sincωc(t–3∆t)

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

0

 

 

t

 

 

 

 

 

 

 

 

h = 0

h = 1 h = 2

 

 

 

 

 

 

t

 

 

 

 

 

 

 

 

 

 

 

 

Рис.  1.6. Геометрическая интерпретация аппроксимации функции f(t) функциями отсчета, n = 0, ±1, ±2, …, Dt =2nwc

В точках отсчета имеем точные значения, так как функции отсчета равны нулю, следовательно, аппроксимация точная. Ошибка равна сумме амплитуды слева и справа от точек отсчета. Чем больше n, тем меньше ошибка аппроксимации на беско-

Соседние файлы в предмете [НЕСОРТИРОВАННОЕ]