ДС Радиооптика_1 / Литература ч.1 / История техники связи

Давид ХАФФМЕН

Давид Хаффмен родился в г. Алиенс штата Огайо 9 апреля 1925 г. В раннем детстве он не проявлял особых способностей. Мать очень любила своего сына и старалась делать все возможное, чтобы он получил хорошее образование. В 16 лет он окончил школу и сразу же поступил в университет штата Огайо. Через два года (в 1944 г.) он получил степень бакалавра в области электротехники и был призван в военно-мор- ской флот США, где служил офицером в радиолокационной команде на эсминце, участвуя в операциях по очистке Японского и Китайского морей от мин, установленных во время Второй мировой войны.

После окончания войны Д. Хаффмен демобилизовался и снова приступил к учебе в университете штата Огайо. В 1949 г. он защитил магистерскую

диссертацию. Степень доктора наук Д. Хаффмен получил в 1953 г. в Массачусетском технологическом институте (МТИ). В 1962 г. ему было присвоено звание профессора МТИ, где он проработал до 1967 г.

В 1967 г. Д. Хаффмен оставляет МТИ, переезжает в Калифорнию и работает в Калифорнийском университете в Санта-Крусе. Предложение перейти в этот университет привлекло его тем, что он был приглашен руководить вновь созданным научным отделом компьютерной техники, а также тем, что он был заядлым туристом и спортсменом, а университет располагался вблизи западных гор и океана. Даже в возрасте 65 лет он продолжал активно заниматься подводным плаванием и серфингом.

Д. Хаффмен играл ключевую роль в формировании академической программы обучения студентов и с 1970 по 1973 г. возглавлял в университете одну из кафедр. Он читал курсы по теории информации и цифровой обработке сигналов. После выхода на пенсию в 1994 г. продолжал работать в нем почетным профессором.

Профессор Д. Хаффмен был консультантом по проблемам теории переключающих систем, теории сигналов и методов и систем управления во многих правительственных агентствах и промышленных лабораториях, включая Президентский комитет по развитию науки, Научный совет военно-воздушных сил США, Институт оборонных исследований, Белл-лабораторию и др.

Самым крупным научным достижением профессора Д. Хаффмена, благодаря которому его имя получило широкую известность, стала разработанная им оптимальная процедура кодирования источников сообщений, позволяющая устранять их избыточность. Эта процедура дает возможность построения оптимальных неравномерных кодов, в которых наиболее вероятным сообщениям ставятся в соответствие более короткие кодовые комбинации. Впервые подобный принцип кодирования источников был реализован в коде Морзе. Субоптимальный алгоритм кодирования источников сообщений был предложен в 1948 г. знаменитыми американскими учеными К. Шенноном и Р. Фано.

Во время обучения Д. Хаффмена в аспирантуре МТИ его руководитель профессор

Ð.Фано в 1951 г. предложил своим студентам вместо сдачи заключительного экзамена по курсу теории информации решить задачу — разработать процедуру оптимального кодирования источников сообщений. Эта проблема показалась Д. Хаффмену очень простой, и он взялся за ее решение. Однако проходили месяцы напряженной работы, а все методы, которые приходили ему в голову, при детальном рассмотрении оказывались неэффективными. Он уже отчаялся найти решение данной проблемы и решил оставить ее, чтобы готовиться к заключительному экзамену. Он собрал стопку листов, на которых записывал свои мысли, и уже поднес их к мусорной корзине, как вдруг к нему пришло озарение. Позднее он вспоминал: «Это был самый замечательный момент во всей моей жизни. В одно мгновение все стало абсолютно ясным»». В это время Д. Хаффмену было 25 лет. Позже он говорил: «Я ни за что не взялся бы за решение данной проблемы, если бы знал заранее, что такие крупные ученые, как основатель теории информации К. Шеннон и мой учитель профессор

Ð.Фано, безуспешно пытались ее решить».»

Процедура Хаффмена для кодирования источников сообщений имеет широкую область применений и используется в системах компрессии сигналов и передачи данных. Это и факсимильные аппараты, и модемы, и компьютерные сети, и системы телевидения высокой четкости, и многие другие устройства. Хотя объемы производства устройств для компрессии сигналов, при разработке которых используются идеи Д. Хаффмена, оцениваются в денежном выражении в сотни миллионов долларов, единственным материальным вознаграждением самого Д. Хаффмена за свое открытие стало освобождение его от необходимости сдавать заключительный экзамен по теории информации. Однако внезапное прозрение принесло Д. Хаффмену другую, гораздо более существенную награду — мировую славу. Его имя неразрывно связано с открытой им процедурой кодирования. В любой книге по теории информации, системам цифровой связи и компьютерной технике одна из глав посвящена кодированию источников сообщений по Хаффмену. За это открытие он получил несколько наград от Института инженеров по электротехнике и электронике (IEEE). Известный американский ученый Дональд Кнут — автор широко известной многотомной книги «Искусство программирования»»

писал: «Коды Хаффмена — одна из фундаментальных идей, которая постоянно применяется инженерами при разработке компьютерной техники и систем связи».»

Вклад Давида Хаффмена в науку не ограничивается только этими кодами. Его докторская диссертация была посвящена синтезу последовательных переключающихся цепей, которые являются важным элементом кодирующих и декодирующих устройств, широко применяемых во многих системах, связанных с обработкой сигналов. Это исследование (The Synthesis of Sequential Switching Circuits) было в 1956 г. опубликовано в сборнике статей «Information Theory»»(Academic Press, N.Y., pp. 75—99). В этом же году Д. Хаффмен опубликовал еще одну знаковую работу (A linear circuit viewpoint on error-correcting codes, IRE Trans. on Information Theory, vol. IT-2, Sept., pp. 20—28, 1956), которая оказала существенное влияние на развитие теории кодов, исправляющих ошибки. Ее результаты вошли в книги по теории кодирования. В начале 80-х гг. Д. Хаффмен получил важные результаты в теории конечных автоматов, доказав, что в гипотетическом цифровом автомате можно использовать не все операции булевой алгебры, а только операцию «НЕТ».

В начале 60-х гг. вице-президент исследовательской Белл-лаборатории Вильям О. Баркер привлек Д. Хаффмена к работе в Национальном агентстве над проблемами засекречи- вания сообщений. В этот период Д. Хаффмен разработал метод преобразования последова-

тельности бинарных чисел в другую бинарную последовательность без потери информации. Эта работа нашла применение в криптографии.

Â1962 г. он опубликовал еще одну важную работу (The Generation of Impulse-Equivalent Pulse Trains, IRE Trans. on Information Theory, vol. IT-8, September), посвященную синтезу широкополосных сигналов с низким уровнем боковых лепестков корреляционной функции. Такие сигналы Д. Хаффмен назвал «импульсно-эквивалентными».» Результаты этой работы были отмечены премией, которую Общество теории информации IEEE присудило за существенный вклад в решение сложной проблемы синтеза оптимальных сигналов, над которой долгое время работали многие ученые.

Âпоследние годы жизни он увлеченно работал над изучением математических и физи- ческих свойств поверхностей с нулевой кривизной. Результатом явилось открытие возможности преобразования простых плоских поверхностей в необычные скульптурные трехмерные формы, которые выставлялись на художественных выставках.

Научная деятельность Давида Хаффмена получила широкое признание. Он являлся по- четным членом IEEE. В 1955 г. его исследования по синтезу последовательных переключающих цепей были отмечены почетной медалью Луиса Е. Леви Франклинского института.

Â1974 г. от Секции компьютерной техники IEEE он получил награду В.В. МакДоувелла за «вклад в создание теории последовательных переключающих цепей и теории кодирования, а также за его вклад в преподавание этих дисциплин».» Его работы по последовательным переключающим цепям были отмечены медалью IEEE в 1982 г. В 1998 г. IEEE наградил его золотой юбилейной медалью за инновации в области технологии, а в 1999 г. — медалью Р. Хэмминга за особый вклад в науку об информации.

Давид Хаффмен скончался 9 октября 1999 г. в возрасте 74 лет.

ßêîá ÇÈÂ

Якоб Зив родился в г. Теберия (Израиль) 27 ноября 1931 г. Высшее образование получил в имеющем мировую известность Израильском технологическом институте (Технионе), находящемся в Хайфе. Окон- чив институт в 1954 г. бакалавром, он в 1957 г. защитил магистерскую диссертацию. С 1955 по 1959 г. Я. Зив работал ведущим инженером-исследователем в группе телекоммуникаций Департамента науки Министерства обороны Израиля, участвуя в разработке телеметрической системы, создаваемой на новых для

того времени элементах — транзисторах. В это же время он заинтересовался проблемами выделения сигналов из шума. Его знакомство с теорией информации состоялось после прочтения одного из первых учебников по этому предмету, написанного С. Голдманом.

В 1961 г. Якоб Зив поступил в знаменитый Массачусетский технологический институт (МТИ), в котором в 1962 г. защитил докторскую диссертацию. В группу аспирантов — его коллег, которые в этот период, как и Я. Зив, готовили докторские диссертации, входили

ставшие впоследствии крупными учеными: Г. Ван Трис, Д. Сакриксон, А. Джалинек, Т. Кэйлас, Т. Гоблик и др. В эти годы там преподавали выдающиеся ученые в области теории информации: Р. Фано, П. Элайс, Дж. Возенкрафт и только что защитивший докторскую диссертацию Р. Галлагер.

Выдающийся израильский ученый Якоб Зив — известный специалист в области теории информации. Круг его научных интересов очень широк — это вопросы статистической теории связи: кодирование источников информации, теория информации и теория оптимального приема сигналов.

Темой докторской диссертации Я. Зива было исследование влияния эффектов квантования при передаче и приеме сигналов на вероятность ошибочного приема кодированного сигнала. Исследовательскую работу над докторской диссертацией он совмещал с работой ведущего инженера-исследователя в области теории связи в научном отделе фирмы Melpar, Inc. (Watertown, MA).

ÂМТИ он познакомился с только что появившимися идеями последовательного декодирования, выдвинутыми Дж. Возенкрафтом, и предложил свой вариант алгоритма последовательного декодирования. В период обучения Я. Зива в МТИ актуальной являлась проблема определения вычислительной сложности алгоритмов, в частности алгоритмов декодирования. Его заинтересовала эта проблема, и после защиты докторской диссертации Я. Зив провел исследование сложности декодирования итеративных кодов П. Элайса, доказав существование таких методов кодирования, для которых сложность декодирования растет с ростом длины кода по полиномиальному закону. Данная работа предшествовала класси- ческой работе Д. Форни по итерированным кодам.

Â1962 г., вернувшись на родину, Я. Зив возглавил Департамент науки в Министерстве обороны Израиля и одновременно стал преподавать на факультете электросвязи в Технионе. В этот период Я. Зив совместно с другим крупным израильским ученым

Ì.Закаи разработал, используя идеи теории информации, новые методы определения точности оценок параметров сигналов, принимаемых на фоне гауссовских шумов. Разработанные ими методы относятся к числу важных результатов теории оптимального приема сигналов.

Âсередине 60-х гг. Я. Зив познакомился с идеями универсального кодирования источников информации, предложенными академиком А.Н. Колмогоровым. В 1968 г. он вновь выехал в США и в течение полутора лет работал в Белл-лаборатории. В тот период он тесно сотрудничал с крупным американским ученым Ароном Вайнером в решении широкого круга проблем теории информации, включая вопросы кодирования источников сообщений и канала связи, эффективности информационных систем с обратной связью и др. К этому времени относится и начало исследований Я. Зива по универсальному кодированию источников сообщений.

Â1970 г. Я. Зив вернулся к преподавательской работе в качестве доцента в Технионе. С 1974 по 1976 г. он был деканом факультета электросвязи Техниона. Его научные интересы в этот период сосредоточились на проблемах оценки сложности источников сообщений и на связанных с ними проблемах универсального кодирования источников информации. Эти проблемы он разрабатывал совместно с другим израильским ученым Абрахамом Лемпелем. Данные исследования привели к одному из важнейших результатов теории информации — универсальному алгоритму кодирования источников сообщений Лемпеля—Зива (алгоритм LZ). В 1977 и 1978 гг. ими были опубликованы две получившие широкую известность

статьи в журнале IEEE Transaction on Information Theory, в которых был представлен алгоритм LZ и приведено доказательство его оптимальности. Этот алгоритм получил широкое практическое применение. Якоб Зив — автор более 70 научных статей, посвященных различным проблемам теории связи, которые получили широкую известность.

С 1985 по 1991 г. Я. Зив был председателем Израильского комитета, планирующего деятельность университетов страны и предоставляющего гранты на проведение научных исследований. В 1982 г. он был избран членом Академии наук Израиля и стал профессором Техниона. В настоящее время он президент Национальной академии наук и искусств Израиля.

ßêîá Çèâ — почетный член Института инженеров по электротехнике и электронике (IEEE).

Â1988 г. он избирается иностранным членом Национальной инженерной академии, а в 1998 г. — Национальной академии наук и искусств США.

Научные достижения Зива отмечены многими национальными и международными премиями. В 1993 г. он получил почетный приз Израиля, присуждаемый за работы в области точных наук (электросвязи и технологии). В 1977 и 1979 гг. он дважды награждался IEEE как автор лучших статей, опубликованных в журнале «Transaction on Information Theory»».

Â1995 ã. ßêîá Çèâ — лауреат международной премии Г. Маркони и награжден почетной медалью Ричарда Хэмминга, учрежденной IEEE. В 1997 г. он стал лауреатом премии Шеннона, присуждаемой Секцией теории информации IEEE, а в 1998 г. ему была присуждена международная премия Эдуарда Рейна.

4.2. Кодирование источников аналоговых сигналов

Задача кодирования источников аналоговых сигналов заключается в нахождении такого метода их преобразования в цифровую форму, при котором бы сформированный цифровой поток имел минимальную скорость и на приеме эти сигналы могли быть восстановлены с наименьшей погрешностью.

Два весьма важных метода преобразования аналоговых сигналов в цифровую форму — импульсно-кодовая модуляция (ИКМ) и дельта-модуляция (ДМ) были изобретены инженерами в 40-х гг. ХХ в., еще до создания теории информации. На протяжении второй половины ХХ в. эти методы развивались многими учеными. Сегодня они широко применяются как в современных системах связи, так и в устройствах памяти, предназначенных для хранения больших объемов аналоговой информации на разных носителях (в частности, для записи аудио- и видеосигналов).

Импульсно-кодовая модуляция была изобретена в 1937 г. [1] французским инженером А.Г. Ривсом. При ИКМ преобразование аналогового сигнала в цифровую форму осуществляют в два этапа. На первом — этот сигнал модулирует по амплитуде последовательность импульсов, следующих с частотой, определяемой теоремой Ко- тельникова—Шеннона и равной 2Fâ, ãäå Fâ — верхняя частота спектра сигнала. На втором этапе диапазон возможных уровней сигнала А разбивается на N = 2n интервалов = А/N и определяется, в каком из интервалов находится уровень каждого из модулированных импульсов. В результате каждый импульс преобразуется в n-знач- ную бинарную кодовую комбинацию, соответствующую данному интервалу. Устройство, осуществляющее преобразование уровня аналогового сигнала в кодовую комби-

нацию, называется квантователем. В 1948 г. американский ученый В. Беннет [2] полу- чил формулу для отношения сигнал/шум на выходе квантователя с равномерной шкалой квантования:

ε2 = 2/12.

Для гауссовского сообщения мощностью σ2, пиковые значения равны 3σ, диапазон А = 6σ и, следовательно, ε2 = 3σ2/N2. С учетом этого скорость передачи сообщений по каналу связи при ИКМ оказывается равной

R = 2 Fâ log2N = Fâlog(3σ2/ε2) áèò/ñ,

что несколько выше, чем это следует из формулы Шеннона R = Flog2(σ2/ε2) бит/c. Важные результаты, относящиеся к помехоустойчивости приема сообщений при

использовании ИКМ, были получены в конце 40-х годов в США Б. Оливером, Дж. Пирсом, К. Шенноном [3] и в нашей стране профессором С.В. Бородичем [4].

Следует отметить, что если не применять специальных способов кодирования источника, то при использовании ИКМ полоса частот, необходимая для передачи сообщений в цифровом виде, значительно расширяется. Например, для передачи с высоким качеством телефонного сообщения, занимающего полосу частот 4 кГц, необходимо выбрать N = 256, и скорость сформированного при ИКМ цифрового потока составит 64 кбит/с; сигнал звукового вещания, который имеет полосу частот, равную 15 кГц, и должен быть передан по каналу связи с высоким качеством, преобразуется с помощью ИКМ в цифровой поток со скоростью 320 кбит/с; телевизионный сигнал, полоса частот которого составляет 6 МГц, при цифровом преобразовании образует поток со скоростью порядка 250 Мбит/с.

Поэтому проблема преобразования аналогового сигнала в цифровую форму в последующие годы была тесно связана с проблемой сокращения его избыточности, т.е. определения таких алгоритмов, с помощью которых можно было бы существенно сократить скорость формируемого цифрового потока, приблизившись к тому пределу, на который указывает теория информации.

Одним из методов уменьшения N при увеличении динамического диапазона рече- вых сигналов, преобразуемых с помощью ИКМ в цифровую форму, является применение на передающем конце линии связи устройств с нелинейной амплитудной характеристикой, сжимающих этот диапазон, — компандеров, а на приемном — устройств, расширяющих его, — экспандеров.

Данный метод уменьшения искажений при квантовании сигналов с распределением уровней, отличающимся от равномерного, исследовался в начале 60-х гг. американским ученым Дж. Максом [5] и отечественным ученым А.И. Величкиным [6].

Во многих случаях спектр аналогового сигнала неравномерен, и его последовательно взятые отсчеты статистически зависимы. В этом случае для устранения избыточности при его преобразовании в цифровую форму широко применяется дельта-модуляция (ДМ). Этот вид модуляции был изобретен независимо несколькими учеными в конце 40-х — начале 50-х гг.: во Франции (Е. Делорейн, С. Ван Миеро и Б. Дерьявич [7] — 1946 г.), СССР

(Л.А. Коробков [8] — 1949 г.) и США (К.К. Катлер [9] и Ф. де Яджер [10] — 1952 г.). При ДМ формируется разность между текущим значением аналогового сигнала и

его предсказанным значением на основе предшествующих отсчетов. Эта разность преобразуется в цифровую форму. В первых изобретениях ДМ для квантования разно-

стного сигнала использовали бинарный код, символы которого принимают значения (1,0) или (±1). На рис. 4.2 а, б показаны схемы кодера и декодера системы ДИКМ. Одно из первых исследований, позволяющих теоретически обосновать возможность применения метода предсказания текущих значений сигнала на основе его предшествующих отсчетов для кодирования источника, провел в 1950 г. известный американский ученый профессор П. Элайс [11].

Ðèñ. 4.2à

Ðèñ. 4.2á

Для получения высокой точности преобразования аналогового сигнала в цифровую форму методом ДМ требуется более высокая частота его дискретизации (в 10—15 раз), чем в ИКМ. Применение ДИКМ позволяет при заданной точности преобразования аналогового сигнала в цифровую форму уменьшить общую скорость полученного в результате такого преобразования цифрового потока. В 1952 г. был предложен метод дельта-ИКМ (ДИКМ), в котором указанная выше разность преобразуется в k-значную кодовую комбинацию с помощью ИКМ. В 60-е гг. были предложены многочисленные разновидности ДМ, в том числе ДМ с двойным интегрированием, ДМ с компандированием сигналов (адаптивная ДМ) и др.

Начало исследований искажений, которыми сопровождается преобразование аналоговых сигналов в цифровую форму с помощью ИКМ и ДМ, было положено американскими учеными В. Беннетом [2] и Ван де Вега [12]. Эти исследования установили зависимость мощности и спектра продукта искажений сигнала от параметров метода преобразования (частоты дискретизации, динамического диапазона аналогового сигнала, числа уровней квантования и т.д.). Эти исследования были продолжены в 60—70-х гг. ХХ в. многими учеными. Были исследованы точность разных алгоритмов преобразования ИКМ, ДМ и ДИКМ, осуществлен синтез оптимальных

алгоритмов преобразования с учетом статистических свойств аналогового сигнала [13—18]. В статье [19] дан обзор исследований, посвященных методам ИКМ и ДИКМ, выполненных до 1965 г.

До 1957 г. исследовались так называемые скалярные методы кодирования аналоговых сообщений, представляющих одномерную функцию времени. Однако в ряде случаев такие сообщения могут быть представлены суммой определенных функций. Для их кодирования могут быть применены разные методы. Один из них, названный кодированием с преобразованием сигнала, оказался эффективным и нашел широкое применение в системах передачи звуковых и телевизионных сигналов.

Метод кодирования с преобразованием сигнала поясняется рис. 4.3. Сигнал Y(t) в блоке А разлагается на интервале длительностью Т в ряд по ортогональным функциям Ψi(t), ò.å.

T

Y(t) = ∑Yi Ψi(t), ãäå Yi = ∫Y (t)ψ i (t)dt.

0

Если выбрано разложение функции Y(t) в ряд Карунена—Лоэва, то параметры Yi данного разложения представляют собой независимые случайные величины. Могут быть использованы и другие ортогональные преобразования: по функциям Хаара, ряды Фурье и т.п. На практике чаще применяется дискретное косинус-преобразова- ние (ДКП).

Ðèñ. 4.3

Параметры Yi, сформированные на выходе данного блока, поступают на квантизаторы Qi, в которых они с помощью ИКМ преобразуются в цифровые блоки Yi. Параметры квантизаторов согласуются со статистическими характеристиками величин Yi. За счет этого скорость единого цифрового потока, в который объединяются блоки Yi, передаваемые по каналу связи, оказывается при заданной точности преобразования минимальной и близкой к тому пределу, на который указывает теория информации. На приемном конце линии связи из общего потока выделяются цифровые блоки Y*I, и с помощью обратного преобразования А–1 по формуле Y*(t) = ∑Y*iΨi(t) осуществляется восстановление оценки переданного сообщения. Данный метод кодирования источников аналоговых сообщений был впервые предложен в 1956 г. американ-

скими учеными Г. Крамером и М. Месьюз [20]. В 1962—1963 гг. Дж. Хуангом и П.М. Шалсейсом этот метод был детально исследован [21], после чего он стал широко применяться [22, 23] для решения практических задач. Он оказался существенно более эффективным, нежели непосредственное применение для этих целей ИКМ или ДИКМ.

Другим важным конструктивным методом оптимального кодирования источников аналоговых сообщений, основанным на положениях теории информации, является метод векторного квантования. Суть данного метода состоит в следующем. Отрезок аналогового сигнала, занимающего полосу Fâ и имеющего длительность Т, может быть представлен N = 2FâТ отсчетами, образующими вектор в N-мерном пространстве. На рис. 4.4 изображена схема векторного квантователя.

Ðèñ.4.4

На вход кодера поступают N последовательных отсчетов Y(t ) кодируемого анало-

^ i

гового сообщения Y(t). Имеется множество кодовых слов длины N, каждый символ которых Yi* может принимать одно из М-значений. В кодере осуществляется поиск такого кодового слова, которое воспроизводило бы это сообщение с минимальной погрешностью:

D(Y ,Y * )= min{∑N (Y (ti )−Yi* )2}.

1

Первая работа, выполненная в 1956 г. французским математиком Г. Штейнхаусом [24], в которой была рассмотрена проблема оптимального векторного (трехмерного) квантования, относилась не к теории связи, а к математической статистике. Одной из первых работ, непосредственно посвященных проблеме векторного квантования источников сообщений, стала работа М. Шуценберга [25], опубликованная в 1958 г. Существенный вклад в разработку проблемы векторного квантования внес отечественный ученый В.Н. Кошелев [26].

Крупными американскими учеными Э.Д. Витерби и Дж. К. Омурой было установлено важное положение [27], согласно которому задача оптимального векторного кодирования источника аналогична задаче оптимального декодирования сигнала, принятого на фоне шума. Ими были исследованы возможности использования для кодирования источника сообщения как блочных, так и решетчатых кодов. Обзор много- численных исследований, связанных с проблемой кодирования источников аналоговых сообщений, приведен в статье [28].

Был разработан еще один класс алгоритмов сжатия данных, содержащихся в непрерывных сообщениях, которые называют апертурными. Они нашли применение в телеметрических системах, установленных на борту космических аппаратов, и впервые были предложены в 1962 г. [29]. Они иллюстрируются рис. 4.5.

Апертура — это полоса допустимого отклонения D шириной 2 информационного сообщения X(t) от аппроксимирующей функции. В рассматриваемом на рис. 4.5 примере в пределах интервалов времени ti < t < ti+1, в которых функция содержащегося X(t) не выходит за пределы апертуры, она аппроксимируется прямой линией. Основное достоинство апертурных алгоритмов сжатия сообщений состоит в том, что частота первичной дискретизации сообщения может быть выбрана достаточно высокой, так как избыточные выборки будут устранены в устройстве сжатия данных.

Ðèñ. 4.5

Это представляет интерес особенно в тех случаях, когда энергетический спектр телеметрируемого сигнала заранее неизвестен, или сигнал является нестационарным процессом. Апертурные алгоритмы позволяют определить параметры X(ti) è ti. Эти параметры передаются по линии связи и используются на приеме для того, чтобы путем интерполяции полностью восстановить сообщение X(t) с заданной точностью . Поток информационных выборок X(ti) è ti на выходе апертурного устройства нерегулярен, так как интервалы (ti+1 – ti) представляют собой случайную величину. Там, где функция X(t) изменяется медленно, ее отсчеты X(ti) передаются редко. Частота передачи этих отсчетов возрастает, если функция X(t) изменяется быстро. Моделирование [29] и теоретические исследования [22, 30] показали, что алгоритмы апертурного сжатия данных позволяют при передаче сигналов достичь существенного сокращения их избыточности.

4.3. Практические применения методов кодирования источников

Начиная с 1837 г., когда С. Морзе создал свой знаменитый неравномерный код, повышающий эффективность передачи телеграфных сигналов по линиям связи, инженерами предлагались разные методы сокращения избыточности источников сообщений. Еще до появления работ К. Шеннона для аналоговых источников аудио- и видеосообщений также предлагались методы сокращения их избыточности.