2.9 Эпсилон - энтропия стационарного Гауссовского процесса дискретного времени

Рассмотрим источник, порождающий Гауссовскую стационарную последовательность. Это означает, что для всех n=1,2… множества векторов источ-ника

(2.48)

имеется n-мерное Гауссовское распределение с корреляционной матрицей

,.

Тогда -энтропией процесса с дискретным временем, относительно выбранного критерия качества, будет

(2.49)

где

. (2.50)

В случае среднеквадратичной метрики цифрового представления сообщений с учетом ранее полученных результатов, имеем

. (2.51)

Здесь - собственные числа корреляционной матрицы

В дальнейшем определение -энтропии на основе системы (2.51) основывается на существовании предельных переходов при. Суть предельного перехода сформулируем без доказательства в виде теоремы.

Теорема.

Для Гауссовского стационарного процесса с дискретным временем и энергетическим спектром

,

где

, (2.52)

-энтропия при квадратичном критерии качества вычисляется по системе параметрических уравнений:

. (2.53)

Здесь - параметр уравнений (2.53).

Решение системы (2.53) наглядно иллюстрируется в виде геометрической интерпретации о «сосуде с водой» (рис.2.3). Представим себе сосуд единичной ширины с крышкой, форма которой задается энергетическим спектром процесса, тогда объем налитой в сосуд жидкости-, а после опускания крышки установится на уровне-, тогда для нахождения-производительности процесса надо проинтегрировать функциюпо той области частот, в которой, т.е. по интервалам,,.

Рис.2.3Геометрическая интерпретация решения системы (2.53)

3. Помехоустойчивое кодирование

1. Основные определения

3.1.1 Методы повышения верности передачи информации

Основной причиной ошибок являются помехи в непрерывном канале, а также его неидеальность. Причиной ошибок могут быть также неправильные действия персонала, осуществляющего как эксплуатацию различных участков канала связи, так и самой аппаратуры ПДС.

Условно разобьем методы повышения верности на три группы [5]. В первую группувключим мерыэксплуатационногоипрофилактическогохарактера, направленные на улучшение качественных показателей канала связи: повышение стабильности работы генераторного оборудования, резервирование электропитания систем передачи, выяв-ление неисправного оборудования и его элементов и своевременная их замена, повышение культуры технического обслуживания и, в частности, принятие специальных мер предосторожности при проведении измерительных и профилактических работ на каналах во время передачи дискретных сообщений и т. п. Опыт показывает, что указанные мероприятия позволяют уменьшить коэффициент ошибок в среднем в 5 раз.

Ко второй группеотносятся мероприятия, направленные на увеличениепомехоустойчивости передачи единичных элементов. Речь идет о таких мерах какповышение отношения сигнал-помехаза счет увеличения амплитуды, длительности или спектра частот полезного сигнала, применение более помехоустойчивых методов модуляции и сложных сигналов, более совершенных методов обработки сигналов па приеме и т. п. Применение большинства из перечисленных методов наталкивается на серьезные трудности. Так, сколько-нибудь существенно увеличить амплитуду сигналов, передаваемых по физической линии, нельзя из-за опасности возникновения недопустимых переходов на соседние цепи. Если передача дискретных сообщений осуществляется по каналу ТЧ, то мощность дискретных сигналов ограничивается из-за необходимости не допустить перегрузку групповых усилителей. Увеличение длительности единичных элементов с одновременным введением интегрирования на приеме позволяет понизить вероятность ошибки на элемент; однако получить удовлетворительную верность при работе по каналам все же не представляется возможным, не говоря уже о неизбежном при этом снижении скорости передачи. Заметного эффекта можно достичь за счет использования сложных сигналов.

К третьей группемер по повышению верности передачи дискретных сообщений относятся меры, связанные свведением избыточности в передаваемую по дискретному каналу последовательность. Следует заметить, что, используя эти методы, можно добиться существенного повышения верности. При выборе способа введения избыточности следует исходить из того, чтозаданную верностьпередачи необходимо получить приминимальной избыточности. Должны приниматься во внимание и вопросы, связанные со сложностью реализации способа.

Перейдем к общим вопросам обнаружения и исправления ошибок в принимаемой последовательности элементов заданной длины.