- •Н.Н. Куцый теория информации
- •1. О понятии "информация"
- •2. Этапы обращения информации
- •3. Информационные системы
- •4. Система передачи информации: основные понятия и определения
- •5. Уровни проблем передачи информации
- •6. Теория информации
- •7. Понятия сигнала и его модели
- •8. Формы представления детерминированных сигналов
- •9. Ортогональные представления сигналов
- •10. Временная форма представления сигнала
- •11. Частотная форма представления сигнала. Спектры периодических сигналов
- •12. Распределение энергии в спектре периодического сигнала
- •13. Частотная форма представления сигнала. Спектры непериодических сигналов
- •14. Распределение энергии в спектре непериодического сигнала
- •15.Соотношения между длительностью импульсов и шириной их спектра
- •16.Спектральная плотность мощности детерминированного сигнала
- •17.Функция автокорреляции детерминированного сигнала
- •18.Случайный процесс как модель сигнала
- •19.Стационарные и эргодические процессы
- •20.Спектральное представление случайных сигналов
- •21.Частотное представление стационарных случайных процессов (дискретный спектр)
- •22.Частотное представление стационарных случайных сигналов. Непрерывные спектры
- •23.Основные свойства спектральной плотности
- •24.Преимущества цифровой формы представления сигналов
- •25.Общая постановка задачи дискретизации
- •26.Способы восстановления непрерывного сигнала
- •27.Критерии качества восстановления
- •28.Методы дискретизации посредством выборок
- •29.Равномерная дискретизация. Теорема котельникова
- •30.Теоретические и практические аспекты использования теоремы котельникова
- •31.Дискретизация по критерию наибольшего отклонения
- •32.Адаптивная дискретизация
- •33.Квантование сигнала
- •34.Квантование сигналов при наличии помех
- •35.Геометрическая форма представления сигналов
- •36.Энтропия как мера неопределенности выбора
- •37.Свойства энтропии
- •38.Условная энтропия и её свойства
- •39.Энтропия непрерывного источника информации (дифференциальная энтропия)
- •40.Свойства дифференциальной энтропии
- •41.Количество информации как мера снятой неопределенности
- •42.Эпсилон-энтропия случайной величины
- •43.Информационные характеристики источника сообщений и канала связи. Основные понятия и определения
- •44.Информационные характеристики источника дискретных сообщений
- •45.Информационные характеристики дискретных каналов связи
- •46.Информационные характеристики источника непрерывных сообщений
- •47.Информационные характеристики непрерывных каналов связи
34.Квантование сигналов при наличии помех
В различных условиях на квантуемый сигнал всегда воздействует помеха. Поэтому целесообразно минимальный шаг квантования выбирать с учётом вероятностных характеристик этой помехи.
Предположим, что помеха аддитивна. Тогда мгновенное значение сигнала , которое ранее попадала в й шаг квантования и которое сопоставлялось с уровнем квантования , в результате действия помехи примет значение и может быть поставлено в соответствие другому уровню квантования . такой исход приведёт к искажению информации и вероятность его не должна превышать допустимого значения.
Обозначим через условную вероятность сопоставления значения уровню квантования вместо уровня при условии, что принадлежит му шагу квантования. При наличии помехи , а .
Полная вероятность того, что величина останется в пределах го шага
.
Вероятность можно найти также, используя плотность вероятности системы двух случайных величин и :
,
где область интегрирования.
Так как нами учитываются мгновенные значения сигнала, которые принадлежат му шагу квантования, границами интегрирования по являются значения и . Верхняя и нижняя границы по определяются из условия и помехи не должны выйти за пределы го шага квантования:
,
откуда
.
Таким образом, область интегрирования представляет собой параллелограмм (рис. ).
Рис.
Считая помеху некоррелированной с сигналом, запишем
,
где плотность распределения помехи.
Ограничимся далее случаем равномерного квантования сигнала, мгновенные значения которого в диапазоне от до распределены равномерно, т.е.
.
Методику определения рассмотрим в предположении воздействия помехи, распределенной по закону равномерной плотности, а затем перейдём к практически важному случаю воздействия помехи с нормальным законом распределения.
Итак,
где амплитуда помехи, симметричной относительно мгновенного значения сигнала.
При указанных условиях результаты расчёта инвариантны относительно шага квантования и зависят от соотношения и .
Определим при . Область интегрирования (рис. ) разбиваем на отдельные участки и проставляем пределы интегрирования с учётом того, что знаменатель выражения (34.4) равен
.
Рис.
Тогда
Построив области интегрирования, тем же путём можно найти при и :
при ;
при .
На рис. представлен график , из которого, в частности, следует, что нецелесообразно выбирать меньше , так как при резко возрастает вероятность неправильного квантования сигнала.
Аналогично рассчитывают зависимость (рис. )
для воздействия на сигнал помехи, распределенной по нормальному закону
где среднеквадратическое отклонение помехи .
Рис.
Рис.
Сравнение двух последних графиков показывает, что по вероятности правильного квантования воздействие помехи с нормальным законом распределения эквивалентно воздействию равномерно распределенной помехи при соотношении .