книжка умняшкина по моцос

Министерство образования Российской Федерации

Московский государственный институт электронной техники (технический университет)

______________________________________________________________

С.В. Умняшкин

Математические основы цифровой обработки и кодирования сигналов

Учебное пособие

Утверждено редакционно-издательским советом института

Москва 2004

ББК 32.81 У54

УДК 621.372

Рецензенты: доктор физ.-мат. наук, проф. А.В. Алиев доктор техн. наук, проф. В.П. Дворкович

Умняшкин С.В.

У54 Математические основы цифровой обработки и кодирования сигналов: Учебноепособие. - М.: МИЭТ, 2004. - 176 с.: ил.

ISBN 5-7256-0366-0

Учебное пособие предназначено для студентов, обучающихся по направлениям «Информатика и вычислительная техника» и «Прикладная математика». Материал пособия включает в себя в основном наиболее общие теоретические вопросы, связанные с цифровым представлением сигналов и основами анализа линейных дискретных систем, на базе чего в дальнейшем возможно построение специализированных курсов цифровой обработки сигналов, ориентированных на конкретные специальности и направления. По этой причине учебное пособие может быть также рекомендовано для направлений радиотехнического и телекоммуникационного профиля, так как изложение материала опирается лишь на общеобразовательные математические курсы, читаемые в МИЭТе для всех технических специальностей.

Содержание

6.3.Эффективность использования дискретных ортогональных преобразований для кодирования коррелированных данных 127

Глава 7. Вейвлет-преобразования и их приложения для обработки

4

Введение

На сегодняшний день вопросы, связанные с цифровой обработкой и кодированием информации, перестали быть узкоспециальными, основы знаний в этой области требуются большинству специалистов с высшим техническим образованием. В последние десятилетия методы цифровой обработки сигналов (ЦОС) в радиотехнике и радиоэлектронике, системах связи, контроля и управления приобрели большую важность и постепенно вытесняют методы аналоговой обработки. Способствует этому стремительно увеличивающаяся производительность вычислительной техники, сопровождаемая её проникновением во все области человеческой деятельности. К цифровому виду хранения и передачи звука все уже привыкли: сегодня, например, виниловые звуковые диски являются такой же редкостью, как 15 лет назад – цифровые компакт-диски. Никого уже не удивляют и цифровые видеозаписи, которые можно воспроизвести на обычном персональном компьютере.

Важность изучения методов и алгоритмов ЦОС, таким образом, трудно переоценить. Для этого, прежде всего, необходимо понимание тех математических основ теории, на которые они опираются. В главах 1-5 мы рассмотрим общие теоретические вопросы, связанные с представлением (фактически, кодированием) сигналов в цифровом виде,

иосновы теории линейных систем обработки дискретных сигналов. На этой теоретической базе строятся специализированные методы ЦОС, изучение которых предстоит в дальнейшем, в рамках специальных курсов. Материал, приведенный в главах 6 и 7, представляет собой более углубленное теоретическое рассмотрение разделов ЦОС, связанных с эффективным представлением сигналов, и ориентирован в основном на студентов, обучающихся по специальностям «Прикладная математика»

и«Программное обеспечение вычислительной техники и автоматизированных систем».

5

Глава 1. Элементы функционального анализа

Функциональный анализ – раздел математики, который представляет собой абстрактное обобщение линейной алгебры и математического анализа. В данной главе мы рассмотрим те понятия и методы функционального анализа, которые имеют широкое применение в теории обработки сигналов.

1.1. Неравенства Гёльдера и Минковского

Не останавливаясь на доказательствах, которые хорошо известны и приведены в многочисленных изданиях, сформулируем следующие важные теоремы.

Теорема 1. (Неравенство Гёльдера для интегралов.) Пусть существуют

Теорема 2. (Неравенство Минковского для интегралов.) Пусть для p≥1

1.2. Линейные нормированные пространства

Определение. Множество Е элементов произвольной природы называется линейным пространством, если в нём определены операции сложения элементов x+y и умножения элементов на скаляр λ (вещественное или комплексное число) λx, результатом которых является элемент из того же множества Е, причём выполняются следующие аксиомы.

1°. x E, y E: x+y=y+x (свойство коммутативности).

2°. x E, y E, z E: (x+y)+z = x+(y+z) (свойство ассоциативности).

3°. θE, x E: θ+x = x (существование нулевого элемента).

4°. x E, λ,µ (λ, µ – скаляры): λ(µx) = (λµ)x.

5°. Специальные виды умножения на скаляр λ=0 и λ=1: 0x=θ, 1x=x.

6°. x E, λ,µ: (λ+µ)x = λx +µx (свойство дистрибутивности).

7°. x E, y E, λ: λ(x+y) = λx +λy. (свойство дистрибутивности).

Назовем противоположным элементом для x E такой элемент y E, что x+y=θ. Из аксиом 5° и 6° видим, что y=(-1)x (элемент x, умноженный на число -1). Будем обозначать противоположный элемент: -x.

В курсе линейной алгебры систематически изучались линейные пространства Rn арифметических векторов размерности n. Приведённое выше аксиоматическое определение обобщает понятие линейного пространства Rn на множества произвольной природы. По аналогии элементы любого линейного пространства также будем называть вектора-

ми, а сами линейные пространства - векторными пространствами. В

том же обычном смысле будем понимать термины «линейная зависимость» (независимость) векторов, и «размерность пространства». Напомним, что число n называется размерностью векторного пространства Е (обозначается n=dimE), если в Е найдётся n линейно независимых ненулевых элементов, а любые (n+1) ненулевых элементов пространства Е будут линейно зависимы. Данное выше аксиоматическое определение линейного пространства допускает его бесконечную размерность.

7

Пример 1. Пусть C[a;b] – множество всех функций, непрерывных на отрезке [a;b]. Является ли это множество линейным пространством и если да, то какова его размерность?

◄ Выполнение аксиом 1°–7° очевидно, нулевым элементом является функция f(x)=0, x [a;b]. Покажем, что C[a;b] – бесконечномерное пространство. Выберем из множества C[a;b] n ненулевых элементов – степенных функций yi=xi-1, i=1,2,…,n. Очевидно, что при любом числе n эти элементы являются линейно независимыми, так как выполнение

можно лишь в случае λi=0, i=1,…,n. Поскольку число n можно выбрать как угодно большим, то dim(C[a;b])=∞. ►

Определение. Множество M E векторного пространства Е называется линейным многообразием, если М включает в себя все линейные комбинации всех своих элементов. То есть x, y M , λ, µ :

(λx + µy) M .

Определение. Линейное пространство Е называется нормированным, если каждому элементу x E поставлено в соответствие число, называемое нормой (обозначается x ), и выполняются следующие

аксиомы.

1°. Невырожденность нормы: x ≥ 0 , x = 0 x = θ . 2°. Однородность нормы: λx = λ x .

3°. Неравенство треугольника. x,y E: x + y ≤ x + y .

В одном и том же векторном пространстве Е норму можно вводить различными способами.

Пример 2. Рассмотрим векторное пространство C[a;b] из предыдущего примера. Покажите самостоятельно, что приводимые ниже способы вычисления нормы удовлетворяют аксиомам 1°–3°:

Указание. В пункте б) для доказательства аксиомы треугольника воспользоваться неравенством Минковского.

8

Определение. Расстоянием между элементами x, y нормированного векторного пространства Е назовем число ρ( x, y) = x − y .

На основании аксиом нормы легко показать, что введённое расстояние между элементами обладает следующими свойствами.

◄ Первое и второе свойства очевидны. Для неравенства треугольника имеем:

Расстояние между элементами называют также метрикой пространства. Пространство с введённым правилом нахождения расстояния (не обязательно нормированное) со свойствами 1°-3° называется метриче-

ским.

Определения. В метрическом пространстве E открытым шаром

существует некоторый шар конечного радиуса R<∞, который содержит в себе все элементы множества X E, то множество X называют

ограниченным.

Понятия нормы, расстояния, окрестности являются исходными для построения анализа в линейных нормированных пространствах.

1.3. Анализ в линейных нормированных пространствах

Определение. В линейном нормированном пространстве (ЛНП) Е

элемент y называется пределом последовательности {xk}, если

lim ρ( y, xk ) = 0 . Говорим, что последовательность {xk} сходится к

k→∞

элементу y и обозначаем это как lim xk = y .

k→∞

9

Определение. Точка a из ЛНП E называется предельной точкой множества M E, если в любой окрестности a содержится хотя бы одна точка x M, отличная от a. То есть r > 0 : (Sr (a) \ a)∩ M ≠ .

Почему такая точка называется предельной? Ответ дает следующая теорема.

Теорема 3. Для того, чтобы элемент a из ЛНП E был предельной точкой множества M E, необходимо и достаточно существование последова-

тельности {xk}, xk M, xk≠a, сходящейся к a: lim xk = a .

k→∞

◄ Необходимость. Возьмем сходящуюся к нулю числовую последовательность из ненулевых элементов, например, εk=1/k, k=1,2,… Так как a

элементы xn M, xn≠a, поэтому точка a является предельной для множества M. ►

Определение. Пусть M – подмножество в ЛНП E, а M' – множество

всех предельных точек M. Объединение множеств M = M M ′ называется замыканием множества M. Если M содержит все свои предельные точки, т.е. M' M, то множество M называется замкнутым. Определение. Замкнутое линейное многообразие L в ЛНП E, L E,

назовём подпространством.

Определение. Расстоянием от точки x из ЛНП E до подпростран-

ства L E называется величина ρ( x, L) = inf x − u .

u L

Аналогично вводится и расстояние от точки x множества E до произвольного подмножества M E. В общем курсе математического анализа было показано, что для ограниченного снизу числового множества всегда найдётся точная нижняя грань. Поскольку любая норма неотри-

10