Добавил:
ivanov666
Опубликованный материал нарушает ваши авторские права? Сообщите нам.
Вуз:
Предмет:
Файл:Методы и средства обработки сигналов. Учебное пособие.pdf
X
- •1. ВВЕДЕНИЕ В ТЕОРИЮ СИГНАЛОВ
- •1.1. Общие сведения и понятия
- •1.2. Типы сигналов
- •1.3.5. Цифроаналоговое преобразование сигналов
- •1.4. Модели сигналов
- •1.4.1. Детерминированные сигналы
- •1.3. Преобразования типа сигналов
- •1.3.1. Дискретизация сигналов
- •1.3.2. Воспроизведение сигналов
- •1.3.3. Квантование сигналов
- •Векторное квантование и кодовые книги
- •1.3.4. Децимация сигналов
- •1.4.2. Классификация случайных сигналов
- •2. СТАТИСТИЧЕСКАЯ ТЕОРИЯ ОШИБОК
- •2.1. Статистические характеристики ошибок
- •2.2. Линейное преобразование ошибок
- •2.2.1. Линейное преобразование ошибок скалярных величин
- •2.2.2. Линейное преобразование ошибок векторных величин
- •2.3. Перенос ошибки. Прямая задача теории ошибок
- •2.4. Обратная задача теории ошибок
- •3. СТАТИСТИЧЕСКИЕ МЕТОДЫ ОЦЕНИВАНИЯ
- •3.1. Линейная оценка параметра
- •3.1.1. Независимые и равноточные наблюдения
- •3.1.2. Независимые и неравноточные наблюдения
- •3.2. Дисперсия ошибок линейных оценок
- •3.2.1. Независимые и равноточные наблюдения
- •3.2.2. Независимые и неравноточные наблюдения
- •3.3. Оценка дисперсии единицы веса по данным наблюдений
- •3.4. Выбор весов
- •4. МЕТОД НАИМЕНЬШИХ КВАДРАТОВ
- •4.1. Применение МНК к линейным функциям
- •4.2. Ковариационная матрица ошибок неизвестных
- •4.3. Вычисление ошибок неизвестных
- •Таблица значений параметров системы
- •5. Интервальные оценки
- •5.1. Понятие о распределении ошибок. Вероятность
- •5.1.1. Свойства функции распределения
- •5.2. Основные законы распределения
- •5.2.1. Равномерное распределение
- •5.2.2. Нормальное распределение. Правило «трех сигм»
- •6. ПРОВЕРКА СТАТИСТИЧЕСКИХ ГИПОТЕЗ
- •6.1. Постановка задачи
- •6.2. Сравнение центров распределения нормальных генеральных совокупностей
- •6.4. Проверка гипотезы о равенстве дисперсий двух нормальных генеральных совокупностей
- •6.5. Интервальная оценка дисперсии
- •7. АППРОКСИМАЦИЯ СИГНАЛОВ
- •7.1. Приближение сигналов рядами Тейлора
- •7.2. Интерполяция и экстраполяция сигналов
- •7.4. Cплайновая интерполяция сигналов
- •7.5. Cпектральный метод интерполяции сигналов
- •7.6. Интерполяционный ряд Котельникова–Шеннона
- •7.7. Методика аппроксимации эмпирических данных
- •8. РЕГРЕССИЯ
- •8.2. Корреляция и коэффициент корреляции
- •8.3. Уравнения регрессии
- •8.3.1. Линейная регрессия
- •8.3.2. Полиномиальная регрессия
- •8.3.3. Нелинейная регрессия
- •8.4. Сглаживание данных
- •8.5. Предсказание зависимостей
- •9. СИСТЕМЫ И УСТРОЙСТВА ОБРАБОТКИ СИГНАЛОВ
- •9.1. Общее понятие систем
- •9.3. Аналоговые фильтры
- •9.3.1. Основные типы аналоговых фильтров
- •9.3.2. Фильтры Баттерворта, Чебышева и Бесселя
- •9.4. Аналого-цифровые преобразователи
- •9.5. Цифроаналоговые преобразователи
- •10.1. Нерекурсивные цифровые фильтры
- •10.2. Рекурсивные цифровые фильтры
- •10.3. Импульсная характеристика цифровой системы
- •10.4. Частотные характеристики цифровой системы
- •11. АНАЛИЗ И ПРИМЕНЕНИЕ ЦИФРОВЫХ ФИЛЬТРОВ
- •11.1. Сглаживающие фильтры и фильтры аппроксимации
- •11.2. Разностные операторы
- •11.3. Интегрирование данных
- •12. ОПТИМАЛЬНЫЕ ЛИНЕЙНЫЕ ФИЛЬТРЫ
- •12.1. Модели случайных процессов и шумов
- •12.2. Критерии построения оптимальных фильтров
- •12.3. Фильтр Колмогорова–Винера
- •12.4. Оптимальные фильтры сжатия сигналов
- •12.5. Фильтры прогнозирования
- •12.6. Фильтр обнаружения сигналов
- •Список литературы
- •Оглавление

61
12
z zz≤≤
,
2
12
2
zk z
ε
≤≤
σ
2
2
12
kk
zz
σ
≥≥
ε
2 22
21
kk
zz
ε ≤σ ≤ε
12
γε≤σ≤γ ε
2
σ
( ,)fXθ
θ
0
θ=θ
1
HH=
α
β
,
,
,
.
Два последних неравенства дают нижнюю и верхнюю границы
для
и σ.
6. ПРОВЕРКА СТАТИСТИЧЕСКИХ ГИПОТЕЗ
6.1. Постановка задачи
Под статистической гипотезой понимают всякое высказывание о
генеральной совокупности, которое можно проверить по выборке. Как
правило, статистические гипотезы делят на гипотезы о законах распределения и гипотезы о параметрах распределения.
Пусть
сящий от одного параметра
стоит в утверждении, что
значим ее Н
которую обозначим Н
верки гипотезы Н
вании выборки, состоящей из п независимых наблюдений Х
Следовательно, все возможное множество выборок объема п можно
разделить на два непересекающихся подмножества (О и W) таких, что
проверяемая гипотеза Н
выборка попадает в подмножество W и принята, если выборка принадлежит подмножеству О.
Подмножество О называют областью допустимых значений, а
подмножество W – критической областью. При формировании критической области возможны ошибки.
Ошибка первого рода состоит в том, что нулевая гипотеза отвергается, т. е. принимается гипотеза Н
верна гипотеза Н
Ошибка второго рода заключается в том, что принимается гипоте-
за Н
, а в действительности верна гипотеза Н1.
0
Для любой заданной критической области будем обозначать через
вероятность ошибки первого рода, а через
– закон распределения случайной величины Х, зави-
. Предположим, что наша гипотеза со-
. Назовем эту гипотезу нулевой и обо-
. Альтернативной, или конкурирующей гипотезой,
0
, будет
1
относительно конкурирующей гипотезы Н1 на осно-
0
должна быть отвергнута, если наблюдаемая
0
.
0
. Перед нами стоит задача про-
, Х2, …, Хп.
1
, в то время как в действительности
1
– вероятность ошибки

62
второго рода. Следовательно, можно сказать, что при большом коли-
α
α
{ } {} 0XY−>MM
XY−
22
12
{}
xy
XY n n− =σ +σD
( )
z XY= −
/{ }XY−D
z
1p = −α
,α
честве выборок доля ложных заключений равна
, и β, если верна гипотеза Н1. При фиксированном объеме выбор-
за Н
0
, если верна гипоте-
ки выбор критической области W позволяет сделать как угодно малой
либо
, либоβ.
6.2. Сравнение центров распределения нормальных генеральных совокупностей
На практике иногда оказывается, что средний результат одной серии наблюдений заметно отличается от среднего результата другой
серии. Что это? Влияние ошибок наблюдения? Или, может быть, мы
имеем дело с двумя разными генеральными совокупностями.
Итак, имеем две случайные величины Х и Y. Обе подчиняются
нормальному закону распределения. Допустим, что мы располагаем
двумя независимыми выборками объемами п
Нулевая гипотеза: М{Х} = М{Y}. За альтернативную гипотезу примем
. Дисперсии этих двух выборок будем считать из-
вестными.
Если гипотеза Н
средних
распределена также по нормальному закону, а диспер-
справедлива, то разность их арифметических
0
сия этой разности (при условии, что Х и Y – независимы!) равна сумме
дисперсий этих случайных переменных:
и п2 соответственно.
1
.
которая также распределена нормально и имеет дисперсию¸ равную
единице, и математическое ожидание, равное нулю. С помощью таблицы функции Лапласа нетрудно установить критическое значение для
ностью
мало отличается от единицы. Чем меньше
отклонить проверяемую гипотезу.
с количеством п
Введем нормированную случайную величину
,
, которое наша разность не может превосходить с заданной вероят-
. Если гипотеза Н0 имеет место, то эта вероятность
тем меньше вероятность
Пример. Допустим, что мы располагаем двумя сериями наблюдений
= 25 и п2 = 50. При этом получены средние значения
1

63
9,79 и 9,60.XY= =
Установить с вероятностью 0,99, является ли это
σ
2
χ
()
jj
2
χ
1 klr=−−
расхождение случайным. Пусть обе случайные величины имеют стандартное отклонение
= 0, 30. Вычислим нормированную разность:
9,79 9,60
z =
0,30 (0,04 0,02)
−
+
0,19
= ≈
0,0735
2,59.
Из таблицы функции Лапласа следует, что c вероятностью (надеж-
ностью) 0,99 наша нормированная случайная величина должна быть
меньше 2,576. Области значений z > 2,576 при нашей гипотезе достичь
практически невозможно. Это означает, что наблюдаемое расхождение
нельзя считать случайным.
Следует отметить, что в случае z < 2,576, еще нельзя утверждать,
что гипотеза подтвердилась. С помощью проверки гипотез можно
лишь отвергнуть проверяемую гипотезу, но никогда нельзя доказать ее
справедливость.
6.3. Проверка гипотез о законе распределения
Критерий согласия χ
2
Существует несколько критериев согласия для проверки законов
распределения случайной величины. Это критерии Колмогорова,
Смирнова,
Пирсона и др. Мы остановимся лишь на критерии Пир-
сона – это наиболее часто употребляемый критерий для проверки закона распределения случайной величины.
Сначала нужно разбить всю область изменения случайной величи-
ны на l интервалов (бин). Затем нужно подсчитать, сколько этих величин попадает в каждый бин, т. е. подсчитать эмпирические частоты т
k
Чтобы вычислить теоретические частоты, нужно вероятность попадания в каждый бин р
умножить на объем выборки п. Таким образом,
k
статистика
2
χ=
∑
j
l
=
1
m np
−
np
2
j
является случайной величиной, подчиняющейся закону
с
степенями свободы. В последней формуле r – число па-
раметров распределения, определяемых по выборке. Для нормального
закона – это два параметра, для закона Пуассона – один и т.д.
.

64
Рассчитав значения
2
χ
2
χ
2
;αk
χ
22
;α
kχ >χ
22
22
и
xy
σσ
22
xy
σ=σ
22
.
xy
σ >σ
2
1
1
2
1
1
1
()
1
n
i
i
xx
n
=
−
−
∑
2
2
()
n
yy
1
2
2
ε
x
2
σ
2
σ
22
12
/εε
[ ]
12
(, , )P kk>α =αFF
22
12
/εε
α
и выбрав уровень значимости α, по таблице
– распределения определяют
. Если
, то гипотезу Н0
отвергают, если
χ <χ
то гипотезу принимают.
;,k α
6.4. Проверка гипотезы о равенстве дисперсий двух нормальных генеральных совокупностей
Рассмотрим две случайные величины Х и Y, каждая из которых
подчиняется нормальному закону с дисперсиями
этих генеральных совокупностей извлечены две выборки объемами п
. Проверим гипотезу Н0 о том, что
и п
2
тивной гипотезы Н
, заключающейся в том, что
1
относительно альтерна-
Однако мы располагаем только выборочными дисперсиями
2
=
ε
и
1
=
ε
−
1
n
2
∑
j
−
j
=
1
Задача проверки гипотезы Н0 сводится к сравнению выборочных
дисперсий.
Для построения критической области с выбранной надежностью
необходимо исследовать совместный закон распределения оценок
2
и
. Таким законом распределения является распределение Фише-
ε
ра – Снедекора (или F – распределение).
Рассмотрим случайную величину
математическим ожиданием Х и с дисперсией
зависимые выборки объемами п
и п2. Для оценки
1
, распределенную нормально с
. Произведем две не-
борочные дисперсии. Случайную величину, определяемую отношением F =
, называют величиной с распределением Фишера–
Снедекора. Имеются таблицы для дифференциального закона распределения Фишера–Снедекора, которые зависят лишь от объема выборки
и уровня значимости
, где k1 = n1 – 1, k2 = n2 – 1.
Вернемся снова к задаче проверки гипотезы о равенстве дисперсий.
Сначала нужно вычислить выборочные дисперсии. Найдем отношение
F =
дисперсии. Выберем уровень значимости
, причем в числителе поставим большую из двух оценок
и из таблиц находим чис-
. Пусть из
2
.
используют вы-
1

65
ло F
12
( , , ),kkα
12
(, , )kk>αFF
2
2
1
()
1
n
k
xx
n
=
−
ε=
−
∑
/εσ
2
χ
1−α
2
χ
/2α
α
0,10α=
2
χ
2
0,95
3,32,χ=
2
0,05
16,9χ=
σ
1, 65ε<σ< ε
что
которое сравнивается с вычисленным F. Если окажется,
, то проверяема гипотеза Н0 отвергается, в против-
ном случае делается вывод о том, что наблюдения не противоречат
проверяемой гипотезе.
6.5. Интервальная оценка дисперсии
Для интервальной оценки параметра мы использовали среднюю
квадратическую погрешность как меру точности. Однако уместно задать вопрос, насколько эта мера точности реально отражает стандартное отклонение, связанное с погрешностью? Иначе говоря, когда мы
вычисляем оценку дисперсии погрешности по формуле
,
то необходимо знать и меру доверия этой величине. При небольших п
эта оценка может значительно отличаться от точного значения диспер-
сии. Другими словами, нам нужно получить интервальную оценку
дисперсии.
Известно, что величина (п - 1)(
)2 распределена по закону
торым и нужно воспользоваться для построения доверительного интервала. Этот закон не симметричный, поэтому нужно определять левую и
правую границы отдельно. Допустим, что доверительная вероятность
равна
. Тогда вероятность того, что величина
будет лежать правее
левой границы доверительного интервала, можно взять равной
вероятность того, что она окажется больше правой границы, будет равна
/2. Зададим доверительную вероятность, равную 0,9. Тогда
1–
Вероятность «левой границы» будет 0,95, а правой 0,05. Допустим, что
объем выборки равен п = 10, следовательно, число степеней свободы
при вычислении оценки дисперсии равно т = 9. Из таблицы
-распределения находим
2
9
3,32
0.72
ε
<<
2
. После пересчета окончательно будем иметь
16,9
. Это и есть доверительный интервал для дисперсии.
. Следовательно,
, ко-
, а
.

66
7. АППРОКСИМАЦИЯ СИГНАЛОВ
i
x
Формулы сигналов, детально и точно описывающие определенные
физические объекты, поля и процессы, могут быть очень сложными и
мало пригодными к практическому использованию как, в общем случае, при математическом анализе физических данных, так и в чисто
прикладных задачах, особенно при расчетах ожидаемых результатов
измерений и при математическом моделировании физических процессов. Кроме того, практическая регистрация физических данных выполняется, как правило, с определенной погрешностью или с определенным уровнем шумов, которые по своим значениям могут быть много
выше теоретической погрешности прогнозирования сигналов при расчетах по сложным, хотя и очень точным формулам. Не имеет большого
смысла и проектирование систем обработки и анализа сигналов по высокоточным формулам, если повышение точности расчетов и соответствующее усложнение систем не дает ощутимого эффекта в повышении точности обработки данных. Во всех этих условиях возникает
задача аппроксимации – представления произвольных сложных функций f(x) простыми и удобными для практического использования
функциями ϕ(x) таким образом, чтобы отклонение ϕ(x) от f(x) в области ее задания было наименьшим по определенному критерию приближения. Функции ϕ(x) получили название функций аппроксимации.
Математика очень часто оперирует специальными математическими функциями решения дифференциальных уравнений и интегралов,
которые не имеют аналитических выражений и представляются табличными числовыми значениями y
симых переменных
. Аналогичными таблицами {yi, xi} могут пред-
ставляться и экспериментальные данные. Точки, в которых определены
дискретные значения функций или данных, называются узловыми. Однако на практике могут понадобиться значения данных величин совсем
в других точках, отличных от узловых, или с другим шагом дискретизации аргументов. Возникающая при этом задача вычисления значений
функции в промежутках между узами называется задачей интерполя-
ции, за пределами семейства узловых точек вперед или назад по переменным – задачей экстраполяции или прогнозирования. Решение этих
задач обычно выполняется также с использованием аппроксимирующих функций.
для дискретных значений незави-
i

67
Сглаживание статистических данных или аппроксимация данных с
0
()
1!
fx
′
0
()
2!
fx
′′
()
0
()
!
n
fx
n
1
n
i=
∑
()
!
i
fx
i
1f
35 7
11 1
6 120 5040
xx x+−
35
11
6 120
xx+−
учетом их статистических параметров относится к задачам регрессии и
рассматриваются в следующей теме. Как правило, при регрессионном
анализе усреднение данных производится методом наименьших квад-
ратов (МНК).
Все перечисленные задачи относятся к задачам приближения сигналов и функций, в процессе которой сформировались классические
математические методы аппроксимации, интерполяции, экстраполяции
и регрессии функций.
7.1. Приближение сигналов рядами Тейлора
Исторически разложение функций в ряд Тейлора с определенным
ограничением числа членов ряда явилось одним из первых методов
приближения функций в окрестностях точек х
:
0
f(x) ≅ f(x
) +
0
При разложении функции в окрестностях точки х
(x–x0) +
f(x) ≅ f(x
0
) +
(x–x0)2 + … +
()
0
(x–x0)i.
(x–x0)n.
= 0 ряд Тейлора
0
принято называть рядом Маклорена.
Первый член f(x
) ряда представляет собой отсчет функции в точке х0
0
и грубое приближение к значениям функции в окрестностях этой точки. Все остальные члены ряда детализируют значения функции в
окрестностях точки х
и тем точнее приближают сумму ряда к значе-
0
ниям функции, чем больше членов суммы участвуют в приближении, с
одновременным расширением интервала окрестностей точного приближения.
Наглядно это можно видеть на примере функции y = sin x и двух
функций
(x) = x –
, 2f(x) = x –
с усечением до 4-го и 3-го членов рядов, приведенном на рисунке.

68
0
n
i
=
∑
Примеры разложения функций в ряд Маклорена
Приближение функций рядом Тейлора имеет много недостатков.
Оно применяется в основном для непрерывных и гладких функций в
локальных интервалах задания. Для разрывных и периодически повторяющихся функций использовать его практически невозможно, равно
как и для непрерывных не дифференцируемых функций. Операция
дифференцирования сама по себе тоже может быть далеко не простой
и точной, а получаемые ряды могут сходиться очень медленно.
7.2. Интерполяция и экстраполяция сигналов
Самыми простыми способами обработки таблиц являются линейная
и квадратичная интерполяции, которые выполняются по уравнениям:
f(x)
= а
лин
+ а1х. f(x)
0
кв
= а
+ а
0
х + а2х
1
При кусочно-линейной интерполяции вычисления дополнительных
точек выполняются по линейной зависимости. Графически это означает простое соединение узловых точек отрезками прямых. При экстраполяции используются отрезки прямых, проведенных через две крайние точки.
При небольшом числе узловых точек (менее 10) линейная интерполяция оказывается довольно грубой. Первая производная функции аппроксимации испытывает резкие скачки в узловых точках.
Линейная и квадратичная аппроксимации являются частным случаем полиномиальной интерполяции с помощью аппроксимирующего
полинома:
2
.
P(x)
= а
+ а
х + а2х
0
1
2
+ … + anxn =
aixi. (7.2.1)

69
Для выполнения полиномиальной интерполяции достаточно по вы-
i
a
1
0 10 2 0
( )( )
( )( ) ( )
n
n
xx xx
xxxx xx
−−
−− −
02
1 01 2 1
( )( ) ( )
( )( ) ( )
n
n
xxxx xx
xxxx xx
−− −
−− −
02 1
02 1
( )( ) ( )
( )( ) ( )
n
n n nn
xxxx xx
xxxx xx
−
−
−− −
−− −
ражению (7.2.1) составить систему линейных уравнений для n узловых
точек и определить n значений коэффициентов
. При глобальной ин-
терполяции, по всем N точкам задания функции, степень полинома
равна N–1. Пример выполнения глобальной интерполяции (N = 5) приведен на рис. 7.2.1, а для (N = 9) на рис. 7.2.2. Максимальная степень
полинома на практике обычно устанавливается не более 8–10, а большие массивы данных интерполируются последовательными локальны-
ми частями.
Рис. 7.2.1. Интерполяция данных
Для практического использования более удобны формулы аппроксимации, не требующие предварительного определения коэффициентов аппроксимирующих полиномов. К числу таких формул относится
интерполяционный многочлен по Лагранжу. При аппроксимации
функции у(х) многочленом n-й степени f(x):
f(x) =
y0 +
…+
Рис. 7.2.2. Интерполяция по Лагранжу
y1 +…
yn.

70
7.3. Интерполирование с помощью
( ) cos( arccos )
n
Tx n x=
11
() 2 () ().
n nn
T x xT x T x
+−
= −
01
() 1, ()Tx Tx x= =
0
( ) 1, Tx=
1
() ,Tx x=
2
2 10
() 2 () () 2 1,TxxTxTxx= −=−
3
3 21
TxxTxTxxx= −=−
cos( arccos )nx
2
21 ,xπ−
1
2
1
0 ,
2
() ()
1 , 0,
1
ij
ij
dx
T xT x
ij i
x
−
≠
=
= >
π
−
∫
1
2
0
2
1
1
( ) 1.
1
dx
Tx
x
−
=
π
−
∫
0 0 11
() () () ... ().
nn
y x AT x AT x AT x≈ + ++
, 0,1,...,
k
Ak n=
2
2 () 1
k
Tx xπ−
( ) ( )
( )
( )
11
00
22
11
22
( ) ( ) ... .
11
k nn k
dx dx
y x T x AT x AT x T x
xx
−
−
= ++
ππ
−−
∫∫
полиномов Чебышева
Полиномами Чебышева называют семейство степенных многочленов, которое компактно можно записать так:
Они обладают рядом замечательных свойств, которые делают их удобными для применения в задаче точечной аппроксимации и интерполирования.
Если известны два соседних полинома, то третий полином может
быть вычислен по рекуррентной формуле
.
Из формулы вытекает, что
. Для определения
многочленов более высоких степеней необходимо воспользоваться рекуррентной формулой. Получим:
() 2 () () 4 ,
…
Заметим, что аргумент x задан на отрезке [–1,1]. Это следует из
определения полинома:
не может быть по абсолютной
величине больше 1.
Полиномы Чебышева ортогональны с «функцией веса»
т.е. удовлетворяют формулам
Это свойство позволяет аппроксимировать любые интегрируемые
функции линейной комбинацией полиномов Чебышева
Для определения коэффициентов
умножим y(x) на
и проинтегрируем от –1 до 1:
Соседние файлы в предмете [НЕСОРТИРОВАННОЕ]
