Добавил:
ivanov666
Опубликованный материал нарушает ваши авторские права? Сообщите нам.
Вуз:
Предмет:
Файл:Методы и средства обработки сигналов. Учебное пособие.pdf
X
- •1. ВВЕДЕНИЕ В ТЕОРИЮ СИГНАЛОВ
- •1.1. Общие сведения и понятия
- •1.2. Типы сигналов
- •1.3.5. Цифроаналоговое преобразование сигналов
- •1.4. Модели сигналов
- •1.4.1. Детерминированные сигналы
- •1.3. Преобразования типа сигналов
- •1.3.1. Дискретизация сигналов
- •1.3.2. Воспроизведение сигналов
- •1.3.3. Квантование сигналов
- •Векторное квантование и кодовые книги
- •1.3.4. Децимация сигналов
- •1.4.2. Классификация случайных сигналов
- •2. СТАТИСТИЧЕСКАЯ ТЕОРИЯ ОШИБОК
- •2.1. Статистические характеристики ошибок
- •2.2. Линейное преобразование ошибок
- •2.2.1. Линейное преобразование ошибок скалярных величин
- •2.2.2. Линейное преобразование ошибок векторных величин
- •2.3. Перенос ошибки. Прямая задача теории ошибок
- •2.4. Обратная задача теории ошибок
- •3. СТАТИСТИЧЕСКИЕ МЕТОДЫ ОЦЕНИВАНИЯ
- •3.1. Линейная оценка параметра
- •3.1.1. Независимые и равноточные наблюдения
- •3.1.2. Независимые и неравноточные наблюдения
- •3.2. Дисперсия ошибок линейных оценок
- •3.2.1. Независимые и равноточные наблюдения
- •3.2.2. Независимые и неравноточные наблюдения
- •3.3. Оценка дисперсии единицы веса по данным наблюдений
- •3.4. Выбор весов
- •4. МЕТОД НАИМЕНЬШИХ КВАДРАТОВ
- •4.1. Применение МНК к линейным функциям
- •4.2. Ковариационная матрица ошибок неизвестных
- •4.3. Вычисление ошибок неизвестных
- •Таблица значений параметров системы
- •5. Интервальные оценки
- •5.1. Понятие о распределении ошибок. Вероятность
- •5.1.1. Свойства функции распределения
- •5.2. Основные законы распределения
- •5.2.1. Равномерное распределение
- •5.2.2. Нормальное распределение. Правило «трех сигм»
- •6. ПРОВЕРКА СТАТИСТИЧЕСКИХ ГИПОТЕЗ
- •6.1. Постановка задачи
- •6.2. Сравнение центров распределения нормальных генеральных совокупностей
- •6.4. Проверка гипотезы о равенстве дисперсий двух нормальных генеральных совокупностей
- •6.5. Интервальная оценка дисперсии
- •7. АППРОКСИМАЦИЯ СИГНАЛОВ
- •7.1. Приближение сигналов рядами Тейлора
- •7.2. Интерполяция и экстраполяция сигналов
- •7.4. Cплайновая интерполяция сигналов
- •7.5. Cпектральный метод интерполяции сигналов
- •7.6. Интерполяционный ряд Котельникова–Шеннона
- •7.7. Методика аппроксимации эмпирических данных
- •8. РЕГРЕССИЯ
- •8.2. Корреляция и коэффициент корреляции
- •8.3. Уравнения регрессии
- •8.3.1. Линейная регрессия
- •8.3.2. Полиномиальная регрессия
- •8.3.3. Нелинейная регрессия
- •8.4. Сглаживание данных
- •8.5. Предсказание зависимостей
- •9. СИСТЕМЫ И УСТРОЙСТВА ОБРАБОТКИ СИГНАЛОВ
- •9.1. Общее понятие систем
- •9.3. Аналоговые фильтры
- •9.3.1. Основные типы аналоговых фильтров
- •9.3.2. Фильтры Баттерворта, Чебышева и Бесселя
- •9.4. Аналого-цифровые преобразователи
- •9.5. Цифроаналоговые преобразователи
- •10.1. Нерекурсивные цифровые фильтры
- •10.2. Рекурсивные цифровые фильтры
- •10.3. Импульсная характеристика цифровой системы
- •10.4. Частотные характеристики цифровой системы
- •11. АНАЛИЗ И ПРИМЕНЕНИЕ ЦИФРОВЫХ ФИЛЬТРОВ
- •11.1. Сглаживающие фильтры и фильтры аппроксимации
- •11.2. Разностные операторы
- •11.3. Интегрирование данных
- •12. ОПТИМАЛЬНЫЕ ЛИНЕЙНЫЕ ФИЛЬТРЫ
- •12.1. Модели случайных процессов и шумов
- •12.2. Критерии построения оптимальных фильтров
- •12.3. Фильтр Колмогорова–Винера
- •12.4. Оптимальные фильтры сжатия сигналов
- •12.5. Фильтры прогнозирования
- •12.6. Фильтр обнаружения сигналов
- •Список литературы
- •Оглавление

31
Полученную систему запишем в матричном виде
1
2
...
n
y
y
y
∆
∆
=
∆
1
2
...
m
x
x
x
∆
∆
=
∆
∂ϕ ∂ϕ ∂ϕ
( )
im
, jx
J
x
∂ϕ
=
∂
x∂ϕ∂
x∂ϕ∂
,,
T
T
y
C
xx
∂ϕ ∂ϕ
=<∆ ∆ >=< ∆ ∆ >=
∂∂
yy x x
.
TT
TT
x xx x
∂ϕ ∂ϕ ∂ϕ ∂ϕ
=< ∆∆ > <∆∆ >
∂ ∂∂ ∂
xx xx
x∂ϕ∂
T
x
∂ϕ
∂
x∂ϕ∂
Δy
, Δx
,
11 1
xx x
∂∂ ∂
12
J
=
... ... ... ...
∂ϕ ∂ϕ ∂ϕ
nn n
xx x
∂∂ ∂
12
...
m
, Δy = J Δx.
...
m
Матрица J имеет элементами значения производных функций
,..., ,
xxϕ
1
i = 1, 2,…, n по координатам
j = 1, 2,…, m, полу-
ченных после подстановки приближенных значений аргументов. Эта
матрица носит название матрицы Якоби и обозначается как отдельной
буквой J, так и в виде производной вектор-функции по векторному ар-
гументу
. Уравнение ошибок примет вид Δy =
Δx, ничем не
отличающийся от подобного уравнения в случае скалярной функции и
скалярного аргумента (см. раздел 2.2.2). Однако при всех выкладках
следует помнить, что Δy и Δx – векторы, а
– матрица размера (n ×m).
Ковариационная матрица ошибок вектора y по определению равна
Таким образом, C
y
=
ной вектор-функции.
C
x
, где
– матрица Якоби задан-

32
2.4. Обратная задача теории ошибок
( )
yx= ϕ
2
22
yx
x
∂ϕ
σ= σ
∂
xy
y
σ
0
σ
σ ≤σ
1
0x
x
−
∂ϕ
σ≤ σ
∂
60 ,α≈ °
siny = α
6
0
1 10 ,
−
σ≤⋅
60
sin
cos 0.5,
α= °
∂α
=α=
∂α
( )
1
66
0.5 1 10 2 10 0.4 .
−
−−
α
′′
σ≤ ⋅⋅=⋅≈
(, )z xy= ϕ
( )
( )
( )
( )
2
2
222
, ,.
zx xy y
xy xy
′′
σ=ϕ σ+ϕ σ
2
0
σ
22
0z
( )
( )
( )
( )
2
2
2 22
0
,,
x xy y
xy xy
′′
ϕ σ + ϕ σ ≤σ
( )
( )
2
2
22
2
2
0
0
1
y
x
x
y
σ
σ
+≤
′
σϕ
′
σϕ
x
σ
y
σ
допx
σ
σ
0 x
a′=σϕ
0 y
b′=σϕ
Обратной задачей теории ошибок назовем задачу определения
дисперсии погрешностей аргументов по заданной допустимой дисперсии ошибки функции.
В простейшем случае
1
−
∂ϕ
σ= σ
∂
.
x
,
. Следовательно,
Если предельное допустимое значение стандартного отклонения
не должно превосходить
Пример. С какой точностью нужно задать угол
чтобы обеспечить вычисление функции
, т. е.
0y
, то
с шестью верными
.
для того
знаками? Имеем
Ответ: аргумент нужно задать до десятых долей секунды.
Рассмотрим теперь функцию с двумя аргументами
Если x и y определяются с независимыми погрешностями, то
Зададим допустимое значение дисперсии ошибки функции
кое, что
σ ≤σ
. Следовательно,
та-
.
.
Перепишем полученное неравенство так:
Если взять
пустимых значений
луосями
и
в качестве координат плоскости, то область до-
и
,
будет лежать внутри эллипса с по-
допy
.
Таким образом, решение обратной задачи неоднозначное. Можно
определить лишь область допустимых значений для стандартных от-
.

33
клонений погрешностей, а не сами значения. Для двух переменных эта
( )
12
, ,...,
m
y xx x= ϕ
( )
( )
( )
2
2
2
2
222 2
11 2
...
m
y x x xm
′′ ′
σ=ϕ σ+ϕ σ+ +ϕ σ
( )
( )
2
2
22
11
m
x xm
′′
ϕ σ=ϕ σ
( )
( )
22
′′
( ) ( )
1
22
22
1
mm
x m xm
−
−
′′
ϕ σ=ϕ σ
2
y
σ
( )
2
22
1
, 1,...,
jj
x xy
jm
n
−
′
σ= ϕ σ =
1
1
jj
x xy
n
−
′
σ= ϕ σ
область – эллипс, для трех – эллипсоид и т.д.
Чтобы получить хотя бы одно решение, иногда прибегают к методу
равных влияний, который распространяется на любое число переменных.
Пусть
. Полагая ошибки всех переменных неза-
висимыми, имеем
.
Принцип равных влияний заключается в принятии гипотезы равно-
го вклада погрешностей всех (или части) аргументов в суммарную
дисперсию ошибки функции. Будем иметь еще m – 1 недостающих
уравнений:
,
2
ϕ σ=ϕ σ
2
x xm
2
2
,
m
. . . . . . . . . . . . . . . . . .
.
Решая эти уравнения совместно с уравнением для
, получим
.
Окончательно
.
Полученное равенство решает обратную задачу. Следует подчеркнуть отсутствие физического обоснования для принципа равных влияний, поэтому его следует применять лишь в случае, когда нет другого
выхода.

34
3. СТАТИСТИЧЕСКИЕ МЕТОДЫ ОЦЕНИВАНИЯ
123
, , ,..., ,
n
xxx x
Наблюдения называют прямыми, когда результатом этих наблюдений или измерений является сама искомая величина. В случае, когда
наблюдаемые величины являются исходными данными для вычисления других параметров, зависящих от этих величин, то к таким наблюдениям применяют термин косвенные наблюдения.
Однако между прямыми и косвенными наблюдениями нет четкой
границы. Приведем простой пример. Допустим, что нам нужно знать
площадь прямоугольника. В нашем распоряжении есть линейка с
нанесенной на ней линейной шкалой. Мы можем с помощью этой линейки измерить стороны и вычислить искомую площадь. Результатом
измерений является численное значение площади. Будут ли измерения
прямыми, если для вычисления площади приходится перемножать
данные измерения? Хочется сказать, что нет, так как в данном случае
непосредственно площадь не измеряется, а вычисляется. Если бы измерения были выполнены с помощью планиметра, то они были бы
прямыми.
С другой стороны, длина отрезка прямой определяется как разность двух отсчетов по линейке. Можно ли такую математическую
операцию, как вычитание, не принимать во внимание и считать измерения сторон прямыми, а перемножение – результатом косвенных
наблюдений? Условность границы между понятиями прямые и косвенные наблюдения очевидна.
По-видимому, прямыми измерениями можно назвать такие измерения, которые можно неоднократно повторить и результаты которых
могут быть использованы при вычислениях других величин, функционально связанных с результатами прямых измерений. Повторение измерений необходимо для того, чтобы образовать ряд наблюдений для
применения статистических методов обработки.
Некоторая условность в разделении этих двух типов наблюдений
(измерений) никак не мешает применению статистических методов
оценивания искомых величин, так как наблюдения, которые называют
косвенными, объединяют оба вида измерений, а прямые измерения
можно считать частным случаем косвенных.
Оцениванием называют процедуру определения оценки – приближенной величины – искомого параметра. Для оценивания, например
параметра θ по ряду наблюдений
необходимо выпол-

35
нить вычисления, используя эти наблюдаемые данные. Запишем эту
( )
( )
12
, ,...,
n
xx xϕ
θ
( )
123
, , ,...,
n
xxx x
11 2 2
... .
nn
x wx w x wx= + ++
xX
11 2 2
wx wx++
+=
,
wk=
11 2 2
...
nn
wx wx w x X+ ++ =
123
, , ,...,
n
xxx x
(
12
++
)
...
n
wX X+=
( )
12
... 1
n
ww w+ ++ =
( )
∞
,
k
wk=
процедуру следующим образом:
Функцию
называют статистикой, крышка над обо-
, ,...,
xx xθ=ϕ
12
.
n
значением θ параметра будет означать оценку.
Оценку называют несмещенной, если она не содержит систематической ошибки, т.е. θ = <
>, где треугольные скобки, как и прежде,
обозначают осреднение по «бесконечному ансамблю реализаций».
Как правило, несмещенная оценка не единственная, их может быть
бесконечное множество. Возникает задача выбора наилучшей из этих
оценок. Кажется естественным отобрать ту из них, которая имеет минимальную дисперсию погрешности
2
σ =〈 θ−θ 〉=
θ
2
min
.
3.1. Линейная оценка параметра
Рассмотрим следующую задачу. Требуется определить наилучшую в
среднеквадратическом смысле оценку параметра Х, значения которого
заданы рядом прямых наблюдений
раметра Х будет равна линейной статистике
Эта оценка будет несмещенной, если
. Линейная оценка па-
=
Поскольку
k
сти за скобки осреднения
Примем гипотезу о случайности погрешностей измерений. Если
содержат лишь случайную ошибку, то средние их зна-
чения равны точному, т.е.
Теперь условие несмещенности принимает вид
ww
Это и есть условие несмещенности линейной оценки. Таким образом,
имеем одно уравнение для определения n неизвестных. Число решений
бесконечно, вернее
коэффициентов
или
... .
wx X
nn
1, 2, …, n – точные константы, их можно выне-
.
1, 2, …, n.
x Xk= =
1n−
, где (n – 1) – число степеней свободы выбора
,
k
, или при Х≠0
.
1, 2, …, n. Действительно, если (n – 1) коэффи-

36
циентам
12 1
, ,...,
n
ww w
−
12 1
1 ( , ,..., )
nn
w ww w
−
= −
2 2 22
12
...
n
xx x〈∆ 〉 = 〈∆ 〉 = =〈∆ 〉 = σ
( ) ( ) ( ) ( )
222 2
2 22 2
11 22
...
x nn
xX wxX wx X wx Xσ=〈−〉=〈−〉+〈−〉++〈−〉
2 22 22 22
12
...
xn
ww wσ= σ+ σ+ + σ=
22
1
n
k
k
w
=
σ
∑
2
12
( , ,..., )
xn
ww wσ
1
1
n
k
k
w
=
=
∑
n
w
2
x
σ
1
1
1
n
nj
j
ww
−
=
= −
∑
2
11
22 2 2
11
1
nn
xj j
jj
ww
−−
= =
σ =σ +σ −
∑∑
2
1
22
1
2 21 0
n
x
kj
j
k
ww
w
−
=
∂σ
=σ −σ − =
∂
∑
1
1
1 ,
n
k jn
j
w wwk
−
=
=−= =
∑
( )
12
1
...
n
x xx x
n
= + ++
задать любые произвольные значения, то послед-
ний коэффициент определится однозначно
Воспользуемся вторым условием – условием минимума дисперсии
погрешности оценки. Рассмотрим два случая.
3.1.1. Независимые и равноточные наблюдения
В этом случае дисперсии ошибок всех наблюдений равны
.
Для независимых наблюдений дисперсия суммы равна сумме дисперсий. Поэтому
Вследствие равноточности имеем
.
.
.
Нужно найти минимум функции
при условии, что
. Поступим следующим образом. Определим
остальные коэффициенты и подставим в выражение для дисперсии
,
Теперь задачу можно решить как задачу поиска абсолютного ми-
нимума:
Отсюда
.
1, 2, …, n–1.
Итак, все коэффициенты равны одному и тому же числу. Легко понять, что это число 1/n. Таким образом,
через
:
.
.

37
Вывод: арифметическое среднее есть несмещенная и наилучшая в
k
x
22 2
12
, , ...,
n
σσ σ
12
, ,...,
n
xx x
2 22 22
11 22x
wwσ= σ+ σ+
22
...
nn
w+σ
2
x
σ
1
1
n
j
j
w==
∑
1
1
1
n
nj
j
ww
−
=
= −
∑
2
11
2 22 2
11
1
nn
x jj n j
jj
ww
−−
= =
σ = σ +σ −
∑∑
2
1
22
1
2 21 0
n
x
kk n j
j
k
ww
w
−
=
∂σ
=σ −σ − =
∂
∑
1
1
1
n
nj
j
ww
−
=
= −
∑
22
,
kk nn
wwσ= σ
1,..., 1kn= −
2
kk
w σ
k
w
22
00kk
wwσ= σ
0
w
2
0
σ
2
0
0
2
k
k
ww
σ
=
σ
2
0
0
2
11
1
nn
k
kk
k
ww
= =
σ
= =
σ
∑∑
2
k
pp=
∑
:1ww p=
kk
w pp=
среднеквадратическом смысле оценка величины, полученная по равноточным и независимым наблюдениям.
3.1.2. Независимые и неравноточные наблюдения
Теперь будем считать, что каждое наблюдение
содержит по-
грешности, дисперсии которых не обязательно равны. Пусть
соответственно дисперсии погрешностей
. Те-
перь дисперсия линейной оценки будет равна
Определим минимум
при условии, что
.
. Поступим по
аналогии с предыдущими рассуждениями:
,
,
.
Поскольку
, то получим уравнение
. Полученное равенство говорит о том, что все произведения вида
того, сумма
Пусть
тель, а
равны между собой и не зависят от индекса k. Кроме
должна равняться единице.
, где
– некоторый нормировочный множи-
– константа, имеющая размерность дисперсии. Отсюда
,
Обозначим
Итак,
pσ=
k
.
.
0
,
2
σ
k
. Теперь определим
00
.

38
Наилучшая линейная оценка в этом случае равна
1
1
n
kk
k
x px
p
=
=
∑
k
pp=
∑
2
k
p
x
k
x
k
p
2
0
σ
x
1
n
nn
2
x
σ
2
x
n
σ
σ=
, где
,
Величины
определения
центра тяжести, если «вес» точки с координатой
Постоянная
на оценку
0
pσ=
k
.
2
σ
k
носят название веса наблюдения, ибо формула для
аналогична той, которую применяют для вычисления
будет равен
может быть произвольной, так как ее выбор не влияет
. Ее можно также интерпретировать как дисперсию
наблюдения, вес которому мы приписываем равным единице («дисперсия единицы веса»).
3.2. Дисперсия ошибок линейных оценок
Получим теперь формулы для дисперсии ошибок линейных оце-
нок. Рассмотрим два варианта: все наблюдения независимы, но они
либо равноточны, либо неравноточны.
3.2.1. Независимые и равноточные наблюдения
Поскольку арифметическое среднее – оценка равноточных наблюдений – является несмещенной, то погрешность арифметического среднего равна арифметическому среднему погрешности измерений
x xx x
∆ = ∆ +∆ + +∆
( )
12
...
ческого равна
, а дисперсия ошибки среднего арифмети-
n
.
1
2 22 2
σ = σ +σ + +σ =
x
2
Таким образом, с увеличением числа наблюдений искомого пара-
метра точность оценки увеличивается, дисперсия ошибки арифметического среднего убывает обратно пропорционально n.
Стандартное отклонение ошибки арифметического среднего
убывает как квадратный корень из n:
2
σ
...
n
.
.

39
Отсюда вывод: для того чтобы увеличить точность оценки на один
11 2 2
12
...
...
nn
n
px px px
x
pp p
+ ++
=
+ ++
2
0
2
, 1, 2, , .
k
k
pk n
σ
= = …
σ
12
...
n
pp p p= + ++
12
12
... .
n
n
p
pp
xx x x
pp p
∆= ∆ + ∆ + + ∆
,
k
xk∆=
22 2
222 2
12
12
...
n
xn
p
pp
pp p
σ= σ+ σ+ + σ
22
0
,
kk
pkσ=σ =
22
00
xn
σσ
порядок (в 10 раз), нужно увеличить объем данных на два порядка (в
100 раз) и т.д. Возникает естественно вопрос, можно ли таким способом увеличивать точность беспредельно? Математика на этот вопрос
дает утвердительный ответ. Да, можно измерять отрезки прямой с точностью до одного микрометра линейкой с миллиметровыми делениями. Для этого нужно выполнить 1000 000 измерений, при этом измерение должно содержать только строго случайные погрешности.
Последнее условие, конечно, не выполняется, так как полное отсутствие систематических погрешностей на практике обеспечить нельзя.
3.2.2. Независимые и неравноточные наблюдения
Для оценки параметра Х при неравноточных измерениях мы имеем
формулу
Обозначая для краткости
, где
, получим ошибку
Все ошибки
1, 2, …, n по условию независимы, поэтому
.
Но
pp
222 2
12
σ= σ+ σ+ + σ= + + + =
0 0 0 12
22 22
pp pp p
1, 2, …, n, отсюда
p
n
... ...
pp p
( )
.
Итак, дисперсия ошибки среднего весового равна «дисперсии еди-
2
σ
2
0
ницы веса», поделенная на сумму весов наблюдений
σ=
x
.
p

40
Учитывая, что дисперсия ошибки каждого наблюдения равна диспер-
k
2
0
σ
2
0
σ
12
, ,...,
n
xx x
12
, , ...,
n
pp p
22 2 2
0 11 2 2
...
nn
pp pσ= σ= σ= = σ
222 2
0 11 2 2
...
nn
np p pσ= σ+ σ+ + σ=
( )
2
1
n
kk
k
px X
=
〈 −〉
∑
( )
2
2
0
1
1
n
kk
k
px X
n
=
σ=〈 − 〉
∑
12
, ,...,
n
xx x
2
0
σ
сии единицы веса, деленной на вес этого наблюдения (см. раздел 3.2.1),
2
σ
2
0
σ=
k
, делаем вывод, что вес среднего весового равен сумме весов
p
наблюдений.
3.3. Оценка дисперсии единицы веса по данным наблюдений
В разделе 3.1 мы показали, что произвольно взятая константа
есть не что иное, как дисперсия ошибки наблюдения, которому мы
приписываем вес единица. Произвольность этой константы определяется тем, что мы произвольно приписываем вес единица какому-либо
реальному или воображаемому наблюдению. В случае равноточных
наблюдений обычно вес, равный единице, дают каждому наблюдению.
В этом случае
не может быть произвольной величиной. Эта вели-
чина не может быть произвольной величиной и в том случае, когда вес
наблюдения известен и выбран обратно пропорционально дисперсии
ошибки.
Пусть
– исходные данные измерений,
– их
веса. Дисперсии ошибок отдельных наблюдений будем считать неизвестными. По определению весов имеем:
.
Очевидно, справедливо равенство
Следовательно,
.
.
Таким образом, дисперсия единицы веса равна среднему значению
арифметического среднего произведений весов на квадраты погрешностей. Операция, обозначенная треугольными скобками, требует беско-
нечного повторения набора наблюдений
и является лишь
теоретической процедурой. Поэтому в качестве оценки дисперсии единицы веса можно принять величину
, полученную из единственного
ряда наблюдений:
Соседние файлы в предмете [НЕСОРТИРОВАННОЕ]
