Добавил:
ivanov666
Опубликованный материал нарушает ваши авторские права? Сообщите нам.
Вуз:
Предмет:
Файл:Методы и средства обработки сигналов. Учебное пособие.pdf
51
Определим веса неизвестных:
11430
32.3,
354
x
p = =
11430
13.5,
846
y
p = =
11430
12.0
3951
z
p = =
0.306
0.10,
32.3
x
ε= =
0.306
0.15,
13.5
y
ε= =
0.306
0.16
12.0
z
ε= =
0.72 0.10,x = ±
2.29 0.15,y = ±
3.06 0.16.z = ±
l Ax l= +∆
2
2 21
0
0
2
,
k kk
k
pp
−
σ
= σ=σ
σ
.
Отсюда
Решение следует записать в виде
4.4. Приведение уравнений МНК
с неравноточными наблюдениями к равноточным
Нормальные уравнения с неравноточными наблюдениями имеют
более сложный вид, чем это предусмотрено, например, схемой Гаусса.
Существует простая операция, которая позволяет преобразовать исходные уравнения так, что «наблюдения» становятся равноточными.
Пусть
метров (m×1), l и ∆l – векторы наблюдений и погрешностей (n×1).
Если наблюдения независимы, то ковариационная матрица ошибок
имеет вид
Поскольку вес каждого наблюдения обратно пропорционален дис-
персии
, где А – матрица (n×m), х – вектор искомых пара-
2
0 0 ... 0
σ
1
2
0 0 ... 0
σ
C
=
l
∆
2
... ... ... ... ...
0 0 0 ...
.
2
σ
n
, то
.
= σ
C
∆
l
1
−
0 0 ... 0
p
1
−
0 0 ... 0
2
0
... ... ... ... ...
1
p
2
0 0 0 ...
.
1
−
p
n
52
Обозначим
1
2
21
0
0 0 ... 0
0 0 ... 0
... ... ... ... ...
0 0 0 ...
l
n
p
p
PC
p
−
∆
=σ=
1
2
0 0 ... 0
0 0 ... 0
... ... ... ... ...
0 0 0 ...
n
p
p
P
p
=
P
Pl PAx P l= +∆
,PA A′=
.Pl l
′
∆=∆
,l Ax l
′′ ′
= +∆
l′∆
1
1
1
22
2
00
1
0 ... 0
0 ... 0
=.
... ... ... ...
0 0 ...
TT
ll
n
n
C Pll P P ll P PC P
p
p
P PE
p
′
∆∆
−
−
−
= ∆∆ = ∆∆ = =
σ=σ
P
.kp
12
, , ...,
n
pp p
,
Умножим исходное матричное уравнение слева на
′
=
перь
стей
. Обозначим ,Pl l
причем ковариационная матрица вектора погрешно-
имеет вид
. Получим
.
Те-
Мы получили, таким образом, ковариационную матрицу ошибок
независимых равноточных наблюдений. К системе исходных уравнений, отмеченной штрихами, применима любая методика решения
уравнений в методе наименьших квадратов.
Умножение слева на диагональную матрицу
умножению каждой k-й строки исходных уравнений на
равносильно
Система
должна быть задана.
МНК может быть применен и к системе с зависимыми наблюдениями, но в этом случае ковариационная матрица погрешностей наблюдений перестает быть диагональной и описанная здесь методика становится неприменимой.
53
5. ИНТЕРВАЛЬНЫЕ ОЦЕНКИ
k
x
0
,x
0
:x
0
0
(,)
( ) lim
N
Mx N
Fx
N
→∞
=
()Fx
() 0Fx>
()Fx
[ ]
aXb≤≤
( ) 0, ( ) 1Fa Fb= =
()Fx
()
() 0
dF x
fxdx= >
5.1. Понятие о распределении ошибок. Вероятность
Допустим, что нас интересует некоторый параметр Х, заданный
приближенным числом x. Ошибкой этого числа будет x – X. Обозначим
отдельную «реализацию» этого числа через
лагать, что число реализаций – экспериментальных значений – может
быть какое угодно. Каждая реализация значения x будет занимать
вполне определенное положение на числовой оси.
Точечной оценкой этого параметра называют единственную точку
на числовой оси, которой мы по каким-либо признакам отдали предпочтение. При интервальной оценке указывают не точку, а целый интервал, внутри которого наш параметр, по-видимому, лежит с определенной долей надежности (вероятности). Основной задачей данного
раздела является обоснование меры этой надежности. При этом фундаментальное значение при интервальном оценивании имеет так называемая функция распределения.
Определим функцию распределения приближенного числа х как
предел отношения числа реализаций М, для которых оно лежит на
числовой оси слева от некоторого фиксированного значения
щему числу реализаций N. При неограниченном его увеличении аргументом функции распределения будет значение
, причем будем предпо-
к об-
.
цах
вом случае
5.1.1. Свойства функции распределения
Из определения
1)
при любых значениях х;
2) при возрастании х функция
3) если распределение параметра Х определено в конечных грани-
, т.е.
,ab
Параметр Х может быть либо непрерывным, либо дискретным. В пер-
дифференцируема. Ее производная
следует:
, то
растет;
.
54
называется дифференциальной функцией распределения или плотно-
()Fx
[ ]
12
,xx
k
x
[ ]
12
,xx
( ) ( )
1 221
()Px X x Fx Fx≤< = −
[
)
12
,xx
1
,xx=
2
,xx x= +∆
( ) ( )
()xfx∆⋅
[
)
,,xx x+∆
()fx
( ) ( ) ( )
2
1
21
x
x
Fx Fx fxdx−=
∫
( )
12
стью вероятности.
Последний термин легко понять, если проследить за следующими
рассуждениями. По определению
есть величина, равная доле всех
возможных реализаций параметра Х, меньших фиксированного значения х, к общему числу реализаций. Если задан интервал
, то до-
ля всех реализаций, попадающих в этот интервал, называется вероят-
ностью попадания
в
. При интервальном оценивании
используют также термин надежность оценивания. Мы будем прини-
мать оба эти термина за синонимы. Общепринята следующая запись
вероятности:
.
Здесь буквой P обозначена вероятность (probability), а в скобках
дается ответ на вопрос «чего?». В данном случае мы утверждаем, что
вероятность того, что Х лежит внутри интервала
равна разно-
сти функций распределения в этих точках.
Если значения x
и x2 брать как угодно близкими друг к другу, т.е.
1
то
( ) ( ).Px X x x Fx x Fx xfx≤ < +∆ = +∆ − ≈∆ ⋅
Если
есть вероятность попадания Х в интервал
то, естественно,
есть плотность этой вероятности. Чтобы получить вероятность на
произвольном отрезке, нужно проинтегрировать плотность вероятности в пределах этого отрезка
Например, если ваша интервальная оценка параметра Х есть интервал
с надежностью 90 %, то это означает, что только 10 % всех
,xx
экспериментальных данных может выпасть из этого интервала.
– отношение этой вероятности к длине отрезка ∆x
.
55
5.2. Основные законы распределения
k
x
( )
0 ,
1
,
0 .
xa
fx a x b
ba
xb
<
= ≤<
−
≥
( )
0 ,
,
1 .
xa
xa
Fx a x b
ba
xb
<
−
= ≤<
−
≥
( )
Px
( )
0 1.0
1 1.0 0.0
0 0.0
x
fx x
x
∆ ≤−
∆ = − <∆ ≤
∆>
( )
0.0
0.5
0.5 0.0 0.5.P x dz
−
− <∆ ≤ = =
∫
Известно довольно большое количество различных «типовых» законов распределения случайных чисел, к каковым принадлежат и при-
ближенные числа
остановимся лишь на четырех.
, полученные из наблюдений. В нашем курсе
5.2.1. Равномерное распределение
При равномерном распределении плотность вероятности – постоянная
величина, а функция распределения линейно растет от 0 до 1.
Равномерному закону распределения подчиняются, например,
ошибки округления. Рассмотрим следующий пример и ответим на вопрос: с какой надежностью можно утверждать, что целое число, полученное путем отбрасывания дробной его части, не будет иметь погрешность, по абсолютной величине превосходящую 0.5? Будем
считать, что дробная часть может содержать как угодно большое число
знаков. Тогда ошибку следует считать непрерывной величиной, распределенной в интервале от 0.0 до –1.0. Нужно определить вероят-
ность
Следовательно, надежность такого утверждения равна 50 %.
0.5 0.0
− ≤∆ ≤
, если закон распределения имеет вид
5.2.2. Нормальное распределение. Правило «трех сигм»
Этот закон распределения широко используется для интервальных
оценок в математической обработке наблюдений. Его универсальность
объясняется тем, что существует большой класс функций распределения случайной величины, который при многократном повторении
56
трансформируется в нормальный. Например, если ошибки в
12
, ,...,
n
xx x
1
k
xx
n
=
∑
xxX∆= −
( )
2
2
2
1
2
x
fx e
∆
−
σ
∆=
πσ
x
( )
2
,NXσ
( )
2
0,N σ
xX
σ
xX t= +σ
распределены по равномерному закону (например, из-за округления), то
распределение ошибки среднего
практически можно считать
нормальным. То же самое, если искомая величина связана линейно с косвенными наблюдениями, число которых достаточно большое, то распределение ошибки оценки этой величины, полученной методом наименьших квадратов, также можно считать нормальным. Исключение
представляют нелинейные преобразования случайной величины. В этом
случае закон распределения нужно изучать особо.
Дифференциальный закон нормального распределения
имеет вид
,
а интегральная функция распределения
2
x
z
Fz e d x
= ∆
()
∫
−∞
∆
−
1
πσ
2
2
σ
2
( )
.
Нормальный закон распределения имеет два параметра X и σ. По-
этому вместо слов «случайная (т.е. приближенная) величина х распределена по нормальному закону с математическим ожиданием
(точным значением) Х и дисперсией (ошибкой) σ
мощью математических символов следующим образом:
2
» записывают с по-
∼
Для случайной ошибки ∆x справедливо следующее утверждение:
∆x ∼
.
Для выполнения математических операций, связанных с нормаль-
ным законом, удобно пользоваться нормированной случайной величи-
.
ной t, которая определяется следующим образом:
Очевидно, что математическое ожидание случайной величины t
равно нулю, а дисперсия – единице:
t−=
, т.е.
.
57
11
0t xX x X
= −= − =
σσ
,
( )
2
2
2
22
1
1t xX
σ
〈 〉= − = =
σσ
( )
0,1N
( )
2
2
1
2
t
ft e
−
=
π
( )
2
2
1
2
t
z
F t e dz
−
−∞
=
π
∫
( )
Ft
( )
2
2
0
1
Ф
2
t
z
t e dz
−
=
π
∫
( )
2
2
1
2
t
z
t
t e dz
−
−
Ψ=
π
∫
( )
,xx−σ +σ
( ) ( )
( )
( ) ( )
( )
( )
tΨ
x ±σ
( ) ( )
( )
( )
Ψρ
Xx= ±ρ
,
поэтому t
∼
.
Для нормированной случайной величины t дифференциальный и
интегральный законы имеют вид:
Для вычисления функции
,
существуют таблицы. Функцию
.
иногда называют функцией Лапласа, а
интегралом вероятностей.
Для иллюстрации применения таблицы «интегралов вероятностей»
вычислим вероятность «попадания» истинного значения параметра Х в
интервал
Px X x PxX xX
−σ ≤ ≤ +σ = − −σ ≤ ≤ − −σ =
10 1
= − ≤ ≤ + = − ≤ − ≤ = ≥ ≥− = ≤
1 0 1 1 1 1 1 1.
P t t P t P t Pt
( ) ( )
( )
.
0
−−
xX xX
= − ≤≤ + =
P
σσ
( )
( )
( )
( )
Эта вероятность равна
Таким образом, если результат приближенной оценки равен
то это означает, что надежность такой интервальной оценки 68.3 %.
Решим другую задачу. Вместо стандартного отклонения σ возьмем
такую величину ρ, что
Из таблицы находим, что
Величину ρ называют вероятной ошибкой. Если границы интерва-
ла определяет вероятная ошибка
тервальной оценки равна 50 %.
= 0.683.
= 0.5, если ρ = 0.675σ.
0.5Px X x−ρ ≤ ≤ +ρ =
(надежность 50 %).
, то надежность такой ин-
,
58
Оценка интервала с границами, определяемыми стандартным от-
1.645 1.645 .x Xx− σ≤ ≤ + σ
2 2,x Xx− σ≤ ≤ + σ
2.58 2.58 .x Xx− σ≤ ≤ + σ
3t ≤
xX
t
−
клонением σ, имеет невысокую надежность: около одной трети всех
экспериментальных данных «на законном основании» может быть вне
этого интервала. Мы вправе увеличить надежность интервальной
оценки, задавая более высокую доверительную вероятность. Чаще
всего берут 0.90; 0.95 и 0.99.
Например, если P
но получим
Наконец, при условии, что
= 0.90, то из таблицы следует
дов
При P
= 0.95 и P
дов
= 0.99 соответствен-
дов
, вероятность «выпадения» наблю-
и
1.645,t ≤
дательных данных очень мала и составляет 1 – 0.997 = 0.003, т.е. из
тысячи значений можно ожидать, что только три будут за пределами
интервала трех сигм. Эта вероятность настолько мала, что правило
трех сигм часто берут в качестве критерия для отбраковки плохих
данных.
Необходимо подчеркнуть, что само значение σ можно получить
лишь при значительном числе наблюдательных данных, во всяком
случае больше десяти. Реально вместо σ имеем среднеквадратическую
ошибку ε, которая сама вычисляется с ошибкой. В этом случае критерий трех сигм нужно применять с большой осторожностью. При малом
числе наблюдательных данных, или, как говорят, в случае малой выборки, описанная методика интервального оценивания становится
несостоятельной. Нормальный закон распределения необходимо заменить на распределение Стьюдента.
5.2.3. Распределение Стьюдента. Интервальное оценивание
Распределению Стьюдента подчиняется нормированная случайная
величина t, если стандартное отклонение σ заменить на среднеквадратическую ошибку ε
Величина ε в отличие от σ сама является случайной величиной, так
как получена из конечного числа экспериментальных данных.
Как мы видели, для вычисления среднеквадратической ошибки из-
мерения применяется формула
в случае малой выборки
=
.
59
(
)
2
1
1
n
j
j
xx
n
=
−
ε=
−
∑
,
( )
1
2
2
1
2
, 1,
2
k
t
t
k
t
S t k dt
k
k
k
+
−
−
+
Γ
= +
Γπ
∫
( ) ( )
1
0
, 0
tx
x e t dt x
∞
−−
Γ= >
∫
( )
,Stk
( )
,
xX
tk
−
α=
ε
2
χ
222 2
...
zz zχ= + + +
где n – 1 – число степеней свободы величины ε : число наблюдений
минус одна связь (среднее арифметическое). Используя МНК с m неизвестными, для ε – ошибки неизвестного х – число степеней свободы
равно n – m. Вообще, если число степеней свободы обозначить через k,
то интегральный закон распределения случайной величины t можно
записать так:
где Г(x) – гамма-функция, известная в высшей математике как специальная функция
.
Для вычисления доверительных границ используют таблицы функ-
ции
ятность P
. В качестве заданных величин берут доверительную веро-
= 1 – α и число степеней свободы k. Таким образом, эта
дов
таблица имеет два входа: число степеней свободы k и величина α, ко-
торую называют уровнем значимости. Выходной величиной таблицы
является
.
5.2.4. Распределение Пирсона
Интервальная оценка дисперсии
Распределению Пирсона, или, как его еще называют, распределе-
нию
разом:
, подчиняется случайная величина, полученная следующим об-
12
,
k
60
где каждая из переменных
, jzj=
z
2
χ
1
22
0
2
1
(,) .
2
2
z
kt
k
P z k t e dt
k
−−
=
Γ
∫
2
χ
2
χ
( )
2
2
1
, 1
n
j
j
xx
=
−
= = −
σ
∑
( )
2
2
1
1
n
j
j
xx
n
=
−
ε=
−
∑
22
zk
−ε
=ε=
σσ
1
zz<
2
zz≤
( )
1 2 21
Pz z z p p≤≤ = −
2
1
2
pα= −
1
.
2
pα=
( )
1, 2, …, k имеет среднее значение,
равное нулю, дисперсию, равную единице, и распределена по нормальному закону:
Величина
∼ N(0,1).
j
имеет k степеней свободы. Эта величина положитель-
на и ее закон распределения определен только в положительной области аргумента:
Символ
Доказано, что
мы заменили обозначением z.
-распределению с n – 1 степенями свободы под-
чиняется величина
.
Так как квадрат среднеквадратической ошибки единичного изме-
рения
2
.
, то
1n
2
Пусть величина z подчиняется распределению Пирсона, p1 – веро-
ятность выполнения неравенства
. Очевидно, что
Пусть
,
Тогда
, а p2 – вероятность того, что
.
, где α – уро-
12
1Pz z z≤ ≤ = −α
вень значимости.
Для распределения Пирсона имеются таблицы, по которым можно
определить z
Как с помощью величин z
и z2, задавая α и k.
1
и z2 получить интервальную оценку
1
дисперсии по заданным ε и k? Приведем последовательно эквивалентные преобразования исходного неравенства к тому, которое нас интересует: