2.2 Алгоритмы оценивания на основе минимизации наблюдаемых критериев. Метод наименьших квадратов.

рассмотренных примеров (см. Рис. 2.1.1- 2.1.4) достаточно очевидна - неизвестные параметры следует выбрать так, чтобы «лучшим» образом совместить вычисленную и измеренную реализации. Так, к примеру, в рассмотренной в разделе 2.1 задаче определения фазы x = ϕ0 по измерениям (2.1.15) этот критерий будет иметь вид

m

J мнк (x) = ∑( yi − Asin(ωti + x))2 .

i=1

Определяя для J мнк(x) в соответствии с приведенными в приложении правилами (П1.15),

В частности, для примера оценивания фазы эти уравнения конкретизируются к виду

m

2A∑( yi − Asin(ωti + x)) cos(ωti + x) = 0 .

i=1

Следует напомнить, что (2.2.3) является лишь необходимым условием, и для обеспечения локального минимума требуется проверять справедливость выполнения достаточного условия

считать Q диагональной матрицей с элементами qi , i =1.m , то вместо (2.2.1) будем иметь

m

Jомнк (x) = ∑qi ( yi − si (x))2 .

i=1

Смысл введения весовой матрицы Q заключается в том, чтобы обеспечить возможность по разному учитывать вклад отличий измеренных и вычисленных значений, соответствующих различным компонентам вектора измерений. В этом случае говорят о так называемом

обобщенном методе наименьших квадратов (ОМНК). Его иногда называют методом

взвешенных наименьших квадратов (weighted least squares method).

В наиболее общем случае в качестве минимизируемого наблюдаемого критерия может быть использована функция

которая при диагональном характере матриц Q и D примет вид

25

(ММНК). Смысл второго дополнительного слагаемого заключается в том, что при отличии получаемых оценок xˆ j ( y) от некоторых назначаемых из тех или иных соображений значений xj ,

устанавливается определенный штраф, уровень которого задается коэффициентами d j , j =1.n .

Из сказанного вытекает, что нахождение оценок, соответствующих методу наименьших квадратов или одному из его обобщенных вариантов, сводится к отысканию минимума функций (2.2.1), (2.2.5) или (2.2.6). Таким образом, задача синтеза алгоритма сводится к выбору экономичного в вычислительном отношении алгоритма поиска экстремума с привлечением методов нелинейного программирования [2.13]. В общем случае эта задача не является тривиальной, поскольку минимизируемые функции могут иметь сложный многоэкстремальный характер. Решение задачи анализа точности при сделанных предположениях наталкивается на определенных трудности, поскольку для этого недостаточно используемых априорных данных.

2.2.2 Общее решение линейной задачи

Наиболее просто задача синтеза алгоритмов решается в линейной постановке, т.е. такой, в которой измерения могут быть представлены в виде (2.1.11). В этом случае, в частности, для обычного МНК минимизируемый критерий (2.2.1) запишется как

Нетрудно заметить, что относительно x функция (2.2.7) представляет собой квадратичную форму

J мнк(x) = x тH тHx − 2x тH т y + yH тHy ,

которая при невырожденной H тH имеет единственный экстремум, и при этом достаточное условие (2.2.4) выполнено.

Принимая во внимание соотношение (П1.30), систему нормальных уравнений для критерия (2.2.7) можно записать в виде

H т ( y − Hx) = 0 ,

Условие невырожденности H тH будем называть условием наблюдаемости вектора x , а сам вектор – наблюдаемым вектором. Использование этих терминов вполне оправдано, поскольку в

или

26

Поступая аналогично при решении линейной задачи в случае ОМНК и считая невырожденной

Заметим, что, как правило, матрица Q не вырождена, и, таким образом, при выполнении условия наблюдаемости матрица H тQH также является невырожденной.

Представленные соотношения сведены в таблицу 2.2.1

Таблица 2.2.1

Наблюдаемые критерии в линейной задаче оценивания.

Обращаем внимание на одно весьма важное обстоятельство – все получающиеся оценки линейным образом зависят от измерений. Это есть следствие линейности измерений (2.1.11) и

27

квадратичного характера минимизируемых критериев (2.2.7), (2.2.11), (2.2.14).

Весьма полезным представляется соотношение, с помощью которого оценки ММНК выражаются через оценки ОМНК. Для его получения запишем

xˆ ммнк ( y) = x + K ммнк ( y − Hx) = (E − K ммнкH )x + K ммнк y. (2.2.17)

Принимая во внимание тот факт, что

(E − K ммнкH ) = (D + H тQH )−1 (D + H тQH )− (D + H тQH )−1 H тQH = = (D + H тQH )−1 (D + H тQH − H тQH ) = (D + H тQH )−1 D,

а

K ммнк = (D + H тQH )−1 H тQ = (D + H тQH )−1 (H тQH )(H тQH )−1 H тQ ,

В линейной задаче может быть получено определенное продвижение в решении задачи анализа точности, поскольку в этом случае могут быть получены явные выражения для ошибок оценок в виде

εмнк ( y) = x − xˆмнк ( y) = x − K мнк y = x − (H тH )−1 H т (Hx + ν) = −K мнкν, (2.2.19) εомнк ( y) = x − xˆомнк ( y) = x − K омнк y = x − (H тH )−1 H т (Hx + ν) = −K омнкν, (2.2.20)

εммнк ( y) = x − xˆ ммнк ( y) = (E − K ммнкH )(x − x) − K ммнкν. (2.2.21)

Важно подчеркнуть, что ошибки оценок, соответствующих МНК и ОМНК, не зависят от вектора оцениваемых параметров, а зависят только от ошибок измерения. Ошибка оценивания для ММНК зависит еще и от значения самого оцениваемого вектора.

С учетом (2.2.18) можем также записать

εммнк ( y) = (D + H тQH )−1 (D(x − x) + H тQHεомнк ( y)). (2.2.22)

Из представленных соотношений понятно, что для получения каких либо количественных характеристик, необходимых при решении задачи анализа точности, необходимо привлечение дополнительной информации о свойствах ошибок измерения (в случае МНК и ОМНК) и самого оцениваемого вектора (в случае ММНК).

Конкретизируем выражения для оценок и соответствующих им ошибок для задачи оценивания неизвестной скалярной величины по измерениям (2.1.1), выбирая в критерии (2.2.11) для простоты матрицу Q диагональной с элементами qi > 0 , i =1.m , а в критерии (2.2.14), полагая D = d .

Принимая во внимание вид матрицы H т =[1,1....1] , нетрудно получить приведенные в таблице

2.2.2 выражения для оценок и их ошибок.

28

Таблица 2.2.2 Алгоритмы оценивания и их ошибки для различных методов для простейшего примера

величины определяются уже как значения, «взвешенные» с нормированными коэффициентами

29