книги из ГПНТБ / Медич Д. Статистически оптимальные линейные оценки и управление

где 2* обозначает /га-мерный вектор вида

ІИ>)||

IIz С') I

Так как внешнее математическое ожидание в пра­

Следовательно, значение критерия качества, как можно было интуитивно ожидать, обусловлено факти­ ческими значениями измерений. Уравнение (5-2) можно рассматривать как определение критерия качества.

В любом случае в формулу для критерия качества входит условное математическое ожидание. Это понятие является фундаментальным для всей теории оценок, под­ робнее его место в теории будет выяснено впоследствии.

Пример 5-1. Предположим, что одна из составляющих передавае­ мого сообщения представляет собой случайную величину x ( k ) , где£ =

= const, неизвестную получателю.

Предположим также, что во время передачи сообщение подвер­

делении значения x(k) по известным измерениям 2(1), z(2), .. ., z ( j ) .

180

Рис. 5-3. Структурная схема системы связи.

'ся оптимальной, если у—скалярная функция / переменных, миними­ зирующая критерий качества вида / [х (k\j)] = £ [\х (k) — х

В этом примере функция потерь представляет собой просто модуль ошибки оценки.

Основы теории оценок

Представим условную функцию распределения ве­ роятностей x(k) при условии z ( l ) , ..., z(y') в виде

Этот фундаментальный и мощный результат принад­ лежит Шерману [Л. 5-1]. Другими словами, в теореме утверждается, что при выполнении требований симмет­ ричности и выпуклости условной функции распределения оптимальная оценка представляет собой условное мате­ матическое ожидание. Очевидно, оптимальная оценка

ISi

что она существует. Однако более важно заметить, что

1,0

Выпуклость

Симметрия

І

Рис. 5-4. Иллюстрация симметричной и выпуклой условной функции распределения вероятностей случайной величины.

для всех значений аргумента, меньших или равных ее математическому ожиданию, показан на рис. 5-4.

Очевидным следствием теоремы 5-1 является то, что при независимых случайных процессах {x(k), kŒl} и

Доказательство теоремы основано на следующей лем­ ме, известной из теории вероятностей [Л. 5-2, 5-3].

182

Теперь рассмотрим следствие теоремы 5-1, которое относится к частному случаю более общей задачи, по­

носительно своего математического ожидания и выпукла

в предположении, что матрица Рг-г* размера jmxjtn и матрица Q размера пХп несингулярны.

Сначала докажем симметричность. Заменяя g в урав­ нении (5-4) на I—\ получаем:

X(x-l)]dx,

183

Проводя замену переменных y = — x в последнем выражении, получаем:

Сравнивая уравнения (5-6) и (5-7), можно_видеть, что функция F(l\z*) симметрична относительно | .

Выпуклость для любого £<g;£ следует из того факта,

что

Отметим, что следствие также справедливо для асим­ метричных функций потерь (Л. 5-4], т. е. четвертое свой­ ство допустимой функции потерь здесь не является необ­ ходимым.

Из следствия видно, что оптимальная оценка имеет

вид

ожидания. В этом случае оптимальная оценка прини­ мает вид:

при условии г(1), (2), ..., г(/) и предполагается, что эта функция определена и непрерывна на всей области ин­ тегрирования за возможным исключением конечного чис­ ла точек.

Транспонируя обе части полученного соотношения и проводя в нем интегрирование, приходим к искомому результату:

x(k\j) = E[x(k)\z*(j)}.

Достаточность легко доказывается при рассмотрении

dxtdxj

186

Из дифференциального исчисления известно, ^то этих

как / [x (k I /)] — выпуклая монотонно возрастающая функ­ ция x(k\j), то в точке условного математического ожи­ дания она имеет глобальный минимум, что и требова­ лось доказать.

Из доказанной теоремы следует, что по меньшей ме­ ре для одной допустимой функции потерь, а именно для L = x'[k\j)x(k\j), утверждение теоремы 5-1 справедливо без требований симметричности или выпуклости услов­ ной функции распределения вероятностей. Неизвестно, справедливо ли оно для какой-либо другой допустимой функции потерь или нет.

Из сравнения теоремы 5-1 с теоремой 5-2 ясно, что последняя, хотя и накладывает более жесткие ограни­ чения на функцию потерь, является более общей, чем первая, в том смысле, что она справедлива для более широкого класса случайных процессов. Любопытно от­ метить, что если допущения, сделанные при формулиров­ ке задачи оценки, удовлетворяют только условиям тео­ ремы 5-1 или только теоремы 5-2, то оптимальная оцен­ ка в обоих случаях является условным математическим ожиданием. В этом смысле утверждения двух доказан­ ных теорем совпадают.

Теперь сосредоточим внимание на оптимальных ли­ нейных оценках. Всякая линейная оценка x(k), получен­ ная на основе^измерений г(1), 2(2), ..., z(j), может быть представлена в виде

случайные процессы. Тогда справедливо следующее утверждение.

187

Д о к а з а т е л ь с т в о . Если известны первые и вто­ рые моменты, т. е. математические ожидания и корреля­

математическими ожиданиями и корреляционными ма­ трицами, поскольку гауссовские процессы однозначно определяются их первыми и вторыми моментами.

Однако для гауссовских процессов в силу следствия 5-1 можно утверждать, что оценка, оптимальная для лю­

вестных первых и вторых моментах случайных процес­ сов {x(k), kŒl} и {z(i), i = l , ..., /} эти процессы можно моделировать гауссовскими процессами с теми же ста­ тистическими параметрами.

Точнее, заметим, что необходимо знать только x(k),

* 0')' Рх(к)г*(і) И Pz*(k)z*(k)-

Возможна и другая точка зрения на приведенный ре­ зультат. Если ограничиться линейными оценками, т. е. оценками вида (5-12) (ср. задачу 3-13), то для опреде­ ления оценок потребуются только моменты первого и второго порядков. Далее, используя тот факт, что суще­ ствуют единственные гауссовские процессы с теми же первыми и вторыми моментами, применим следствие 5-1 и получим в результате, что линейная оценка, оптималь­

и дает решение очень широкого класса задач оценки. Следствие 5-1 представляет собой частный случай при­ менения теоремы к гауссовским процессам. Принципи­ альным результатом следствия является тот факт, что оценка, оптимальная для любой допустимой функции потерь, а именно оценка в виде условного математиче­ ского ожидания, является линейной в силу гауссовости рассматриваемых случайных процессов.

В теореме 5-2 общность класса допустимых функций потерь снижается ради расширения допустимого класса случайных процессов. Для критерия качества вида среднеквадратической ошибки оптимальная оценка вновь имеет вид условного математического ожидания, однако

188

условная функция распределения вероятностей уже не обязательно должна быть симметричной или выпуклой.

Теорема 5-3 относится к ситуации, когда известны только первые и вторые моменты рассматриваемых слу­ чайных процессов. Она дает оценку, оптимальную для любой допустимой функции потерь. Простота оценки, а точнее ее линейность, делает этот результат особенно привлекательным с вычислительной точки зрения.

Теорема 5-1, как отмечалось ранее, принадлежит Шерману (5-1). Следствие 5-1 и теорема 5-2 доказаны Дубом (Л. 5-5], а теорема 5-3 представляет собой интер­ претацию некоторых результатов Калмана [Л. 5-6].

5-2. ОПТИМАЛЬНОЕ ПРЕДСКАЗАНИЕ В ДИСКРЕТНЫХ ЛИНЕЙНЫХ СИСТЕМАХ

Хотя результаты предыдущего параграфа достаточ­ но фундаментальны, они имеют ограниченное практи­ ческое применение. Это можно видеть, рассматривая га­ уссовский случай, когда

Для каждого мно сества измерений здесь необходимо вычислить матрицу, обратную матрице •Р,.( / -) 2 ,( ; -) размера jmxjtn. Напомним, что / — число измерений, a m — чис­ ло компонент в векторе измерения. Если m равно едини­ це или двум и проделано 40 измерений, то потребуется обращать матрицу размера 40x40 или 80X80.

Если как k, так и / могут изменяться, и требуется проводить последовательную оценку, т. е. обрабатывать

в реальном масштабе времени. Оказывается, что такие алгоритмы легко получить для гауссовских марковских процессов с дискретным временем, модель которых была, описана в § 4-2.

В настоящем и следующем параграфах будут полу­ чены алгоритмы оптимального предсказания и оптималь­ ной фильтрации для указанного класса случайных про-

180