
- •Глава 3 основы теории случайных сигналов
- •3.1. Случайные события и их характеристики
- •3.2 Случайные величины и их свойства
- •3.3 Законы распределения случайных величин
- •3.4 Случайные процессы и их характеристики
- •3.5 Спектральные представления стационарных случайных процессов
- •3.6 Методи апроксимації случайных сигналов
- •3.6.1 Вейвлети
- •3.6.2 Власні структури
- •3.6 Марковские процессы
- •3.8. Представление модели сигналов в форме пространства состояний
- •3.8 Алгоритмы генерации марковского процесса
- •3.9. Модель наблюдения случайных процессов
- •3.10. Методы оптимальной оценки случайных величин и случайных процессов
- •3.10.1 Выборочные методыоптимальной оценки случайных величин
- •3.10.2 Рекурсивные методы оптимальной оценки случайных величин
- •3.10.3 Рекурсивные методы оптимальной оценки случайных процессов
- •3.11. Метод анализа алгоритмов оценки случайных процессов
3.9. Модель наблюдения случайных процессов
Алгоритм (3.5) обычно дополняется уравнением наблюдения. Модель наблюдения задается линейным алгебраическим соотношением:
(3.7)
где
- матрица, которая задает ослабление
сигнала; шум наблюдения
является белым гауссовский
шумом
с дисперсией
инулевим
средним.
Структурная схема алгоритма наблюдения на основе уравнений (3.5) и (3.7) представлена на рисунке 3.23.
Пример реализации передаваемого и наблюдаемого процессов представлен на рис. 3.24.
Для обработки сигналов, наблюдаемых на фоне шума рабзаботаны рекурсивные процедуры оценки случайных величин и случайных процессов.
3.10. Методы оптимальной оценки случайных величин и случайных процессов
3.10.1 Выборочные методыоптимальной оценки случайных величин
Основные характеристики параметров ТКС представляют собой случайные процессы. Однако, многие из процессов можно считать эргодическими, что позволяет применять математический аппарат теории вероятностей для случайных величин.
В
этом случае оказывается возможным
обойтись двумя основными оценками:
выборочным средним
и выборочной дисперсией
.
В соответствии с их определением, они
выражаются через плотность распределения
соответственно:
,
.
Для
дискретизированного процесса
справедливы выражения
и
,
где интегралы заменяются соответствующими
суммами:
,
(3.8)
,
(3.9)
где
-объем
выборочных данных.
Значения
и
- суть выборочные оценки, которые при
сходятся к истинному значению:
.
Получаемые
выборочные оценки статистических
параметров могут далее использоваться
для задач управления и принятия решений.
Однако, для автоматических систем
выборочные оценки не очень удобны из-за
того, что для ее получения необходимо
затратить определенный интервал времени
.
Это приводит к дополнительным задержкам.
Уменьшение же интервала
приведет к потере точности оценки,
поскольку эти оценки требуют большого
объем выборочных данных
и строго выполняются лишь на
.
Более конструктивным типом оценок
являются рекуррентные процедуры
оценивания, которые дают текущую оценку
процессу
,
а при оценке случайной величины
рекуррентная процедура асимптотически
стремится к истинному значению. Рассмотрим
более подробно рекурсивные методы
оценки.
3.10.2 Рекурсивные методы оптимальной оценки случайных величин
Для рекурсивной оценки параметров таких случайных объектов, как случайные величины, разработаны процедуры стохастической аппроксимации: Роббинса-Монро, Кифера-Вольфовица, Ньютона-Рафсона, Качмажа и др. Данные процедуры разработаны для нахождения корней уравнения регрессии и носят обобщенное название градиентных процедур, поскольку в процессе итерационных вычислений находится минимум функционала качества
:
.
(3.10)
Для
рекурсивной оценки случайных величин
используют условное среднее
,
где учтено, что среднее находится с
учетом наблюдений
:
,
(3.11)
В этом случае используется критерий минимума среднеквадратического отклонения
,
(3.12)
где
- оценка случайных величин
.
Рекурсивная
процедура Роббинса-Монро на
шаге представляется в виде
,
(3.13)
где
- уравнение наблюдения, формирующее
наблюдаемую статистику,
- коэффициент, обеспечивающий сходимость
процедуры (3.13). На рис.3.25 представлена
структурная схема процедуры (3.13).
К коэффициенту сходимости процедуры (3.13) предъявляются особые требования, обеспечивающие выполнение условий устойчивости. Этот коэффициент должен отвечать условиям Дворецкого:
.
(3.14)
Если
величина
является аналоговой, то соответствующее
(3.13) уравнение оценки примет вид:
,
(3.15)
где
удовлетворяет условиям:
,
(3.16)
которые являются обобщением условий Дворецкого (3.14) на непрерывный случай.
Аналоговая реализация алгоритма Робинса-Монро представлена на рис.3.26.
Можно показать,
что при условиях (3.14), (3.16) оценки (3.13) и
(3.15) сходятся асимптотически, и выражение
(3.12) асимптотически стремится к нулю,
то есть
.
Иными словами, при
апостериорная дисперсия
,
показывающая степень разброса ошибки
,
стремится к нулю. При этом крутизна
данной характеристики зависит от выбора
или для дискретной величины
.
Очевидно, коэффициент, обеспечивающий
сходимость (3.14) должен быть меньше
единицы, например, он может быть вида
.
Следует
заметить, что все процедуры градиентного
типа отличаются выбором характера
зависимостей
или
.
Так, в известной процедуре Уидроу-Хоффа
.
При
использовании критерия минимума среднего
квадрата отклонения (3.12) рекурсивная
процедура Ньютона-Рафсона на
шаге представляется в виде:
,
(3.17)
где
определяется таким образом, чтобы
второе слагаемое в правой части оказалось
с отрицательным знаком,
-
градиент функции
.
(3.18)
Рекурсивные
процедуры оценки (3.13), (3.15), (3.17) и другие,
так же как и оценки, полученные методами
обработки выборки, имеют одинаковую
эффективность и в асимптотике дают
одно и то же значение
.
На рис.3.27 приведен пример реализации случайной величины а), наблюдаемой величины на фоне шума б) и ее оценки согласно рекурсивной процедуре Роббинса-Монро в).
Достоинством рассмотренных рекурсивных методов оценивания, является то, что на практике они оказываются более эффективными, поскольку дают оценку в реальном масштабе времени, а не требуют потерь времени на накопление и обработку статистики. Таким образом, процедуру рекурсивной оценки можно прервать на любом этапе ее получения. Кроме того, эти рекурсивные процедуры оценки случайных величин согласуются с процедурами оценки случайных процессов. Иными словами, если есть процедура оценки случайных процессов, то она же может использоваться и для случайных величин, хотя при этом обратное не выполняется.
в)