
книги из ГПНТБ / Романенко, А. Ф. Аппроксимативные методы анализа случайных процессов
.pdfций |
в ряде |
случаев обеспечивает возможность оптимального выбо |
ра |
шага у |
алгоритма стохастической аппроксимации. |
Если в качестве первоначальной оценки а* использовать опера тор экспоненциального сглаживания, т. е.
а*п = - 1 7р~Аа*п - 1 х п]
или в непрерывной форме
t |
~ |
t —т |
|
I f |
т |
di, |
|
a* (t) = - - - j - \ |
х (т) е |
|
|
6 |
|
|
|
и перейти к параметрической мультипликативной модели
“ *Хп =
то можно показать справедливость рекуррентного выражения
° Хп = в*.>,П—1 Т Х,п— 1 X*»]> |
(79) |
что соответствует непрерывной форме
t t - 1
А. Г* — т~~
а*х (О = ~т~\е |
х (т) |
6
Приведенное соотношение (79) показывает возможность раз дельного определения параметров Т и X.
Так, если параметр Т выбран, то для определения X можно воспользоваться условием несмещенности оценки а*х (£),т. е.
Af« [« (0 - |
(*)] = 0. |
|
откуда |
“ (0 |
|
^ (О |
||
Г—х |
(т)е т ch
-I*
Из условия минимума средней квадратической ошибки можно получить уравнения для определения параметров Т и а.
З А К Л Ю Ч Е Н И Е
Для решения задач аппроксимации оценок характе ристик случайных процессов разработан метод парамет рических функций.
Основные преимущества метода параметрических функций:
возможность учета дополнительной информации от носительно оцениваемых характеристик;
170
сравнительно простая реализация соответствующих алгоритмов статистической обработки случайных про цессов;
возможность решения задач метрологии случайных процессов.
Сочетание метода параметрических функций с алго ритмами стохастической аппроксимации обеспечивают ускорение сходимости соответствующих итерационных процедур.
Рассматривая алгоритмы параметрической аппрокси мации с точки зрения регрессионного анализа, следует отметить, что метод параметрических функций есть метод построения линий регрессии уточненной (парамет
рической) оценки а:\ (х ) на первоначальную оцен
ку а*(х).
С позиций байесовских алгоритмов метод парамет рических функций по сути дела является аппроксима тивным, причем для ряда случаев ошибка аппроксима ции оказывается незначительной.
Метод параметрических функций может с успехом использоваться в качестве «внутреннего» алгоритма при использовании идей эволюционного моделирования
[Л. 32].
Наиболее полно исследована возможность парамет рической статистической обработки нестационарных слу чайных процессов, заданных одной реализацией.
Решение этой задачи позволяет сократить число до рогостоящих испытаний сложных объектов, увеличить оперативность обработки, упростить вычислительные системы, уменьшить затраты времени и средств на со здание новых центров по обработке информации.
Следует отметить все расширяющийся фронт экспе риментальных исследований, совершенствование средств вычислительной техники, разработку более эффективных методов прикладного анализа случайных процессов, к числу которых относятся и рассмотренные в книге аппроксимативные методы.
Дальнейшее развитие методов аппроксимации оце нок характеристик случайных процессов может прохо дить в следующих направлениях:
завершение создания теории параметрической аппро ксимации оценок характеристик случайных процессов; разработка методов параметрической аппроксимации
интервальных оценок;
171
разработка «гибридных» методов и, в частности, компенсационно-параметрического метода аппроксима ции оценок характеристик случайных процессов;
создание алгоритмов статистического оценивания критериев эффективности больших систем на базе ис пользования метода параметрических функций;
развитие метода параметрических функций на основе использования критериев оптимизации информационного типа (например, критерии Шеннона, Кульбака и др.); учета информации относительно предельных значе
ний оцениваемых параметров.
Последнее из указанных направлений представляет ся весьма перспективным. Сущность параметрического подхода к развитию этого направления покажем на примере использования мультипликативной оценки
а*х (х) = Я,,а* (л).
Будем полагать в дальнейшем, что первоначальная оценка а*(х) является несмещенной, т. е. выполняется условие
Мха* (х) — а.
Выражение для средней квадратической ошибки можно представить в виде
R— Мх [а—Яна* (я) ]2 =
=Я^М* [а* (х)]2 — 2Япа2 -(- а2 =
=Я^-[а2 -ф- Дха* (х)] — 2Я,,а2 -ф- а2.
Пусть дисперсия предварительной оценки линейно зависит от квадрата параметра а, т. е.
Dxa*(x) = a + ba2,
где а и b — некоторые коэффициенты.
В этом случае средняя квадратическая ошибка R примет вид:
R = A + Ва2,
где
в = + {1 - я,,)2.
Выбором значения параметрической функции Яи можно получить для заданной области оцениваемого
172
параметра
0 < а ^ ' ( Х м а к с
более точную параметрическую оценку, т. е. такую оцен ку ах* (х), для которой выполняется условие
R < D xa* (х).
Действительно, пусть Ь<0, а>0. Предполагая, что величина а макс известна, можно найти значение пара метрической функции Яц из условия
|
^ |
(а макс) = |
(X ) |а _ а |
, |
|
|
||
т. е. |
|
|
|
|
макс |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
A -f Ва2 = а 4- Ьа2 |
|
|
|
|||
|
|
1 |
макс |
1 |
макс |
|
|
|
В |
последнем |
уравнении |
выразим |
коэффициенты А |
||||
и В через параметрическую функцию 1ц |
,оси2 |
|
||||||
|
|
|
|
а2 |
= а 4, - |
, |
||
|
+ \^itb + О ~ ^i,] макс |
|
1 |
макс |
|
|||
откуда находим оптимальное значение |
|
|
|
|||||
|
|
2 __ |
“макс |
“макс^ |
а |
|
|
|
|
|
|
“ макс + |
“ Макс^ 4" а |
|
|
|
|
Кроме того, из условия |
R ^ . D xa* (х), |
справедливого |
||||||
для |
любых значений |
а, в том числе |
и а = 0, |
вытекает |
№ ца^а, откуда следует дополнительное ограничение
/41;
В практических задачах часто встречается более простая ситуация, характеризуемая Ь —0, а>0. В этом случае параметрическая функция Яц принимает вид:
Яп |
“макс — а |
|
“макс4-й |
||
|
Таким образом, дополнительная информация отно сительно предельного значения а макс оцениваемого па раметра а сравнительно просто может быть учтена с помощью параметрических функций. В результате повышается эффективность соответствующих оценок.
173
ПР И Л О Ж Е Н И Е
Висследованиях часто используются характеристики случайных процессов, являющихся преобразованиями (в общем случае нели нейными) некоторых других процессов.
Пусть a (t) — оцениваемая случайная функция; а * (х )— некото рая оценка функции a (t), x ( t ) — реализация исследуемого про цесса.
Разность
Д (/) = a ( t ) —a*(x)
представляет собой мгновенную ошибку.
Вторая начальная моментная функция процесса
Л = [Д (012 = Мха [а (0 - а* (х)]2
часто называется средней квадратической функцией риска или сред ним квадратом ошибки.
Раскрывая выражение для Л, получаем:
|
П = МХЛа2 (0 |
- |
Ш ш [а (t) а*х] + М Ш [а* (х)]2 = |
|
||||||
|
= |
М а а 2 ( 0 + М ХЛ [ а * ( х ) ] 2 - |
2 м а [ а ( < ) М х , „ |
а * ( * ) ] . |
|
|||||
|
Учитывая справедливость выражений |
|
|
|
|
|
||||
|
|
Ма а2 (0 = Da а (0 + |
[Ма а (0]21 |
|
|
|||||
|
|
М х а [а* (X)]2 = |
Dxa а* (X) + |
1 М ХЛ а* (х)]2; |
|
|||||
|
|
M 0L [“ ( 0 ^ 1 а ° Ч * ) ] = Я а а * + “ * ( * ) “ "(О- |
|
|||||||
где |
/?аа. — взаимная корреляционная |
функция процессов a (i) |
и a* (х) |
|||||||
|
|
a* (X) = |
Мх 1 я а> (X); |
а (() = |
Мл a (i), |
|
|
|||
можно записать: |
|
|
|
|
|
|
|
|
||
|
л = |
D a «(О + £ |
(/)]*+DXie a* (х) + |
[ а * (х)]2- |
2Лаа. - |
|
||||
- |
2а* (х) а (0 = Da а (г) + Z ^ a а* (х) - |
2Лаа. + |
[а (<) |
(х)]2. |
||||||
|
Поскольку ошибка смещения |
|
|
|
|
|
|
|||
|
|
есм (0 = Мха [а (0 - а* (х )]= Г (0 - 1 * |
(х), |
|
||||||
то окончательно |
|
|
|
|
|
|
|
|
||
|
|
Л = Dxa a* (х) + sc2M(0 + |
Da a (0 - |
|
. |
(80) |
||||
|
Для детерминированных оцениваемых характеристик имеем: |
|||||||||
|
|
Л = Л „ .«*(*) + & (0 . |
|
|
(81) |
|||||
причем |
|
|
|
_ |
|
|
|
|
|
еем(0 = а ( 0 —а* (х).
Соотношение (80) можно представить в более компактной фор ме [по аналогии с (81)]
Л = ЛдаД(*. х) + 4 ( 0 .
где
Dx,a. Д (*■ |
= |
(*)]=» |
174
СП И С О К Л И Т Е Р А Т У Р Ы
1.Андреев Н. И. Корреляционная теория статистически опти
мальных систем. М., «Наука», 1966.
2. Балл Г. А. К оценке погрешности, вызываемой непрерывным изменением времени задержки при измерении функции автокорре ляции. — «Известия вузов. Радиотехника», 1962, т. 5, № 5.
3.Балл Г. А. Аппаратурный корреляционный анализ случайных процессов. М., «Энергия», 1968.
4.Бунимович В. И. Флюктуационные процессы в радиоприем
ных устройствах. М., «Советское радио», 1951.
5. Воллернер Н. Ф., Балицкая В. Г., Дугин В. В. Оценка ампли туды эхо-сигнала с учетом априорного распределения плотностей
вероятностей |
его уровней. — «Известия |
вузов. Радиотехника», |
1966, |
т. 9, № 3. |
Г. Н. Теория бесселевых |
функций. Пер. с англ. |
Под |
6. Ватсон |
ред. В. С. Бермана. М., Изд-во иностр. лит., 1949.
7.Вентцель Е. С. Теория вероятностей. М., «Наука», 1964.
8.Гренандер У. Случайные процессы и статистические выводы.
Пер. с англ. М., Изд-во иностр. лит., 1961.
9. Дискретная измерительная корреляционная система (ДИКС). Новосибирск, «Наука». 1965, Авт: А. Н. Домарацкий и др.
10. Karhunen К. Ober lineare Methodu in der Wahrscheinlichkeitsrechnung.— «Ann. Acad. Sci. Fennicab. Helsinki, 1947, AI, №37.
11. Котюк А. Ф., Ольшевский В. В. Вопросы метрологии слу чайных процессов и полей. — Сборник докладов I Всесоюзного сим позиума «Методы представления и аппаратурный анализ случайных процессов и полей». Л., ВНИИЭП, 1968.
12.Крамер Г. Математическая статистика. Пер. с англ. М., Изд-во иностр. лит, 1948.
13.Ланге О. Введение в экономическую кибернетику. Пер с поль ского. М., «Прогресс», 1968.
14.Левин Б. Р. Теоретические основы статистической радиоте
ники. Кн 2. М., «Советское радио», 1968.
15.Мартин Т. А. Труды института радиоинженеров. Пер. с англ., 1962. т. 50, № 12.
16.Пугачев В. С. Теория случайных функций и ее применение
кзадачам автоматического управления. М., Физматгиз, 1962.
17.Рао С. Р. Линейные статистические методы и их применения.
М., «Наука», 1966.
18.Robbins Н., Monro S. A stochastic approximation method.— «Ann. Math. Statistics», 1951, v. 22, № 1.
19.Романенко А. Ф., Сергеев Г. А. Вопросы прикладного ана лиза случайных процессов. М., «Советское радио», 1968.
20.Романенко А. Ф., Черкай А. Д. О решении задач оптимиза ции оценок характеристик случайных функций.— «Сборник докла-
175
дов III Всесоюзного симпозиума «Методы представления и аппа ратурный анализ случайных процессов и полей». Л., ВНИИЭП, 1970 21. Романенко А. Ф., Черкай А. Д. Параметрические методы ана лиза вибрационных процессов. — В кн.: Вибрационная техника. М.,
МДНТП, 1968.
22. Романенко А. Ф;, Черкай А. Д. Многопараметрическая опти мизация оценок характеристик случайных процессов. — В кн.: «Виб рационная техника. М., МДНТП, 1969.
23. Романенко А. Ф., Сергеев Г. А. Статистический анализ физи ческих полей с использованием средств вычислительной техники.— Сборник докладов II Всесоюзного симпозиума «Методы представ ления и аппаратурный анализ случайных процессов и полей». Л.,
ВНИИЭП, 1969.
24. Романенко А. Ф., Черкай А. Д. Параметрическая оптимиза ция в задачах прогнозирования. — В кн.: Научно-техническое прог нозирование и экономика научных исследований. М., МДНТП, 1969.
25. Романенко А. Ф., Черкай А. Д. Об аппроксимации оптималь ных оценок статистических характеристик случайных процессов.—
Вкн.: Вибрационная техника. М., МДНТП, 1970.
26.Сергеев Г. А., Романенко А. Ф., Евграфов В. Г. Вопросы
моделирования элементов «человеко-машинного» комплекса. — В кн.: Системные исследования больших систем. М., МДНТП, 1968.
27. Сергеев Г. А., Романенко А. Ф., Евграфов В. Г. Вопросы моделирования и контроля функций человека-оператора. — В кн.: Большие информационно-управляющие системы. М., МДНТП, 1969.
28. Сергеев Г. А., Павлова Л. П., Романенко А. Ф. Статистиче ские методы исследования электроэнцефалограммы человека. Л. «Наука», 1968.
29. Смирнов Н. В., Белугин Д. А. Теория вероятностей и матема тическая статистика в приложении к геодезии. М., «Недра», 1969.
30.Синицын Б. С. Автоматические корреляторы и их примене ние. Новосибирск, Изд-во СО АН СССР, 1964,
31.Савчков В. К. Челпанов И. В. К расчету нестационарных
фильтров. — «Научно-технический информационный бюллетень ЛПИ им. М. И. Калинина», 1960, № 7.
32. Фогель Л., Оуэнс А., Уолш М. Искусственный интеллект и эволюционное моделирование. М., «Мир» 1969.
|
О Г Л А В Л Е Н И Е |
|
|
|
|
|
|
|
|
|
|
|
|||||
Предисловие |
|
...................................................................................... |
|
|
|
|
|
|
|
|
|
|
|
|
|
3 |
|
В в е д е н и е ............................................................................................. |
|
|
|
|
задач |
аппроксимации |
статистических |
5 |
|||||||||
1. |
Общая постановка |
11 |
|||||||||||||||
2. |
о ц е н о к .................................................................................................... |
|
стохастических |
систем |
обработки |
информации |
|||||||||||
Структуры |
18 |
||||||||||||||||
3. |
Измерительные аспекты |
проблемы |
анализа |
случайных про |
28 |
||||||||||||
4. |
цессов ................................................................................................... |
типы случайных п р о ц е с с о в |
|
|
|
|
|
||||||||||
Основные |
|
|
|
|
|
31 |
|||||||||||
5. |
Характеристики случайных п р о ц е с с о в ............................................ |
|
|
условия |
не |
34 |
|||||||||||
G. |
Параметрический |
анализ |
при |
использовании |
39 |
||||||||||||
7. |
смещенности |
о ц е н о к ....................................................................... |
|
|
|
|
оценок . . . |
||||||||||
Примеры |
несмещенных |
параметрических |
46 |
||||||||||||||
8. |
Параметрический анализ при 'использовании |
условия |
ми |
|
|||||||||||||
|
нимума средней квадратической |
ошибки |
|
для |
мультипли |
56 |
|||||||||||
9. |
кативной |
м о д е л и .............................................................................. |
метода |
|
параметрических |
функций |
|||||||||||
Качественный |
анализ |
|
66 |
||||||||||||||
10. |
Метод параметрических функций в задачах прогнозирова |
70 |
|||||||||||||||
|
ния случайныхп р о ц е с с о в .................................................................. |
|
|
|
|
|
|
|
|
||||||||
11. |
Компенсационный |
метод аппроксимации |
оценок . . . |
74 |
|||||||||||||
12. |
Применение |
метода |
параметрических функций в |
задачах |
82 |
||||||||||||
13. |
фильтрации |
полезных |
с и г н а л о в ................................................. |
|
|
|
|
|
|||||||||
Примеры |
оценок |
характеристик |
случайных величин . . |
90 |
|||||||||||||
11. |
Примеры |
оценок |
|
характеристик |
случайных |
процессов . |
99 |
||||||||||
15. |
Параметрическая коррекция линейных оценок математиче |
115 |
|||||||||||||||
16. |
ского ожидания стационарного случайногопроцесса |
. |
|||||||||||||||
Параметрический |
анализ при использовании |
условия |
ми |
|
|||||||||||||
|
нимума средней |
квадратической |
ошибки |
|
для |
аддативной |
|
||||||||||
17. |
м о д е л и |
....................................................................................... |
|
|
анализ |
для |
|
линейной |
|
модели |
|
121 |
|
||||
Параметрический |
|
|
(общий |
|
|||||||||||||
18. |
с л у ч а й ) ...................................................................................... |
|
|
|
|
|
|
|
|
|
|
|
|
|
122 |
|
|
Особенности параметрического анализа случайных процес |
125 |
||||||||||||||||
19. |
сов по конечному числу реализаций .................................. |
|
неэргоднческих |
||||||||||||||
Параметрический |
корреляционный |
анализ |
|
||||||||||||||
20. |
стационарных |
случайных |
п р о ц е с с о в ............................... |
|
|
|
|
129 |
|
||||||||
Параметрический |
анализ |
при |
|
использовании |
относитель |
132 |
|||||||||||
21. |
ной средней квадратической функции потерь |
. . . |
. |
||||||||||||||
Параметрические функции, оптимальные по условию макси |
133 |
||||||||||||||||
|
мума вероятности невыхода ошибки из заданныхпределов |
||||||||||||||||
22. |
Байесовские оценки и их параметрические аппроксимации |
136 |
|||||||||||||||
23. |
Связь метода |
параметрических |
функций |
с регрессионным |
|
||||||||||||
24. |
а н а л и з о м |
................................................................................... |
|
|
|
|
|
|
|
|
|
|
|
|
163 |
|
|
Связь метода параметрических функций с методом стоха |
166 |
||||||||||||||||
|
стической |
аппроксимации |
........................................................ |
|
|
|
|
|
|
|
170 |
||||||
З а к л ю ч е н и е ..................................................................................... |
|
|
|
|
|
» |
I |
|
|
|
|
|
|
||||
П р и л о ж ен и е .................................. |
|
|
. |
у .. |
|
|
|
|
|
174 |
|
||||||
Список литературы |
i |
f |
................................................. |
|
|
|
|
|
175 |
|
Я ) С Л
