Основы теории радиосистем и комплексов радиоэлектронной борьбы. Учебное пособие
.pdf
11
следующему критерию (D – l0F) max , получившему название «весовой критерий».
Порог обнаружения согласно как критерию Байеса, так и весовому критерию, определяется выражением:
l |
|
|
r10 |
|
P(H 0 ) |
. |
0 |
|
|
||||
|
|
r01 |
|
P(H1 ) |
||
|
|
|
|
|||
Общими недостатками рассмотренных критериев являются необходимость знания априорных вероятностей гипотез и сложность задания стоимостей ошибочных решений. При введении дополнительных условий критерий Байеса в частных случаях будет иметь более простой вид. Известны следующие частные критерии: критерий максимума апостериорной вероятности и критерий максимума правдоподобия (другие названия этого критерия - критерий идеального наблюдателя или критерий Зигерта). Кроме того, имеются другие критерии, прямо не вытекающие из критерия Байеса: критерий Неймана - Пирсона; критерий минимакса (максимина); критерий Вальда (или критерий последовательной проверки гипотез). Запишем величины, входящие в формулу (1.5), в следующем виде.
|
|
|
|
|
H* y dy |
|
|
|
dy |
|
|
|||||
F |
|
W y |
|
|
W y |
, |
|
|||||||||
|
|
|
|
|
|
|
|
|
|
|
|
|
||||
|
|
H0 |
|
|
y0 |
|
|
H0 |
|
|
||||||
D |
|
|
|
y |
H* |
y dy |
|
|
y |
|
dy , |
|
|
|||
|
|
W |
|
W |
|
|
|
|||||||||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|||
|
|
|
|
H1 |
|
y0 |
|
|
H1 |
|
|
|||||
D l0 F |
|
|
|
y |
|
y |
|
|
|
|
|
|
|
|||
|
|
|
|
|
|
|
||||||||||
W |
|
|
l0W |
|
|
|
dy max , |
|
||||||||
|
|
|
y |
|
|
H1 |
|
H0 |
|
|
|
|
||||
|
|
|
0 |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
y |
|
|
|
|
|
|
|
|
|
||
D l |
F |
|
|
|
|
|
|
|
|
|||||||
|
W |
|
y l |
dy max , |
|
|||||||||||
0 |
|
|
|
|
|
H0 |
|
|
|
0 |
|
|
|
|
(1.6) |
|
|
|
|
y |
|
|
|
|
|
|
|
|
|||||
|
|
|
|
0 |
|
|
|
|
|
|
|
|
|
|
|
|
где (y) = W(y\H1)\W(y\H0) – отношение правдоподобия, которое формально определяет во сколько раз функция плотности распределения вероятностей (ФПРВ) по гипотезе H1 больше, чем ФПРВ по гипотезе H0. Введем понятие решающей функции, вид которой представлен на рис. 1.1.
12
H * ( y) 1
0,5
y0 |
y |
Рис. 1.1. Решающая функция |
|
Тогда при условии (y) > l0 |
справедлива гипотеза H1, а |
при (y) < l0 - гипотеза H0. Графическая интерпретация входящих в (1.6) условных плотностей вероятностей представлена на рис. 1.2.
Рис. 1.2. Плотности вероятности при отсутствии и наличии сигнала
|
y |
H1* |
|
|
|
|
|
|||
|
W |
|
r10 |
|
P H0 |
|
|
|||
y |
|
H1 |
|
, |
||||||
|
|
|
|
|
|
|
||||
y |
|
r01 |
P H1 |
|||||||
|
|
|
||||||||
|
W |
|
|
|
|
|
|
|
|
|
|
|
H0 H 0* |
|
|
|
|
|
|||
Порог обнаружения согласно критерию Байеса определяется выражением:
l r10 P H0 .
0 r01 P H1
На рис. 1.3 изображена структурная схема устройства принятия решений, включающая вычислитель отношения правдоподо-
13
бия, на вход которого поступает входной сигнал, и пороговое устройство, на выходе которого формируется то или иное решение.
|
|
|
H1* |
|
Вычислитель |
Пороговое |
|||
|
|
|||
отношения |
|
|
||
|
устройство |
|
||
правдоподобия |
|
|
||
|
|
|
||
|
|
|
H0* |
|
|
|
|
||
|
||||
|
|
y0 |
||
Рис. 1.3. Структура схемы принятия решений
1.3. Критерий максимума апостериорной вероятности
Этот критерий основан на использовании формулы Байеса для апостериорных вероятностей гипотез H0 и H1, имеющих следующий вид:
|
|
|
|
|
|
|
y |
|
|
|
|
|
H |
|
|
|
P(H0 ) W |
H0 |
|
|
|
|
|||
|
|
|
|
|
|
|
|
|
, |
|||
P |
0 |
|
|
|
|
|
|
|
|
|
||
|
|
y |
|
|
y |
|
|
|
y |
|
|
|
|
|
|
|
P(H0 ) W |
|
|
P(H1 ) W |
H1 |
|
|
||
|
|
|
|
|
|
H0 |
|
|
|
|
|
|
|
|
|
|
|
|
|
y |
|
|
|
|
|
H |
|
|
|
P(H1 ) W |
H1 |
|
|
|
|
|||
|
|
|
|
|
|
|
|
|
. |
|||
P |
1 |
|
|
|
|
|
|
|
|
|
||
|
|
y |
|
|
y |
|
|
|
y |
|
|
|
|
|
|
|
P(H1 ) W |
|
P(H0 ) |
W |
H0 |
|
|
||
|
|
|
|
|
H1 |
|
|
|
|
|
||
Согласно этому критерию та ситуация более правдоподобна, апостериорная вероятность которой выше, т.е.
H |
|
|
H |
0* |
|
H |
|
|
|
||
P |
0 |
|
|
P |
|
1 |
, |
||||
|
|
|
y |
|
|
|
|
|
|
|
y |
H |
|
|
H1* |
|
H |
|
|
|
|||
P |
0 |
|
|
P |
|
1 |
, |
||||
|
|
|
y |
|
|
|
|
|
|
|
y |
|
|
|
|
|
|
y |
|
|
|
||
P H W |
|
|
|
|
* |
||||||
1 |
|
|
|
|
|
H1 |
H1 |
||||
|
|
|
|
|
|
|
|
|
|
|
1 . |
P H0 |
|
|
|
|
y |
|
|
||||
|
|
|
|
H 0* |
|||||||
W |
|
|
|
|
|
||||||
|
|
|
|
|
|
|
H0 |
|
|||
14
Отсюда следует, что решение принимается на основе сравнения отношения правдоподобия с порогом l0 P H0
P H1 .
y |
H1 * |
|
|
|
|
W |
|
|
P H0 |
|
|
|
H1 |
||||
|
|
|
|
|
. |
y |
|
|
P H |
|
|
W |
|
|
1 |
|
|
|
H0 |
H 0 * |
|
|
|
Следовательно, критерий максимума апостериорной вероятности соответствует частному случаю критерия Байеса при r01 = r10 = r,
и средний риск в этом случае r P H1 D P H0 F .
1.4. Критерий максимума правдоподобия
Этот критерий может использоваться при отсутствии сведений об априорных вероятностях гипотез и основан на постулате Байеса:
P H0 P H1 12 .
Тогда отношение правдоподобия при использовании критерия максимума правдоподобия
|
y |
|
H1* |
||
|
W |
H1 |
|
|
|
y |
|
|
|||
1. |
|||||
y |
|
|
|||
|
W |
H0 |
|
* |
|
|
|
|
H 0 |
||
Этот критерий известен также как критерий Зигерта или критерий идеального наблюдателя.
1.5. Критерий Неймана - Пирсона
Под этим критерием понимается такое правило решения, которое обеспечивает постоянство уровня ложных тревог (F = const) при максимальном значении вероятности правильного обнаружения сигнала среди всех правил решения, т.е. D –> max.
|
y |
|
|
||
F W |
dy const . |
|
y 0 |
|
H0 |
|
|
|
15
Удобство практического применения критерия Неймана - Пирсона состоит не только в том, что он обеспечивает условие D –> max из всех возможных решений при F = const, но и в том, что при его применении не требуется знания априорных вероятностей P(H0) и P(H1) и стоимостей ошибочных решений. Обычно в
системах обнаружения сигналов принимают вероятность ложных тревог на весьма низком уровне F = 10 - 6…10 -14.
Можно показать, что D max, если обеспечить сравнение с порогом отношения правдоподобия. Порог при этом определяется из условия постоянства вероятности ложной тревоги.
1.6. Критерий минимакса
Байесовское решение, как и критерий Неймана - Пирсона нельзя строго применять при неизвестных условных распределениях W(y/H0), W(y/H1), так как невозможно, не зная их, сформировать отношение правдоподобия. Невозможно в этом случае также найти средний риск.
Идея критерия минимакса состоит в следующем:
1)задается класс условных распределений (Н) и считается, что в этот класс включены распределения, зависящие от некоторого параметра ( );
2)в этом классе находится решение, которое принимается за верное ( *).
При выбранном решении можно рассчитать средний риск
r ( , *), зависящий от параметра распределения и выбранного решения. Далее выбираем среди всех возможных решений δ такое, которое обеспечивает минимальное значение из всех максимумов среднего риска для множества решений, т.е. находится
min max r( i , i *) .
Критерий минимакса соответствует так называемой осторожной стратегии принятия решений и рассчитан на минимальные потери в наименее благоприятной ситуации. Таким образом, минимаксное правило решения является байесовским относительно наименее благоприятного априорного распределения, при котором средний риск является максимальным.
Это свойство позволяет находить минимаксное решение среди байесовских решений, ориентированных на критерий среднего
16
риска, подбирая наименее благоприятное распределение. Таким распределением обычно является равномерное распределение.
1.7. Критерий последовательной проверки гипотез (критерий Вальда)
Во всех предыдущих случаях (критериев Байеса, Неймана - Пирсона, минимакса) мы подразумевали, что решение принимается на основе наблюдения, длительность которого ограничена временем Т0. Если рассматривать дискретный случай наблюдения, то выборка сигнала ограничена N отсчетами наблюдения. Формально эти условия записываются следующим образом: T Т0, n N.
Это позволяет сформулировать отношение правдоподобия
в виде:
H1 *
( y) W ( y1, y2 , y3..., yN / H1 ) l . W ( y1, y2 , y3..., yN / H0 ) 0
H 0 *
Если отказаться от ограничений в длительности выборки, т.е. принять величину длительности выборки переменной, то можно перейти к двухпороговому критерию Вальда:
|
|
|
|
|
H1 * |
|
k |
( yk ) |
W ( y , y , y ..., y |
|
/ H ) |
lв |
. |
1 2 3 |
N |
1 |
|
|||
|
|
W ( y1, y2 , y3..., yN / H0 ) |
lн |
|
||
|
|
|
|
|
H 0 * |
|
Решение в этом случае принимается по двухпороговой
схеме.
При k lв принимается решение Н1 * , а при k lн
принимается решение Н0 * . В третьем возможном случае при
lв к lн следует продолжить наблюдение до тех пор, пока не будет выполнено одно из двух первых условий. Алгоритму Вальда соответствует устройство, изображенное на рис. 1.4.
17
|
|
|
|
|
|
|
|
|
H * |
y(t) |
Управление |
|
|
|
|
|
1 |
||
|
( y ) |
|
Пороговое |
|
|
||||
|
временем |
|
|
|
H0* |
||||
|
|
|
устройство |
|
|||||
|
наблюдения |
|
|
|
|
|
|||
|
|
|
|
|
|
|
|
||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
lv |
ln |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
Формирователь |
|
|
|
|
|
Решение продолжить |
|
|
порогов |
|
|
||
|
|
|
|
|
|
|
|||
|
|
|
наблюдение |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
||
|
|
|
|
|
|
|
|
|
|
Рис. 1.4. Структурная схема алгоритма последовательной проверки гипотез
Для предотвращения процесса зацикливания алгоритма принятия решений обычно используется усеченный критерий Вальда, согласно которому при k kmax происходит переход к обычной од-
нопороговой схеме (lв ,lн l0 ) . Величины порогов вычисляются по следующим формулам:
l |
|
|
D |
|
, l |
|
|
|
D |
|
|
|
1 D |
. |
|
в |
|
|
н |
|
|
|
|
|
|||||||
|
|
F |
|
|
|
F |
1 |
F |
|||||||
|
|
|
|
|
|
|
|||||||||
Для примера, при |
D = 0,9 |
и |
F = 10-6 величины порогов |
||||||||||||
lв = 0,9 10-6; lн = 0,1. Таким образом, |
разница в величине порогов |
||||||||||||||
очень значительна и составляет 107 . |
|
|
|||||||||||||
При использовании критерия Вальда длительность наблюдения (количество отсчетов выборки) является величиной случайной, и при обзоре заданной области пространства как по дальности, так и по угловым координатам за фиксированное время длительность наблюдения в каждом направлении можно оптимизировать.
18
1.8. Принятие решений в условиях априорной неопределённости
Существует два основных класса априорной неопределённости: параметрическая неопределённость и непараметрическая неопределённость.
В задачах с параметрической априорной неопределённостью задаются параметрическое семейство плотностей вероятностей Wi(y/ ) и отношение правдоподобия, зависящее от одного ( - скаляр) или нескольких ( - вектор) неизвестных параметров случайного процесса, характеризующих сигнал и помеху (y/ ).
В задачах с непараметрической априорной неопределённостью семейству функций распределения, функций плотностей вероятностей W(y) нельзя поставить в однозначное соответствие ка- кую-либо функцию. Задачи при непараметрической априорной неопределённости более сложны, чем задачи при параметрической априорной неопределённости. Задачи первого типа решаются в байесовской теории усреднением функций правдоподобия с учётом закона распределения случайного параметра . Этот метод сводит сложную гипотезу к простой.
1.9. Сведение сложной гипотезы к простой
Пусть в случае параметрической априорной неопределенности имеются неизвестные параметры , (при гипотезах H1или H0), от которых зависят плотности распределения вероятностей W(y/H1, ) и W(y/H1, ). В этом случае отношение правдоподобия (ОП) формируется из плотности вероятности усреднённых по неизвестным параметрам , с учётом их законов распределения W( ) и W( ).
W y
H0 W y
H0 , W d ,
W y
H1 W y
H1, W d .
Строго необходимо производить усреднение отношения правдоподобия в целом, но в ряде частных случаев можно использовать его приближенную замену соотношением с усреднением отдельно по числителю или по знаменателю.
19
|
|
y |
W y H0 |
|
|
W y H0 , W d |
|
|
|
|
|
|
|
. |
(1.7) |
||||
|
W y H1 |
|
|
W y H1 W d |
|||||
|
|
|
|
|
|
||||
Врезультате усреднения ОП по неизвестным параметрам полученная система обработки сигналов будет обладать меньшей эффективностью по сравнению со случаем известных параметров сигнала.
Вслучаях, когда параметры распределения W( ) и W( ) априорно неизвестны, то они могут быть приняты в соответствии с постулатом Байеса равномерно распределенными.
W ( ) |
1 |
|
, |
|
|
|
|||
max min |
||||
|
|
|||
W ( ) |
1 |
|
. |
|
|
|
|||
max min |
||||
|
|
|||
Знание закона распределения неизвестного параметра позволяет повысить эффективность обработки.
1.10. Адаптивные алгоритмы
Широко распространенным способом преодоления априорной неопределенности является предварительное обучение. Обучение сводится к формированию на основании наблюдений оценок неизвестных функций распределения или оценок параметров (при параметрической априорной неопределенности). Полученные оценки используются затем вместо неизвестных характеристик процессов.
Различают обучение с учителем, в результате которого получается последовательность эталонных наблюдений. О каждом из её элементов известно, какому из распределений он принадлежит. Это случай классифицированной случайной выборки.
Обучение без учителя (самообучение) отличается тем, что оценки формируются по неклассифицированным выборкам. Иногда обучающие выборки используются для оценки характеристик алгоритма обнаружения. Если сам алгоритм использует оценки, то он является адаптивным.
Теорема Бернштейна - Мизеса:
20
Если априорное распределение вероятности W( ) параметра непрерывно, то по мере возрастания объёма выборки апостериорное распределение параметра W( /y) перестаёт зависеть от априорного распределения. Таким образом, если объем выборки бесконечно возрастает n , то W( /y) перестаёт зависеть от
W( ).
Пусть имеется выборочное значение распределения с неизвестным параметром . Запишем условную плотность распределения при различных значениях выборки y1, y2,… yn.
y1 |
|
|
|
W |
:W |
|
|
||
|
|
|
y1 |
|
|
|
y |
|
|
|
|
|
|
W 1 |
|
|
|
|||
|
|
|
|
|
, |
||
|
|
|
|
||||
|
y |
|
W d |
||||
|
|||||||
|
|
||||||
W |
1 |
|
|
||||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
y |
|
|
|
|
|
|
|
|
|
|
|
||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
W |
2 |
|
|
|
|
|
|
|
|
|
|
||||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
||||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|||||||||||
y : W |
|
|
|
|
|
W |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
||||||||
y1, y2 |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|||||||||||||||||
|
2 |
|
|
|
|
|
|
|
|
y1 |
|
|
y |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|||||||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|||||||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
W |
|
2 |
|
W |
|
|
d |
|
|
|||||||||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
y |
|
|
|
|
|||
|
|
y1 |
|
|
W |
y2 |
|
|
|
|
|
|
|
|
|
|
W |
|
|
|
|
y |
|
|
|
|
|
|||||||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|||||||||||||||||
|
|
W |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
y , |
|
|
2 |
|
|
|
|
|||||||||
|
|
|
|
|
|
|
|
|
|
|
|
W |
|
|
|
|
|
|
|
|
1 |
|
|
|
|
|
, |
|||||||
|
|
|
|
|
|
y2 |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
||||||||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
y2 |
|
|
|
|
|
|||||||||||
|
|
W |
|
y , |
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
||||||||||||||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
W y1, |
|
|
|
|
|
|
|
||||||||||||
|
|
|
|
1 |
|
|
|
|
|
|
|
|
|
|
|
|
|
W |
d |
|||||||||||||||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
W |
yn :W |
|
|
|
|
|
y1...yn |
|
|
|
y ...y |
|
|
|
|
||
|
W |
1 |
|
n |
|
|
|
|
|
|
|
|
|
|
|
. |
|
|
|
|
|
|
|
|||
|
y ...y |
|
|
W d |
||||
|
|
|||||||
|
n |
|
||||||
W |
1 |
|
|
|
||||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
Хотя апостериорное распределение с возрастанием объёма выборки в меньшей степени зависит от априорного распределения, вместе с тем скорость сходимости апостериорного распределения к истинному существенно зависит от выбора априорного распределения. Важную роль играет обоснованный выбор априорных распределений. Часто выбирают модель равномерного распределения.
