- •Часть I. Общие положения
- •Глава 3. Априорная неопределенность и возможные способы
- •3.2. Неполное статистическое описание данных наблюдения. Параметрическое описание априорной неопределенности
- •Эмпирический подход в задачах с априорной неопределенностью. Обучение
- •3.3.1 Простое обучение
- •3.3.2. «Рабочеподобное» обучение
- •Часть II. Методы синтеза информационных систем в условиях
- •4.2. Существенная и несущественная априорная неопределенность
- •4.3. Понятие оптимальности в условиях априорной неопределенности
- •4.3.1. Равномерно наилучшее решение
- •4.3.2. Принцип асимптотической оптимальности
- •4.3.3. Минимаксиминный принцип (минимакс минимального среднего риска)
- •4.3.4. Принцип минимума усредненного риска
- •4.3.5. Минимаксный принцип
- •4.4. Соотношения между правилами решения, полученными на основе различных принципов предпочтения
- •4.5. Использование достаточных статистик
- •Глава 5. Минимаксный подход
- •5.1. Минимаксное правило решения при наличии априорной неопределенности относительно параметров X
- •5.2. Полное незнание априорного распределения
- •5.3. Ограниченные сведения о множестве допустимых значений
- •5.4. Ограниченные сведения о статистических характеристиках
- •Г л а в а 6. Адаптивный байесов подход
- •6.1. Общие положения
- •6.2. Адаптивный байесов подход при параметрической априорной неопределенности
- •6.3. Случаи, когда множества решений u и параметров l непрерывны
- •6.4. Соответствие адаптивного байесова правила решения принципам оптимальности в условиях априорной неопределенности
- •6.4.1. Принцип предпочтения, связанный с равномерно наилучшим правилом решения
- •6.4.2. Принцип асимптотической оптимальности
- •6.4.3. Минимаксиминный принцип
- •6.4.4. Принцип минимакса
- •6.5. Принцип минимума усредненного риска
- •6.5.1. Случай одинаковой совокупности параметров при разных значениях
- •6.5.2. Случай разных совокупностей параметров при разных значениях
- •6.6. Выводы
4.3.5. Минимаксный принцип
Если
существование точного или приближенного
равномерно наилучшего правила
решения, оправдывающее задание более
или менее произвольной меры
,
проблематично, а других оснований для
задания
нет, то разумным принципом предпочтения
при выборе решения является принцип
минимакса, согласно которому правило
решения
выбирается так, чтобы обеспечить
.
(4.3.13)
Этот
принцип гарантирует, что при всех
P
величина среднего риска для правила
решения
будет не больше величины, определяемой.
выражением (4.3.13), то есть во всем диапазоне
условий, характерном для данного уровня
априорной неопределенности, средний
риск не превысит величины (4.3.13).
Характерной
и иногда неприятной особенностью
минимаксного правила решения
является то, что для него средний риск
может
достигать своего максимума не в
единственной точке
,
а на некотором подмножестве P1
множества P
, а
иногда и на всем множестве P
. В связи
с этим, вообще говоря, более предпочтительным
может оказаться выбор такого решения,
для которого
![]()
и даже на некотором подмножестве множества P
,
но зато на остающейся части множества P
,
причем
для многих
P
существенно меньше.
Вторая
особенность минимаксного принципа -
возможная неоднозначность в выборе
правила решения
.
Вид поверхности
,
иллюстрирующий эту возможность, показан
на рис. 4.3, где имеется целое множество
минимаксных решений. Для выбора между
ними необходим дополнительный
критерий, в качестве которого целесообразно
и удобно использовать критерий минимума
усредненного риска (для сохранения
гарантированного уровня риска (4.3.13) его
минимизацию следует проводить по
).
Минимаксный
принцип, в отличие от рассмотренных
ранее, совсем не требует для устранения
влияния априорной неопределенности
привлечения каких-либо дополнительных
соображений (существования равномерно
наилучшего правила решения, асимптотической
сходимости, дополнительной меры
),
и в этом смысле он является наиболее
аккуратным, поскольку оперирует только
непосредственно с основными данными
задачи. Степень влияния априорной
неопределенности может быть оценена
разницей между рисками минимаксного
правила решения и байесова с известным
распределением
,
то есть величиной
.
(4.3.14)
Если
для всех
P
,
где
- заданная степень допустимого
отклонения риска от риска абсолютно
оптимального байесова правила
решения, то минимаксное правило решения
вполне удовлетворительно, а влияние
априорной неопределенности на величину
риска не превышает
.

Рис.
4.3. Вид поверхности среднего риска для
различных
и
P
4.4. Соотношения между правилами решения, полученными на основе различных принципов предпочтения
В § 4.3 по ходу рассмотрения уже отмечались
некоторые соотношения между правилами
решения, следующими из того или иного
принципа предпочтения. Для более
полного уяснения их относительного
качества рассмотрим ряд дополнительных
соотношений. Заметим еще раз, что,
конечно, самым хорошим является равномерно
наилучшее правило решения, которое при
любом
Pдает такой же риск, как байесово правило
решения с известным
.
Если равномерно наилучшее правило
существует, то оно может быть найдено
при использовании любого из рассмотренных
принципов предпочтения.
Между
минимаксиминным правилом решения
и минимаксным правилом решения
существует
соотношение
,
(4.4.1)
которое
следует непосредственно из определения
этих решений. Соотношение между ними
показано на рис. 4.4. При 'некоторых
риск минимаксиминного правила решения
превышает риск минимаксного правила,
а при некоторых - имеет меньшие значения.
Аналогичному
соотношению удовлетворяет и правило
решения
,
получаемое минимизацией усредненного
риска при любой мере
:
.
(4.4.2)
Типичное
поведение риска
по отношению к риску минимаксного
правила решения
в зависимости от
показано на рис. 4.4, где приведена также
зависимость от
минимального байесова риска
,
соответствующего известному
.
В
то же время правила решения
и
удовлетворяют при любой мере
соотношению
, (4.4.3)
которое
следует из определения правила решения
.
Равенство в (4.4.3) может достигаться
только для наименее предпочтительной
в соответствии с определением (4.3.10)
меры
.
Из соотношений (4.4.2), (4.4.3) следует, что
максимум риска по
P
для правила решения
не меньше, чем для минимаксного, а
усредненное значение риска не больше.
Особый интерес представляет случай,
когда в (4.4.2) достигается равенство,
то есть риск правила решения
не превосходит риска минимаксного
правила. При этом очевидно, что правило
равномерно относительно
лучше (по крайней мере не хуже) минимаксного
правила, и следует отдать ему предпочтение.
Это обстоятельство является хорошим
доводом в пользу принципа минимизации
усредненного риска.

Рис.
4.4. Зависимость среднего риска от
для различных правил решения:1
- байесово; 2 - минимаксное; 3 –
минимаксиминное; 4 – минимизации
усредненного риска
