3.8. Статистические решающие функции

Пусть X –– случайная величина, тип закона распределения которой F (x, q) –– известен, но неизвестно значение параметра q этого закона. Есть основания полагать только, что qÎX –– некоторому множеству значений.

r

D (см. рис. 3.8.1).

Рис. 3.8.1

Такое отображение называют статистическим решающим правилом или стратегией.

При каждом q мы можем принять любое решениеd Î D. Принятие решения d, когда истинное значение параметра равно q, приводит к потере L(q, d ). Величина L(q, d ) может быть и отрицательной–– тогда это выигрыш.

Для того чтобы выбрать оптимальное решающее правило, нужен критерий, по которому можно их сравнивать. Для этой цели вводится в

рассмотрение так называемаяфункция риска, которая определяется как среднее значение функции потерь при значении параметра q:

249

Функция риска дает возможность сравнивать стратегии между собой. В частности, стратегия d* предпочтительнее стратегии d, если

R(q, d*) £ R(q, d ) при всех qÎX

и

R(q, d*) < R(q, d ) хотя бы при одном qÎX .

Иногда можно говорить о равномерно лучшей решающей функции. Такой, например, является решающая функция d2 на рис. 3.8.2.

В случае если правила в названном смысле несравнимы(рис. 3.8.3), возможны разные подходы:

1)можно сравнивать площади под кривыми изображающими риски;

2)можно сравнивать наибольшие значения рисков и т.д.

Для каждой решающей функции существует наибольшее значение функции риска

max R(q, d ) .

q

Можно выбрать стратегию, при которой достигается

min max R(q, d ).

d q

Такую стратегию называютминимаксной. Идея такой стратегии проста: выбирается стратегия, при которой наибольший из возможных рисков минимален. Такая стратегия страхует от слишком больших потерь.

В других отношениях это решающее правило может оказаться плохим. Например, стратегия d1 (см. рис. 3.8.3) по этому принципу лучше стратегии d2, хотя при подавляющем большинстве значений q стратегия d1 приводит к большему ущербу, чем d2.

Для простоты рассмотрим случай, когда X состоит из k элементов:

X {q1=, q2 ,K, qk }.

Пусть на основе накопленного опыта значенияq , q ,K, q имеют

1 2 k

вероятности q1, q2 ,K, qk (априорное распределение). Тогда функцию риска

250

можно определить как математическое ожидание функции потерь по отношению к этому априорному распределению:

выпадает значение i, то принимается решение q = qi .

Выявим особенности минимаксной и байесовской стратегий. Ради наглядности изложения рассмотрим случай

X {q1,q2=}, D ={d1, d2 ,K, dn}.

Тогда роль функции риска будет играть вектор риска

rr

{R(q1, d ( X )), R(q2 , d ( X ))}.

Каждой чистой стратегииdi соответствует на плоскости точка с координатами

{R(q1, di ), R(q2 , di )}.

251

По структуре это уравнение q1x + q2 y = c –– уравнение прямой линии, а коэффициенты q1 и q2 определяют ее наклон. В многомерном случае это будет уравнение плоскости (гиперплоскости). Нам необходима стратегия, при которой левая часть выражения (3.8.1) минимальна. Будем увеличивать c, пока прямая не коснется линейной оболочки (см. рис. 3.8.5).

252

Рис. 3.8.5

В любом случае (и при касании в вершине, и при касании по стороне многоугольника) среди точек касания будет хотя бы одна вершина выпуклой оболочки, а вершина соответствует чистой стратегии. Тем самым мы проиллюстрировали утверждение о ,томчто при конечном числе исходных стратегий всегда существует чистая байесовская стратегия.

Минимаксная и байесовская стратегии связаны между : собой минимаксная стратегия является байесовской по отношению к наименее благоприятному априорному распределению. Наименее благоприятным оказывается распределение, при котором максимально возможный коэффициент q =1 в выражении q1x + q2 y = c соответствует наибольшей координате (другой коэффициент тогда равен нулю). В этом случае получаются линии x = c или y = c (см. рис. 3.8.6).

253

На рис. 3.8.7 жирными точками отмечены концы векторов риска, выделена закраской линейная оболочка векторов. Из этого рисунка видно,

что оптимальной байесовской стратегией является стратегияd . Для

1

минимаксной стратегии точка касания линейной оболочки примерно в три

254

раза ближе к точкеd2, чем к точкеd4. Поэтому следует l взять обратно пропорциональным расстояниям до названных точек, т.е. равным l2 = 3 / 4, l2 = 3 / 4, l4 =1/ 4, а l1 = l3 = 0.

Рис. 3.8.7

Ответ. Оптимальной байесовской стратегией является стратегия d1. Оптимальная минимаксная стратегия реализуется при наборе вероятностей l1 =l2 = 0, l3 = 3 / 4, l4 =1/ 4.

значения 1, 2, 3, ... с вероятностями

P( X = =k) (1 - q)k -1 q.

Вотношении q есть два предположения: q1 и q2 (пространство

255

Найдите минимаксную стратегию и байесовскую стратегию по отношению к априорному распределению P(q1 ) = P(q2 ) =1 / 2. (См. пример

3.27 и исходные данные.)

Исходные данные к задачам 3.27.1.

Для заданной функции потерь найти:

1)минимаксную стратегию;

2)байесовскую стратегию, если оба значенияq представляются равновероятными. (См. пример 3.27 и исходные данные к задаче 3.27.1.)

Пример 3.28. В двух внешне одинаковых урнах находятся шары. В первой урне пять белых и пять черных шаров, во второй три белых и шесть черных. Урну выбирают наугад, и из нее производится повторная выборка четырех шаров. По результатам выбора необходимо принять

256

решение относительно содержания урны, из которой производился выбор шаров, т.е. пространство решений состоит из двух решений:

––решение a1 –– шары выбирались из первой урны(вероятность выбора белого шара равна q1 =1 / 2 );

––решение a2 –– шары выбирались из второй урны(вероятность

Решение. В условиях задачи возможны следующие чистые стратегии: –– d1 –– принимается решение a1, если все четыре раза выбирались

белые шары, и принимается решение a2, если белых шаров было выбрано три, два, один или ноль;

–– d2 –– принимается решение a1, если из урны было выбрано три или четыре белых шара, и принимается решениеa2, если белых шаров было два, один или ноль;

–– d3 –– принимается решение a1, если из урны было выбрано два, три или четыре белых шара, и принимается решение a2, если белых шаров было один или ноль;

–– d4 –– принимается решение a1, если в выборке один, два, три или четыре белых шара, и принимается решениеa2, если белых шаров в выборке нет.

Случаи «предвзятого мнения», когда при любой выборке принимается всегда одно из решений a1 или a2, исключим из рассмотрения.

Вероятности выбора того или иного числа белых шаров можно

Учитывая эти вероятности, определим векторы риска для каждой стратегии:

257

закраской выделена линейная оболочка векторов.

Так как с равными шансами могла быть выбрана любая ,урнато имеем априорное распределение: P(q1 ) = P(q2 ) =1 / 2. Байесовский риск в соответствии с соотношением (3.8.1) принимает вид

0,5R(q1, d ) + 0,5R(q2 , d ) = c.

Из рис. 3.8.8 видно, что оптимальной байесовской стратегией является стратегия d3

Максимальные координаты векторов риска равны соответственно 4,69, 3,44, 1,56 и 3,01. Минимальная из них координата 1,56 у решающего правила d3. Поэтому из названныхчистых стратегий минимальный наибольший риск обеспечивает стратегияd3. Найдем координаты точки A, которая соответствует минимаксной стратегии. Координаты этой точки x и

определить координаты точки A : y = x =1,36. Расстояние от точки d3 до точки A равно

(1,36 -1,56)2 + (1,36 -1,04)2 » 0,38,

а расстояние от точки до точки A равно

(0,31 -1,36)2 + (3,01 -1,36)2 »1,96.

258

решение d4 использовать с вероятностью l4 =1/ 6, а l1 и l2 взять равными нулю. Далее следует поступать следующим образом. Подбрасываем игральный кубик. Если на нем выпадает заданная грань(например, цифра один), то используем стратегию d4. Если же заданная грань не выпадает, то принимаем решение в соответствии с правилом d3.

Ответ. Оптимальной байесовской стратегией является стратегияd3. Оптимальная минимаксная стратегия реализуется при наборе вероятностей l1 =l2 = 0, l3 = 5 / 6, l4 =1/ 6.

Задача 3.28. В трех внешне одинаковых урнах находятся шары. В первой и второй урнах по k1 белых и по k2 черных шара, а в третьей урне k3 белых шаров иk4 черных. Урну выбирают наугад и из нее производится повторная выборка четырех шаров. По результатам выбора необходимо принять решение относительно содержания урны, из которой производился выбор шаров, т. е. пространство решений состоит из двух решений:

––решение a1 –– шары выбирались из первой или второй урны (вероятность выбора белого шара равна q1);

––решение a2 –– шары выбирались из третьей урны(вероятность

выбора белого шара равна q2).

Функция потерь имеет следующий вид.

259

Перечислите возможные чистые стратегии. Найдите байесовскую и минимаксную стратегии. (См. пример 3.28 и исходные данные.)

Исходные данные к задаче 3.28.

260