Модели оптимизации. Математическое программирование, исследование операций. Учебно-методическое пособие
.pdff = 0 , если x1 = 2, x2 = 0, x3 = 2 , тогда f = 0 . Следовательно, f = 2 – максимальное значение функции.
Ответ: точка экстремума (1;1;1), максимальное значение функции f = 2 .
2.7. ЭЛЕМЕНТЫ ТЕОРИИ ИГР
Игра – процесс, в котором участвуют две и более сторон, ведущих борьбу за реализацию своих интересов. Каждая из сторон имеет свою цель и использует некоторую стратегию, которая может вести к выигрышу (или проигрышу) того или иного размера в зависимости от поведения других игроков.
Характеризующие признаки игры как математической модели ситуации:
∙наличие нескольких участников;
∙неопределённость поведения участников, связанная с наличием у каждого из них нескольких вариантов действий;
∙различие (несовпадение) интересов участников;
∙взаимосвязанность поведения участников, поскольку результат, получаемый каждым из них, зависит от поведения всех участников;
∙наличие правил поведения, известных всем участникам. Введем несколько базовых понятий теории игр.
Одношаговая игра – игра, в которой выбор стратегии произво-
дится однократно и одновременно всеми игроками. В многошаговых играх стратегии выбираются с учетом возможной последующей реакции других игроков.
Равновесие Нэша – такое сочетание стратегий игроков, от которого ни одному из них невыгодно отклоняться в одностороннем порядке.
Стратегия A игрока доминирует по Парето стратегию B, если A при всевозможных сочетаниях стратегий других игроков дает выигрыш не хуже, а при хотя бы одном сочетании – строго лучше, чем B.
Стратегия A игрока доминирует по Слейтеру стратегию B, если A при всевозможных сочетаниях стратегий других игроков дает выигрыш строго лучше, чем B.
101
Если по отношению к некоторой стратегии не существует доминирующих ее, то она называется недоминируемой. Разумный игрок выбирает стратегию из числа недоминируемых.
Доминантная стратегия – стратегия, которая доминирует все остальные стратегии этого игрока. Если у всех игроков есть доминантные стратегии, то их сочетание образует наиболее устойчивый вариант равновесия Нэша – равновесие в доминантных стратегиях.
Кооперативная игра – игра, в которой игроки могут заключать обязывающие соглашения по используемым стратегиям. Часто соглашение определяет некоторое выгодное сторонам неравновесное состояние игры. Например, система штрафов за отклонение от оговоренных стратегий формирует новое равновесие Нэша.
Гипотеза благожелательности – предположение, что из множества стратегий с одинаковым выигрышем для себя игрок выберет ту, которая дает наибольший выигрыш другому игроку. Следует иметь в виду, что эта гипотеза справедлива далеко не всегда. Например, на войне стороны редко заботятся об интересах противника. Иногда формальное принятие гипотезы благожелательности создает широкие возможности для дискриминации такого игрока.
Если игрок однозначно определил, какую именно стратегию он выберет, то говорят, что он реализует чистую стратегию. Если он выбирает из нескольких стратегий с некоторыми вероятностями, то он реализует смешанную стратегию. Использование смешанной стратегии позволяет лишить противника преимущества от знания чистой стратегии. Так как выигрыш при использовании смешанной стратегии имеет вероятностную природу, то его обычно характеризуют математическим ожиданием.
Антагонистическая игра – игра двух игроков, в которой выигрыш первого игрока равен проигрышу второго.
Статистическая игра – особая разновидность антагонистической игры, в которой один из игроков выбирает стратегии случайным образом. Часто в роли такого игрока выступает природа (этот «игрок» управляет, например, ветром при посадке самолета или дождем при
102
уличной торговле). Противоположностью статистической игре является игра с разумным противником.
Матричная игра – антагонистическая игра, в которой каждый игрок выбирает из конечного числа стратегий.
Игры также классифицируют по информированности участников. В играх с полной информацией все игроки знают величину выигрыша каждого игрока при всевозможных сочетаниях стратегий всех участников. В играх с неполной информацией участники вынуждены строить соответствующие предположения. Можно сказать, что игрок в этом случае играет не с настоящими противниками, а с некоторыми своими представлениями о них (такие игры – рефлексивные).
2.7.1. Матричная игра
Рассматрим один из самых простых видов игр – одношаговую матричную (антагонистическую) игру с разумными противниками с полной информацией.
Матрица задает выигрыши игроков. Стратегия первого игрока соответствует номеру строки, второго – номеру столбца (можно сказать, что они выбирают строку и столбец). Элемент на пересечении этих строки и столбца равен выигрышу первого игрока и проигрышу второго. Введем обозначения: i – номер стратегии, выбранной первым игроком (номер строки), j – номер стратегии, выбранной вторым игроком (номер столбца), aij – элемент матрицы на пересечении i-той строки и j-того столбца, выигрыш первого игрока. Игроки при своем выборе не знают о выбранной оппонентом стратегии, можно сказать, что выбор производится одновременно.
Итак, игра задается матрицей:
a |
a |
. . . |
a |
|
|
11 |
12 |
|
1n |
|
|
a21 |
a22 |
. . . |
a2n |
|
(2.61) |
A = |
. |
. . . |
. |
. |
|
. |
|
|
|||
|
am 2 |
. . . |
|
|
|
am1 |
amn |
|
|||
103
Матрица (2.61) называется матрицей игры или платежной мат-
рицей. Если первый игрок выбирает i-тую строку, то в худшем для себя (и лучшем для второго игрока) случае он получит выигрыш,
равный min aij . Так как игра идёт против разумного противника, пер-
j
вый игрок заинтересован в выборе стратегии i1, которая максимизирует его минимальный выигрыш α:
α = max min aij |
= ai |
j . |
(2.62) |
i j |
1 |
1 |
|
Величина α , определяемая формулой (2.62), называется нижней ценой игры, а стратегия i1 , обеспечивающая получение нижней цены игры, называется максиминной.
Аналогично рассуждает и второй игрок. При выборе j-той стратегии он исходит из того, что его проигрыш не превосходит максимального из значений j-того столбца матрицы (2.61), то есть он всегда
меньше или равен max aij . Второй игрок стремится уменьшить свой
i
проигрыш, выбрав стратегию j2, удовлетворяющую условию:
β = min max a = a |
. |
(2.63) |
|
j i |
ij |
i2 j2 |
|
Величина β называется верхней ценой игры, а соответствующая верхней цене стратегия j2 – минимаксной.
Для любой матричной игры справедливо соотношение α ≤β, то есть максимальный выигрыш, который может гарантировать себе первый игрок, не больше наименьшего проигрыша, который может гарантировать себе второй, при условии, что оба реализуют чистые стратегии.
При разумных действиях игроков фактический выигрыш первого игрока всегда не меньше α и не больше β.
Если выражения (2.62) и (2.63) дают одинаковый результат, то
есть выполняется: |
|
α = β =ν , |
(2.64) |
то величина v называется значением (ценой) игры. Цена игры v равна элементу матрицы ai0 j0 , который одновременно минимален в своей
104
строке и максимален в своем столбце. Такой элемент называется седловым элементом, пара чистых стратегий (i0, j0) – седловой точкой, а
сама игра – игрой с седловой точкой.
Если матрица игры имеет седловой элемент, то оптимальное решение игры определяется этим седловым элементом. Это решение является равновесием Нэша, то есть отклонение от него одного (любого) из игроков приводит к ухудшению для него же. Матричная игра может иметь несколько равновесий Нэша, причем все они равноценны: выигрыши первого игрока (и проигрыши второго) одинаковы во всех равновесиях.
Задача. Предварительно исключив доминируемые стратегии, найдите решение игры, заданной матрицей:
1 |
1 |
3 |
6 |
1 |
|
|
|
|
|
|
|
|
|
2 |
1 |
4 |
6 |
2 |
|
|
4 |
3 |
3 |
2 |
3 |
. |
(2.65) |
|
|
|
|
|
|
|
4 |
3 |
5 |
4 |
5 |
|
|
|
2 |
0 |
5 |
4 |
|
|
1 |
|
|
Решение
Начнем со сравнения между собой строк матрицы в целях поиска доминируемых стратегий. Все элементы первой строки не превосходят соответствующие элементы второй строки, следовательно, вторая стратегия доминирует первую по Парето. Иными словами, разумный игрок никогда не будет выбирать первую строку, так как вторая заведомо лучше (или хотя бы не хуже). Аналогично, четвертая строка доминирует третью. Больше доминирований нет. Исключаем первую и третью строки и получаем следующую матрицу:
2 |
1 |
4 |
6 |
2 |
|
|
|
|
|
|
|
|
|
|
|
4 |
3 |
5 |
4 |
5 |
. |
(2.66) |
|
|
1 |
2 |
0 |
5 |
4 |
|
|
|
|
|
|||||
В полученной матрице все стратегии первого игрока (строки) являются недоминируемыми. Проведем аналогичную проверку для второго игрока и исключим доминируемые стратегии (если они есть).
105
При этом необходимо учесть, что приведенные в таблице числа для второго игрока являются не выигрышами, а проигрышами, поэтому исключать будем столбцы с большими, а не меньшими значениями. Первый столбец является доминирующим относительно четвертого и пятого. Исключая четвертый и пятый столбцы, получим
2 |
1 |
4 |
|
|
|
|
|
|
|
|
|
4 |
3 |
5 |
. |
(2.67) |
|
|
1 |
2 |
0 |
|
|
|
|
|
|||
Возвращаясь к первому игроку, видим, что у него появилась доминантная стратегия: вторая строка доминирует по Парето (и по Слейтеру) первую и третью. После исключения доминируемых стратегий останется
(4 3 5). (2.68)
Очевидно, что теперь доминантная стратегия появилась и у второго игрока: она состоит в выборе второго столбца.
Таким образом, последовательно исключив доминируемые стратегии, мы получили равновесное состояние, в котором второй игрок проигрывает первому 3 единицы. В исходной матрице (2.65) это состояние соответствует четвертой строке и второму столбцу. Несложно убедиться, что это состояние является равновесием Нэша: первый игрок изменением стратегии (строки) может вместо 3 единиц выиграть 1, 3 или 2 единицы, а второй изменением столбца может вместо 3 проиграть 4 или 5 единиц. Таким образом, ни один из игроков не может получить улучшение отклонением от данного состояния.
Рассмотренный подход далеко не всегда позволяет решить задачу до конца, в большинстве случаев остается несколько недоминирумых строк и столбцов. Кроме того, при нескольких равновесиях Нэша и доминировании по Парето (но не по Слейтеру) при определенном невезении есть шанс исключить стратегии, образующие некоторые равновесия Нэша в чистых стратегиях.
Для иллюстрации нахождения равновесия с помощью формул (2.62) и (2.63), рассмотрим эту же задачу, начиная с матрицы (2.66).
106
Составим таблицу, дополнив матрицу (2.66) столбиком αi, в который выпишем минимумы из каждой строки, и строкой βj, в которую запишем максимумы столбцов.
Bj |
B1 |
|
B2 |
|
B3 |
B4 |
B5 |
αi |
Ai |
|
|
||||||
|
|
|
|
|
|
|
|
|
A1 |
2 |
1 |
|
4 |
6 |
2 |
1 |
|
A2 |
4 |
3 |
|
5 |
4 |
5 |
3 |
|
A3 |
1 |
2 |
|
0 |
5 |
4 |
0 |
|
βj |
4 |
|
3 |
|
5 |
6 |
5 |
α=3 |
|
|
β=3 |
||||||
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
|
Столбец αi содержит выигрыши, которые может гарантировать себе первый игрок независимо от стратегии второго. Строка βj содержит проигрыши, которые может гарантировать себе второй игрок (в том смысле, что он не проиграет больше этой величины) независимо от стратегии первого.
α= max min aij = max{1;3;0} = 3;
ij
β= min max aij = min{4;3;5;6;5} = 3.
ji
Так как α =β, то в игре существует седловая точка, которая определяет найденное нами ранее равновесие Нэша.
Задача. Найдите равновесия Нэша в игре, заданной матрицей:
1 |
2 |
|
(2.69) |
|
|
. |
|
|
0 |
|
|
5 |
|
|
Решение
Матрица не содержит доминируемых стратегий. Вычислим верхнюю и нижнюю границы игры.
α = max min aij |
= max{1;0} = 1; β = min max aij = min{5;2} = 2 . |
|
i |
j |
j i |
Так как α ¹β, |
матрица игры не содержит седлового элемента, |
|
равновесия Нэша в чистых стратегиях отсутствуют.
107
Найдём равновесие Нэша в смешанных стратегиях (оно существует в любой матричной игре). Обозначим х1 – вероятность выбора первой чистой стратегии (первой строки), а х2 – второй чистой стратегии (второй строки) первым игроком в рамках его смешанной стратегии. Аналогично, y1 и y2 – вероятности выбора первой и второй стратегий (столбцов) вторым игроком в рамках его смешанной стратегии.
Общая идея поиска смешанной стратегии состоит в том, чтобы для противника его чистые стратегии были равноценны, то есть давали бы одинаковые математические ожидания выигрыша.
Запишем соответствующую систему уравнений:
1x + 5x |
|
=ν ; |
|
||
1 |
|
|
2 |
=ν ; |
(2.70) |
2x1 + 0x2 |
|||||
x + x |
2 |
= 1. |
|
||
1 |
|
|
|
|
|
В системе (2.70) первое уравнение определяет математическое ожидание проигрыша второго игрока при выборе им первого столбца, а второе – при выборе второго столбца. Правые части этих уравнений совпадают. Третье уравнение связывает вероятности выбора стратегий (сумма вероятностей равна единице).
Решив систему (2.70), получим х1=5/6, х2=1/6, v=5/3. Это означает, что с вероятностью 5/6 первый игрок должен выбирать первую строку и с вероятностью 1/6 – вторую. Математическое ожидание выигрыша первого игрока составит 5/3. Отметим, что, в отличие от чистых стратегий, здесь рассматривается не «гарантированный выигрыш», а «гарантированное математическое ожидание выигрыша».
По аналогии с (2.70) составим систему уравнений для второго игрока:
1y1 + 2 y2 =ν ; |
|
||
|
|
|
(2.71) |
5 y1 + 0 y2 =ν ; |
|||
y + y |
2 |
= 1. |
|
1 |
|
|
|
Решив систему (2.71), получим y1=1/3, y2=2/3, v=5/3.
108
Таким образом, первый игрок выбирает первую строку с вероятностью 5/6, а вторую – с вероятностью 1/6. Второй игрок выбирает первый столбец с вероятностью 1/3, а второй – с вероятностью 2/3. За один розыгрыш первый игрок выигрывает у второго в среднем 5/3 ед.
Задача. Найдите равновесия Нэша в игре, заданной матрицей:
3 |
2 |
4 |
5 |
|
(2.72) |
|
|
|
|
. |
|
|
6 |
2 |
1 |
|
|
5 |
|
|
Решение
Матрица не содержит доминируемых стратегий. Вычислим верхнюю и нижнюю границы игры.
α = max min aij |
= max{2;1} = 2 ; β = min max aij = min{5;6;4;5} = 4 . |
i j |
j i |
Как и в предыдущей игре, α ¹β, матрица игры не содержит седлового элемента, равновесия Нэша в чистых стратегиях отсутствуют.
Найдём равновесие Нэша в смешанных стратегиях. Как и в предыдущей задаче, стратегия первого игрока описывается вероятностями х1 и х2. У второго игрока появился выбор из четырех стратегий. Обозначим их вероятности в рамках смешанной стратегии y1, y2, y3 и y4.
По аналогии с (2.70) запишем систему уравнений:
3x1 + 5x2 =ν ; |
|
|||||
2x + 6x |
2 |
= v; |
|
|||
|
1 |
|
|
|
|
|
|
|
|
|
|
=ν ; |
(2.73) |
4x1 + 2x2 |
||||||
5x +1x |
|
|
=ν ; |
|
||
|
1 |
|
2 |
|
|
|
|
+ x2 |
= 1. |
|
|||
x1 |
|
|||||
Система (2.73) содержит пять уравнений с тремя неизвестными. Эта система переопределена и несовместна. При других размерностях платежной матрицы может получиться недоопределенная система, а также система, имеющая в качестве единственного решения отрицательные значения некоторых вероятностей. Эти проблемы связаны с предположением, что необходимо сделать равноценными для про-
109
тивника все его стратегии, в том числе и заведомо плохие, которые он не будет включать в свою смешанную стратегию.
Отказ от этого предположения приводит к замене системы (2.73) следующей задачей линейного программирования:
v → max;
|
+ 5x2 |
³ v; |
3x1 |
||
2x1 + 6x2 |
³ v; |
|
|
|
(2.74) |
4x1 |
+ 2x2 |
³ v; |
5x1 +1x2 ³ v;
x1 + x2 =1.
В(2.74) равенство выполняется в тех ограничениях, которые соответствуют стратегиям второго игрока, входящим в его смешанную стратегию. В остальных ограничениях выполняется строгое неравенство, соответствующие стратегии дают большее математическое ожидание проигрыша второго игрока, чем v, их использование нецелесообразно.
Вслучае если у одного из игроков всего две стратегии, задача (2.74) имеет удобную графическую интерпретацию.
Исключим переменную x1, подставив x1=1– x2 во все неравенства
(2.74). |
|
|
|
|
v → max; |
|
|||
|
+ 2x2 |
³ v; |
|
|
3 |
|
|||
|
+ 4x2 |
³ v; |
(2.75) |
|
2 |
||||
4 - 2x |
|
³ v; |
|
|
|
|
2 |
|
|
|
- 4x2 |
³ v. |
|
|
5 |
|
|||
Построим графики зависимости левой части неравенств от x2 на отрезке x2Î[0; 1].
110
