5. Метод найшвидшого спуску.

Нехай є деяка точка x^s. Як перейти до нової точки x^s+1 так, щоб при розв’зані задачі

,

виконувалась нерівність ?

Нехай , де d=(d₁,...d_n) задає напрям, в якому зміщується точка х^s, а число >0 визначає крок зміщення в напрямку d. Якщо f(x^s+1)=f(x^s+d)<f(x^s) при деякому >0, то напрямок d назвемо підходящим (зрозуміло, для задачі мінімізації).

Оскільки f(x)C¹, то за формулою Тейлора маємо

, де , і, значить, напрямок d-підходящий, якщо . Оскільки f(x)C¹, то - неперервна функція від . Звідсі випливає , що при достатньо малому  ввиду близкості  та x^s, виконується також співвідношення (1).

Таким чином показали що при переході від точки x^s до точки x^s+1=x^s+d, >0, напрямок d- підходящий (f(x^s+1)<f(x^s)), якщо при достатньо малих  виконується співвідношення (1).

Градієнт являє собою вектор нормалі до поверхні рівня і його напрямок характеризує зростання функції. Крім градієнту f(x) розглянемо антиградієнт -f(x). Якщо вибрати в якості d напрямок, що складає гострий кут з антиградієнтом -f(x), то напрямок d- підходящий ( при переході від точки x^s до точки x^s+1 при достатньо малому >0 значення функції f(x) зменшиться). Дійсно, в цьому випадку виконується -^Tf(x^s)d>0 або ^Tf(x^s)d<0. Зокрема, якщо вибрати d=-f(x^s), то і швидкість зменшення функції f(x) (при нескінченно малому ) в напрямку d=-f(x^s) (антиградієнта) максимальна.

Якщо в якості підходящого напрямку d при розв’язані задачі мінімізації функції f(x) використовується антиградієнт (при максимізації - градієнт), то відповідний метод носить назву градієнтного. В градієнтних методах мінімізації функції f(x) початкову точку x⁰ вибирають довільну, а потім будують послідовні наближення за правилом

(2)

Такий перехід від точки x^s до точки x^s+1 зменшує значення функції f(x), якщо _s достатньо мале. Розглянемо вибір кроку _s на кожній ітерації градієнтного методу найшвидшого спуску. В цьому методі величина кроку _s в ітераційній процедурі (2) вибирається за правилом:

При фіксованому _s ми вимушені зупинятися в точці x^s+1на кожній ітерації, хоча напрямок -f(x^s) ще веде до зменшення цільової функції. В методі найшвидшого спуску рух після точки x^s+1 в напрямку -f(x^s) вже не приведе до зменшення цільової функції.

Метод найшвидшого спуску обгрунтовується наступною теоремою.

Т. Нехай

1. ф-ція f(x) (хєЕⁿ) непер-но диф-на (f(x)C¹)

2. мінімум f(x) існує (minf(x)>-)

3. множина R(x⁰)={x:f(x)f(x⁰)}- обмежана.

Тоді:

а) якщо метод найшвидшого спуску закінчується за скінченне число ітерацій N,то отримаємо

;

б) якщо метод найшвидшого спуску не закін-ся за скінченне число ітерацій,то послідовність {f(x^s)} збігається і для кожної граничної точки послідовності {x^s} виконується .

6. Оптимальні чисті стратегії у матричній грі. Теорема про мінімакс.

Матричну гру визначимо наступними правилами. Грають два гравці I₁ та I₂. Перший з них вибирає число i, , другий - число j, . Вибір гравцями чисел відбувається одночасно і незалежно один від одного. Перший гравець платить другому суму c_ij, що визначається умовами конкретної гри (якщо c_ij>0, то 1-й гравець платить другому, якщо c_ij<0, то навпаки, 2-й - 1-му). Величини c_ij відомі кожному з гравців. Потрібно вказати найкращий вибір для кожного гравця.

Розглянемо матрицю

і назвемо її платіжною матрицею чи матрицею виграшів 2-го гравця. Відповідно, вибір числа i 1-м гравцем можна вважати за вибір i-го рядка матриці С, а вибір числа j 2-м гравцем - за вибір j-го стовпчика матриці С.

Назвемо змішаною стратегією гравця I₁ вектор-рядок , , а змішаною стратегією гравця I₂ - вектор-стовпчик ,. Величини трактуються як ймовірності, з якими гравці I₁ та I₂ вибирають відповідно i-й рядок та j-й стовбчик матриці С.

Якщо для деякої стратегії виконується , а інші , то ця стратегія називається і-ю чистою стратегією гравця I₁ . Аналогічно визначається j-та чиста стратегія гравця I₂.

Роглянемо матричну гру двох осіб з платіжною матрицею , з точки зору гравця I₂. Він отримує від 1-го гравця що найменше . Так як другий гравець хоче зробити виграш максимальним і може вибрати стовбчик матриці С довільно, він обирає j таким, яке максимізує . При цьому гарантований виграш 2-го гравця (нижня ціна гри) складає

Аналогічним чином можна розглянути цю ж гру з точки зору гравця I₁. При цьому 2-й гравець отримає що найбільше

Величина є верхньою ціною гри.

Якщо

1) або (1)

якщо існують такі числа i^*, j*, що в співвідношенні (1) виконується , то вони називаються оптимальними рішеннями гравців I₁ та I₂ відповідно, то v - ціна гри, а сама гра допускає рішення в чистих стратегіях.

Вектори

називають оптимальними чистими стратегіями гравців I₁ та I₂ відповідно.

Теорема. Матрична гра двох осіб з платіжною матрицею , розв’язується в чистих стратегіях (має місце співвідношення (1)) тоді і тільки тоді, коли матриця С має сідлову точку. При цьому, якщо (i^*,j^*) - сідлова точка С, то ціна гри .

Нагадаємо, що (i^*,j^*) - сідлова точка матриці ,, якщо для всіх вказаних і та j

Теорема про мінімакс. Довільна матрична гра має розв’язок в змішаних стратегіях.

8