23.5 Стохастические разностные методы. Методы конечных разностей в стохастическом программировании.
В методе стохастической аппроксимации рассматриваются итеративные процедуры поиска, определяемые соотношениями
(23.3.17)
Если при каждом градиент аналитически вычислить трудно, то рассматривается разностный вариант метода, в котором градиент определяется численно:
, (23.3.18)
где – орт -й оси; – результаты независимых наблюдений за состоянием природы ; – длина шага; – смещение.
Статистические методы поиска нелинейного программирования
С помощью метода СКГ можно решать задачи не только стохастического, а и нелинейного программирования, в которых по каким-то обстоятельствам вычислить значения трудно (или невозможно). В случае, если неизвестен аналитический вид функции , то вычислить непрерывные производные невозможно и тогда используют разностный аналог градиента
, (23.3.24)
где – орт -й оси; – смещение вдоль -й оси. Если – достаточно велико , то вычисление численного значения градиента требует больших затрат. В этом случае отказываются от использования направления градиента и используют любое допустимое направление такое, что угол между и меньше 90. В частности, оказывается целесообразным использовать методы случайного поиска, которые представляют собой частный случай метода СКГ [40].
Рассмотрим случайный вектор с независимыми и равномерно распределенными на интервале [–1, 1] компонентами и положим
, (23.3.25)
где – серия независимых наблюдений вектора в -й итерации ; . Случайные величины , считаются всюду измеримыми по Борелю. Нетрудно показать, что
, (23.3.26)
где – некоторый случайный вектор, причем . Итак для минимизации можно применить метод СКГ вида в котором вектор вычисляется в соответствии с (8.3.25). Поскольку вторые производные функции считаются ограниченными, то и величины , , следует выбирать так, чтобы выполнялись условия
, ,
, .
В этом случае последовательность будет сходиться к точке минимума .
23.6 Стохастические задачи с ограничениями вероятностей природы.
К одноэтапным задачам стохастического программирования относятся задачи, в которых решения принимаются на основе известных стохастических характеристик распределения случайных параметров условий задачи до наблюдения за их реализациями. При этом должно приниматься наилучшее в среднестатистическом смысле решение.
Постановки задач стохастического программирования различаются по трем признакам: 1) характеру решений; 2) выбору показателя качества решения (критерия); 3) способу декомпозиции ограничений задачи.
Ограничение на вид функции. В задаче стохастического программирования обычно принимают такие функционалы, как математическое ожидание или дисперсия целевой функции, или вероятность превышения целевой функцией некоторого порога.
Задачи
с целевой функцией вида
называют
М-моделями, задачи в которых требуется
минимизировать дисперсию
называют
V-моделями, а стохастические задачи, в
которых максимизируется вероятность
,
называют Р-моделями.
В
последнюю группу моделей включают также
и задачи, где требуется минимизировать
порог
,
который не должен быть превышен с
заданной вероятностью
,
например:
минимизировать
при условии
.
Ограничения могут быть представлены в одной из следующих форм:
а)
б)
в)
Рассмотрим некоторые варианты моделей одноэтапных задач стохастического программирования.
1. Пусть задана задача линейного стохастического программирования с вероятностными ограничениями типа а):
максимизировать (23.1.1)
при условиях
;
(23.1.2)
.
(23.1.3)
При
детерминированной матрице
и
случайном векторе
задача
(23.1.1)–(23.1.3) сводится к эквивалентной
детерминированной задаче ЛП следующим
образом.
Пусть
–
совместная плотность распределения
составляющих
случайного
вектора
.
Находим плотность распределения
:
Вычислим
из
уравнения
.
(23.1.4)
Если решение уравнения (23.1.4) неединственно, то в качестве выберем наибольший корень.
Очевидно, что условия (23.1.2) при этом эквивалентны неравенствам
,
где удовлетворяет соотношениям (23.1.4). Отсюда следует, что задаче стохастического программирования (23.1.1)–(23.1.3) будет эквивалентна следующая детерминированная задача ЛП:
(23.1.5)
при условиях
,
(23.1.6)
,
(23.1.7)
где
;
–
корень уравнения
,
или
,
–
функция распределения случайной величины
.
Для
стохастической задачи (23.1.1)–(23.1.3) с
детерминированной матрицей
можно
записать двойственную задачу с
вероятностными ограничениями.
Рассмотрим задачу
(23.1.8)
при условиях
,
(23.1.9)
.
(23.1.10)
Ее
решение определяется в виде
детерминированного вектора. Пусть
–
функция распределения случайного
коэффициента
функции
(23.1.1), т.е.
.
Если
,
то запись
эквивалентна
записи
.
Задача (23.1.8)–(23.1.10) может быть переписана
в виде
(23.1.11)
при условии
.
(23.1.12)
Сравнивая
эту задачу с исходной (23.1.1)–(23.1.3),
убеждаемся, что при
следующие
две одноэтапные задачи стохастического
программирования с вероятностными
ограничениями представляют собой
двойственную пару:
;
(23.1.13)
.
(23.1.14)
2.
Рассмотрим теперь более общий случай,
когда А
– случайная матрица. Пусть элементы
матрицы А
и составляющие вектора
–
независимые между собой, нормально
распределенные случайные величины:
,
т.е.
–
случайная нормально распределенная
величина с математическим ожиданием
и
дисперсией
.
Пусть, кроме того, в условиях (8.1.2),
Покажем, что при таких предположениях стохастическая задача (23.1.1)–(23.1.3) сводится к детерминированной задаче выпуклого программирования с линейной целевой функцией и квадратичными ограничениями.
Действительно,
при принятых допущениях невязка
-го
условия – случайная величина
–
является нормально распределенной
величиной с математическим ожиданием
и дисперсией
,
т.е.
.
Тогда
условия
эквивалентны
неравенствам
,
(23.1.15)
или (что то же самое)
.
(23.1.16)
Обозначив
,
последнее неравенство (23.1.16) приведем
к виду
,
откуда
.
Учитывая
выражения для
,
получим окончательно
.
(23.1.17)
Согласно
с допущением
.
Поэтому
,
и можно убедиться, что область, определяемая
условиями (8.1.17), выпуклая.
Аналогичный
результат получим, когда случайные
элементы строки
-го
условия
коррелированы
между собой.
Введем следующие обозначения:
Тогда, рассуждая, как и выше, получим
.
(23.1.18)
Если
матрица
положительно
определенная, и
,
,
то допустимое множество решений, которое
задается (23.1.18), будет выпукло.
Итак, при принятых выше допущениях линейная стохастическая задача (23.1.1)–( 23.1.3) с вероятностными ограничениями сводится к детерминированной задаче выпуклого программирования вида
при условии
,
.
3. Рассмотрим задачу стохастического программирования, заданную Р-моделью:
минимизировать (23.1.19)
при условии
.
(23.1.20)
Будем
считать, что случайные коэффициенты
,
распределены нормально с математическим
ожиданием
и
корреляционной матрицей
,
где
.
При принятых допущениях линейная форма
распределена
с математическим ожиданием
и
дисперсией
.
Поэтому соотношение (23.1.20) может быть
переписано в виде
.
(23.1.21)
Отсюда следует, что минимизация при условии (8.1.20) эквивалентна минимизации
.
При
представляет
собой выпуклую вниз функцию по переменным
.
Таким образом, при сделанных допущениях
задаче стохастичного программирования
вида:
минимизировать (23.1.22)
при условиях
,
(23.1.23)
, , (23.1.24)
соответствует следующий детерминированный эквивалент:
(23.1.25)
при условии
,
(8.1.26)
.
Задача (23.1.25), (23.1.26) представляет собой задачу выпуклого программирования. Для ее решения можно применить теорему Куна-Таккера, или использовать один из вариантов метода возможных направлений и прочие методы НП.