Тема 2.3 Динамическое программирование
Динамическое программирование – раздел оптимального программирования (оптимального управления), в котором процесс принятия решения и управления, может быть разбит на отдельные этапы (шаги). Все шаги могут быть уникальными или одинаковыми и чередоваться друг с другом. Некоторые задачи оптимизации легко разделяются на шаги естественным способом, а для других вводится искусственное разделение на шаги.
Динамическое программирование позволяет свести одну сложную задачу со многими переменными ко многим задачам с малым числом переменных. Это значительно сокращает объем вычислений и ускоряет процесс принятия управленческого решения.
Экономический процесс является управляемым, если можно влиять на ход его развития.
Управление – совокупность решений, принимаемых на каждом этапе для влияния на ход развития процесса.
Операция – управляемый процесс, т.е. мы можем выбирать какие-то параметры, влияющие на ход процесса и управлять шагами операции, обеспечивать выигрыши на каждом шаге и в целом за операцию.
Решение на каждом шаге называется «шаговым управлением». Совокупность всех шаговых управлений представляет собой управление операцией в целом.
Примерами задач, решаемых методом динамического программирования, могут быть: распределение ресурсов (финансовых, сырьевых, материальных и т.д.) между предприятиями, замена или ремонт промышленного оборудования, прокладка коммуникаций (трубопроводов, дорог и т.д.) и пр. В этих задачах, как правило, в качестве шагов выступают отрезки времени, которые явно задаются в условии задачи.
Требуется найти такое управление (х), при котором выигрыш обращался бы в максимум:
где F– выигрыш за операцию;
Fi(xi) – выигрыш наi-мшаге;
х – управление операцией в целом;
хi– управление наi-мшаге(i=1,2,…,m).В общем случае шаговые управления(х1, х2, … хm)могут стать числами, векторами, функциями.
То управление (х*), при котором достигается максимум, называется оптимальным управлением. Оптимальность управления состоит из совокупности оптимальных шаговых управленийх* = х*1, х*2, … х*m
F* = max {F*(х*)} –максимальный выигрыш, который достигается при оптимальном управлении х*.
Исходя из условий, каждой конкретной задачи длину шага выбирают таким образом, чтобы на каждом шаге получить простую задачу оптимизации и обеспечить требуемую точность вычислений.
Нахождение кратчайшего пути
Выбор оптимального решения на конкретном шаге не дает гарантии получения оптимального решения всей задачи. Поэтому для получения оптимального решения в задаче иногда приходится выбирать не лучшее решение на конкретном шаге. Планирование многошаговой задачи сводится к выбору такого решения на каждом шаге, которое учитывает последствие на следующих шагах. На текущем шаге выбирается не лучшее решение, а то, которое предполагает максимальную сумму выигрыша от всех оставшихся шагов. Поэтому выполнять вычисления в задачах ДП удобнее от конца к началу. Выполняя вычисление по последнему шагу, делается ряд предположений, как закончился предыдущий шаг и для каждого предположения найти условно оптимальное решение до первого шага. Т.о. будут найдены условно-оптимальные решения на каждом шаге. Далее выполняется переход от условно-оптимального к безусловно-оптимальному решению. Вычисления идут от первого шага к последнему, используя полученные условно-оптимальные решения.
Распределение ресурсов
Общий подход к решению задач распределения ресурсов тот же, но имеют некоторые особенности. Распределить некоторый ресурс, например, финансы в объеме Sмежду предприятиямиP1,P2,Pn. Вложение в каждое предприятие должно приносить дополнительную прибыль. Чем больше сумма финансовых вложений в предприятие, тем больше дополнительный доход. Но может быть так, что начиная с какого-то момента, дополнительная прибыль не увеличивается, т. е. предприятие не может освоить выделенные ресурсы.
Задача распределения ресурсов стоит так: как распределить выделенные ресурсы между предприятиями, чтобы суммарный доход от всех предприятий был максимальным. Распределяемые ресурсы выделяются порциями, распределенные во времени. Перед каждым шагом имеется некоторая сумма Sеще не распределенных ресурсов. На каждом шаге предприятиям назначаются ресурсыx1,x2,xn. Требуется найти оптимальное сочетаниеx1,x2,xn, при котором совокупный доход максимален.
Оптимизацию начинаем с последнего шага m. На этом шаге остаток ресурсовS. Их нужно назначить последнему предприятиюPn. Оптимальное решение будет выглядитxn(S)=S. Условно-оптимальный доход составитLm(S)=αm(S). На предпоследнем шагеn-1 запас ресурсовS, а условно-оптимальный доход на двух последних шагах,Ln-1(S)Если на предпоследнем шаге будут выделены ресурсыx, то на последнем шаге ресурсов останетсяS-xи условно—оптимальный жоход на двух последних шагах составитLn-1(S)=αn-1(S)+Ln(S-x) и нужно найти такойx, чтобы доход был максимальным.
Дойдя до первого шага будем иметь начальное значение ресурсов Q, поэтому условно-оптимальный доход составит:L=max{α1(x)+L2(Q-x)}. Далее выполнить обратное вычисление и уточнить распределение ресурсов.
Принцип оптимальности Беллмана
Основным методом динамического программирования является метод рекуррентных соотношений; который основывается на использовании принципа оптимальности, разработанного американским математиком Р.Беллманом.
Суть принципа:
Каковы бы ни были начальное состояние на любом шаге и управление, выбранное на этом шаге, последующие управления должны выбираться ОПТИМАЛЬНЫМИ относительно состояния, к которому придет система в конце каждого шага.
Использование данного принципа гарантирует, что управление, выбранное на любом шаге, не локально лучше, а лучше с точки зрения процесса в целом.
Условная
оптимизация
Безусловная оптимизация
Si – состояние системы наi-мшаге. Основная рекуррентная формула динамического программирования в случае решения задачи максимизации имеет вид:
,
где максимум в данной формуле берется
по всем возможным решениям в ситуации,
когда система на шаге mнаходится
в состоянииi.
Величина fm(i)– есть максимальная прибыль завершения задачи из состоянияi, если предположить, что на шагеm, система находится в состоянииi.
Максимальная прибыль может быть получена максимизацией суммы прибылей самого шага m и максимальной прибыли шага(m+1) и далее, чтобы дойти до конца задачи.
Планируя многошаговую операцию надо выбирать управление на каждом шаге с учетом всех его будущих последствий на ещё предстоящих шагах.
Управление на i-м шаге выбирается не так, чтобы выигрыш именно на данном шаге был максимальным, а так, чтобы была максимальна сумма выигрышей на всех оставшихся шагах плюс данный шаг.
Среди всех шагов последний шаг планируется без оглядки на будущее, т.е. чтобы он сам, как таковой принес наибольшую выгоду.
Задача динамического программирования решается в два этапа:
1 этап (от конца к началу по шагам):Проводится условная оптимизация, в результате чего находится условные оптимальные управления и условные оптимальные выигрыши по всем шагам процесса.
2 этап (от начала к концу по шагам):Выбираются (просчитываются) уже готовые рекомендации от 1-го шага до последнего и находитсябезусловное оптимальное управлениех*, равныйх*1, х*2, …, х*m.
Пример. Имеется запас средств, который нужно распределить между предприятиями, чтобы получить наибольшую прибыль. Пусть начальный капитал S0=100 д.ед. Функции дохода предприятий даны в матрице прибылей по каждому предприятию.
|
Х |
1 предприятие f (х1) |
2 предприятие f (х2) |
3 предприятие f (х3) |
4 предприятие f (х4) |
|
20 |
3 |
2 |
3 |
3 |
|
40 |
4 |
5 |
4 |
6 |
|
60 |
9 |
8 |
9 |
8 |
|
80 |
11 |
7 |
5 |
7 |
|
100 |
12 |
15 |
12 |
14 |
Используем принцип Беллмана. Каковы бы ни были начальное состояние на любом шаге и управление, выбранное на этом шаге, последующие управления должны выбираться оптимальными относительно состояния, к которому придет система в конце каждого шага.
Использование данного принципа гарантирует, что управление, выбранное на любом шаге, не локально лучше, а лучше с точки зрения процесса в целом.
Схема решения:
Математическая модель задачи:
Экономический смысл переменных:
xi – количество денег, вкладываемых в i предприятие.
Si– количество денег, оставшихся после вложения в i-предприятие (состояние системы на i-шаге);
F(xi)– прибыль от вложенной суммы денег;
S0– начальный капитал.
Рассмотрим 4-й шаг:
На 4-ом предприятии может остаться либо 0, либо 20, либо 40, либо 60, либо 80, либо 100 ден. ед. Тогда прибыль от вложения денег можно получить следующую.
-
S3
Х4
f (x4)
F4
0
0
0
0
20
20
3
3
40
40
6
6
60
60
8
8
80
80
7
7
100
100
14
14
Рассмотрим 3-й шаг:
На 3-ем и 4-ем предприятии может остаться либо 0, либо 20, либо 40, либо 60, либо 80, либо 100 ден. ед. Рассмотрим первую возможность. Если 3-му предприятию мы выдаем 20 ден. ед. то 4-му предприятию ничего не остается, и наоборот. Соответственно 40 ден. ед. можно поделить так (0;40), (20;20);
60 ден. ед. – (0;60), (20;40), (40;20), (60;0).
Прибыль от вложения денег в 3-е предприятие берется в исходной матрице прибылей, а прибыль от вложений, денег в 4-е предприятие берется из таблицы предыдущего шага
Прибыль на 3-м шаге берется максимальной по каждому вложению.
|
Вклад |
Проект |
Остаток |
Прибыль из матрицы |
Прибыль за шаг |
|
Прибыль на шаге |
|
S2 |
Х3 |
S3 |
f (x3) |
F4 |
f+F |
F3 |
|
0 |
0 |
0 |
0 |
0 |
0 |
0 |
|
20 |
0 |
20 |
0 |
3 |
3 |
3 |
|
20 |
0 |
3 |
0 |
3 | ||
|
40 |
0 |
40 |
0 |
6 |
6 |
6 |
|
20 |
20 |
3 |
3 |
6 | ||
|
40 |
0 |
4 |
0 |
4 | ||
|
60 |
0 |
60 |
0 |
8 |
8 |
9 |
|
20 |
40 |
3 |
6 |
9 | ||
|
40 |
20 |
4 |
3 |
7 | ||
|
60 |
0 |
9 |
0 |
9 | ||
|
80 |
0 |
80 |
0 |
7 |
7 |
12 |
|
20 |
60 |
3 |
8 |
11 | ||
|
40 |
40 |
4 |
6 |
10 | ||
|
60 |
20 |
9 |
3 |
12 | ||
|
80 |
0 |
5 |
0 |
5 | ||
|
100 |
0 |
100 |
0 |
14 |
14 |
15 |
|
20 |
80 |
3 |
7 |
10 | ||
|
40 |
60 |
4 |
8 |
12 | ||
|
60 |
40 |
9 |
6 |
15 | ||
|
80 |
20 |
5 |
3 |
8 | ||
|
100 |
0 |
12 |
0 |
12 |
Рассмотрим 2-й шаг:
|
Вклад |
Проект |
Остаток |
Прибыль из матрицы |
Прибыль за шаг |
|
Прибыль на шаге |
|
S1 |
Х2 |
S2 |
f (x2) |
F3 |
f+F |
F2 |
|
0 |
0 |
0 |
0 |
0 |
0 |
0 |
|
20 |
0 |
20 |
0 |
3 |
3 |
3 |
|
20 |
0 |
2 |
0 |
2 | ||
|
40 |
0 |
40 |
0 |
6 |
6 |
6 |
|
20 |
20 |
2 |
3 |
5 | ||
|
40 |
0 |
5 |
0 |
5 | ||
|
60 |
0 |
60 |
0 |
9 |
9 |
9 |
|
20 |
40 |
2 |
6 |
8 | ||
|
40 |
20 |
5 |
3 |
8 | ||
|
60 |
0 |
8 |
0 |
8 | ||
|
80 |
0 |
80 |
0 |
12 |
12 |
12 |
|
20 |
60 |
2 |
9 |
11 | ||
|
40 |
40 |
5 |
6 |
11 | ||
|
60 |
20 |
8 |
3 |
11 | ||
|
80 |
0 |
7 |
0 |
7 | ||
|
100 |
0 |
100 |
0 |
15 |
15 |
15 |
|
20 |
80 |
2 |
12 |
14 | ||
|
40 |
60 |
5 |
9 |
14 | ||
|
60 |
40 |
8 |
6 |
14 | ||
|
80 |
20 |
7 |
3 |
10 | ||
|
100 |
0 |
15 |
0 |
15 |
Рассмотрим 1-й шаг:
|
Вклад |
Проект |
Остаток |
Прибыль из матрицы |
Прибыль за шаг |
|
Прибыль на шаге |
|
S0 |
Х1 |
S1 |
f (x1) |
F2 |
f+F |
F1 |
|
100 |
0 |
100 |
0 |
15 |
15 |
15 |
|
20 |
80 |
3 |
12 |
15 | ||
|
40 |
60 |
4 |
9 |
13 | ||
|
60 |
40 |
9 |
6 |
15 | ||
|
80 |
20 |
11 |
3 |
14 | ||
|
100 |
0 |
12 |
0 |
12 |
Анализ результатов:
Максимальная прибыль равна 15 д.ед. Расположить денежные средства между проектами можно несколькими способами:
1 предприятие – 0ден. ед., 2 предприятие –0ден. ед., 3 предприятие – 60ден. ед., 4 предприятие т – 40ден. ед.
1 предприятие – 0ден. ед., 2 предприятие –100ден. ед., 3 предприятие – 0ден. ед., 4 предприятие – 0ден. ед.
1 предприятие – 20ден. ед., 2 предприятие –0ден. ед., 3 предприятие – 60ден. ед.., 4 предприятие – 20ден. ед.
1 предприятие – 60ден. ед., 2 предприятие –0ден. ед., 3 предприятие – 20ден. ед., 4 предприятие – 20ден. ед.
1 предприятие – 60ден. ед., 2 предприятие –0ден. ед., 3 предприятие – 0ден. ед., 4 предприятие т – 40ден. ед.