- •11. Многомерные методы экспериментальной оптимизации.
- •12. Симплекс-метод экспериментальной оптимизации. Последовательный симплексный метод Этот метод требует проведения минимально возможного числа опытов при определении направления движения.
- •13. Метод Бокса-Уилсона.
- •14. Анализ главных компонент. Вычислительная процедура.
- •15. Анализ главных компонент. Геометрическая интерпретация.
- •16. Модель и основная теорема факторного анализа.
- •17. Основные этапы факторного анализа
- •18. Меры близости и различия в кластерном анализе. Функции расстояния и сходства Неотрицательная вещественная функция называется функцией расстояния (метрикой), если:
- •19. Метод k-средних в кластерном анализе.
- •20. Иерархический кластерный анализ. Проблема индексации.
- •21. Графическое представление результатов кластерного анализа.
- •22. Многомерное шкалирование. Метрический и неметрический подходы.
- •23. Многомерное шкалирование. Теорема Янга-Хаусхолдера. Метрическое шкалирование в метрическом шкалировании укажем два метода: ординация Орлочи и метод главных проекций Торгерсона.
- •24. Ортогональные методы многомерного шкалирования.
- •25. Неметрическое шкалирование. Схема алгоритма Каскала.
- •26. Критерии качества шкалирования.
12. Симплекс-метод экспериментальной оптимизации. Последовательный симплексный метод Этот метод требует проведения минимально возможного числа опытов при определении направления движения.
Симплексом в n-мерном пространстве называют многогранник с (n+1)-й вершиной. Если расстояния между вершинами симплекса одинаковы, такой симплекс называют регулярным. Симплексный метод включает в себя следующие основные процедуры:
1. Линейное преобразование входных переменных с таким расчетом, чтобы изменение каждой из них на единицу одинаково сказывалось бы на изменении выходной переменной.
2. Построение регулярного симплекса и реализация опытов в вершинах симплекса.
3.
Отбрасывание вершины с минимальным
значением целевой величины и построение
нового симплекса, который образуется
оставшимися вершинами исходного
симплекса и новой вершиной, получаемой
зеркальным отображением отброшенной
вершины относительно противоположной
ей
-мерной
грани исходного симплекса. Координаты
этой новой вершины рассчитываются по
формуле:
,
где
−
номер отброшенной вершины.
4.
Проведение эксперимента в вершине
и возврат к п. 3. Если оказывается, что
выходная переменная в новой вершине
приняла значение меньшее, чем в остальных
вершинах симплекса, то следует возвратиться
к предыдущему симплексу. Во избежание
зацикливания в качестве отбрасываемой
выбирают вершину, в которой выходная
переменная имеет величину, следующую
по порядку за наихудшей вершиной
симплекса. Аналогично следует поступать,
если новая вершина выходит за пределы
симплекса.
5.
Если при перемещении симплекса за
шагов некоторая вершина сохраняет свое
положение, то симплекс совершит оборот
относительно этой вершины. Это означает
достижение области оптимума. Другим
условием достижения оптимума является
выполнение неравенства:
,
где
– малая величина (порог),
–
среднее значение выходной величины в
вершинах симплекса.
К числу достоинств симплексного метода наряду с экономичностью по числу опытов и простотой вычислений следует отнести также возрастание эффективности метода с ростом числа входных переменных, устойчивость выделения направления движения, поскольку оно определяется только соотношением целевых величин, а не их абсолютными значениями.
Графическая иллюстрация симплексного метода при двух входных переменных приведена на рис.5. Здесь поверхность отклика задается линиями уровня.
x2 x1
Рис. 5. Схема последовательного симплексного метода
13. Метод Бокса-Уилсона.
На основе малой серии опытов строится линейное описание поверхности отклика в окрестности начальной точки. В центре этой локальной области определяется значение градиента, после чего начинаются опыты в направлении градиента. Бокс и Уилсон предложили использовать дробные факторные планы для поиска линейной модели. Метод состоит из последовательности циклов, каждый из которых содержит два шага.
1.
Построение линейной модели в окрестности
некоторой начальной точки
с
использованием подходящего факторного
плана. Окрестность начальной точки,
определяемая интервалами варьирования
переменных, должна быть не слишком
малой, чтобы можно было выявить линейные
эффекты на фоне случайных возмущений,
и не настолько большой, чтобы обеспечить
адекватность линейного приближения.
Соотношение между интервалами варьирования
по отдельным переменным должно быть
таким, чтобы величины коэффициентов
регрессии в случае их значимости имели
бы одинаковый порядок. В случае
адекватности линейной модели
коэффициенты регрессии
совпадают с компонентами градиента,
т.е.
![]()
,
где i,
j,…,k
– направляющие векторы осей координат.
Обычно переходят к нормированному
градиенту делением его компонент на
норму
либо просто на
.
Компоненты нормированного градиента
обозначим
.
2.
Пошаговое увеличение величины целевой
функции (движение в направлении
градиента). Координаты точки наблюдения
на
-м
шаге при движении в направлении градиента
определяются по формуле:
,
где
≥1
– параметр, позволяющий управлять
величиной шага, а следовательно, скоростью
движения. Чем ближе исследователь
подходит к стационарной области, тем
меньше
.
Движение в направлении градиента
продолжается до тех пор, пока возрастают
значения выходной переменной. В противном
случае вновь реализуют факторный план,
находят новое линейное приближение и
цикл повторяется снова. Если же модель
оказывается неадекватной, то это
означает, что исследователь либо достиг
стационарной области, либо необходимо
линейную модель дополнить взаимодействиями.
В стационарной области метод Бокса−Уилсона
неработоспособен, здесь необходимо
переходить к квадратичным моделям.
Геометрическая интерпретация метода приведена на рис.4. Здесь поверхность отклика задается линиями уровня.
x2
x1

Рис. 4. Схема метода Бокса–Уилсона
Рассмотрим в качестве примера использование метода Бокса−Уилсона для поиска максимума функции
.
(6.11)
Допустимая область
изменения переменных: 0х120,
0х210,
1х315.
Начальная точка поисках0=
=(3,2,4).
Линейное приближение будем строить в
окрестности начальной точки, задаваемой
условиями:
,i=1,2,3.
Значенияi
желательно подбирать такими,
чтобы приращения функции по каждому из
аргументов были сопоставимы, то есть
![]()
.
Примем 1=1,2=2,3=3.
В соответствии с (6.1) стандартизованная
переменная
,
если
,
и
при
.
Линейная модель
требует для своей оценки не менее четырех
экспериментов. Воспользуемся ДФЭ 23-1с ГС:
(табл. 16).
Таблица 16
|
i |
х1ст |
х1 |
х2ст |
х2 |
х3ст |
х3 |
y |
|
1 |
1 |
4 |
1 |
4 |
1 |
7 |
40,8 |
|
2 |
-1 |
2 |
1 |
4 |
-1 |
1 |
26,2 |
|
3 |
1 |
4 |
-1 |
0 |
-1 |
1 |
24,4 |
|
4 |
-1 |
2 |
-1 |
0 |
1 |
7 |
25,4 |
В последнем столбце табл.16 содержатся значения функции (6.11) для исходных переменных, то есть 40,8=у(4,4,7)и так далее.
МНК-оценки коэффициентов линейной модели составят:
;
;
.
Отнормируем
полученные компоненты градиента, поделив
их на максимальное значение
:
b1=3,4/4,3=0,79,b2=1,b3=0,91.
Движение в направлении градиента
представлено в табл.17.
Таблица 17
|
Формулы для вычисления компонент вектора |
Номера компонент вектора |
у | ||
|
1-я |
2-я |
3-я | ||
|
х0 |
3 |
2 |
4 |
31,3 |
|
i |
1 |
2 |
3 |
|
|
bi |
0,79 |
1 |
0,91 |
|
|
bii |
0,79 |
2 |
2,73 |
|
|
x0+1bii |
3,79 |
4 |
6,73 |
39,9 |
|
x0+2bii |
4,58 |
6 |
9,46 |
46,4 |
|
x0+3bii |
5,37 |
8 |
12,19 |
50,6 |
|
x0+4bii |
6,16 |
10 |
14,91 |
52,6 |
Движение в направлении градиента после четвертого шага невозможно из-за ограничения на х3. Теперь следует определить градиент в точкеx0+3bii. Поскольку темп роста функции замедлился на последних шагах, область линейного описания следует сузить, уменьшив значенияi.
